这确实是一个相当好的绕过tokens长度限制解决方案，我尝试将这个方案整理一下。🧵

sign_in_with_google

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

27392 位用户此时在线

24小时点击排行 Top 10：

2024-6-16 今日热点汇总：美国密歇根州一水上乐园发生大规模枪击；凯尔王妃确诊癌症后首次露面；美警搜身男子遭遇枪击，警察反击清空弹夹；因旅行团黑在日本，多家旅行社被撤销签证资格；中国从俄罗斯购买了 2000 吨铜不翼而飞；大学生返乡建设农村遭遇政府暴力打砸；农村老人向乌克兰捐款 1000 元，遭到警察审讯；南方医科大学教师因救人上课迟到，被校方处罚并且扣除奖金；比 996 还狠，宁德时代强制员工 896 加班，外籍员工除外

有网友用延时摄影记录下了五年前、即2019年，香港的民主游行过程。

深圳特區出現流浪少女

太吓人了！

世界第一安全的國家

黃河不會倒流，但可以更狠，直接亙古未見地斷流！

“务农12年，我深刻理解了农民二字的含义” 6月16日，一则7分钟的视频，道尽了农民的辛酸与不易。辽宁大连一女子发视频称，99年父母变卖房产承包了一座荒山，从此一家人搬进山里，靠养羊维持生计，2012年大学毕业后，她和丈夫一起在山上种植樱桃，原本以为从此可以过上与世无争的生活。

青島教練虐待兒童

第一次跟相亲对象吃饭,进门没想到看到这一幕,男子转身就走了,可有这样的智慧

男生电动车带人被罚20元,后座女子痛哭:够买3个烧饼够狠的啊，自己都舍不得吃的三个烧饼就这样被别人给抢走了。

在澳中两国总理新闻发布会上，多名中方人员刻意站在成蕾和摄像机之间，防止她被现场镜头拍到，即便成蕾挪了位子依然尾随骚扰成蕾刚刚接受采访，说他们应该是怕她做点什么弄的很难看（其实多虑了），但这种笨拙的防范本身反而让中方显得很难看相信这会成为这次李强来访在澳洲媒体上最火热的话题😂

一年级小学生怒斥共产党，世界上最不要脸的共产党，祸害全体中国人民。共产党是十足的畜生，是披着人皮的恶魔鬼魂，是十足的邪教组织。

长得很漂亮，但是她老公心理很强大😂🥹

養兒防老的真實結果，母親因為每日開車十幾個鐘被累暈，兒子似乎若無其事⋯⋯

极权国家通常有两个暴君：一个是独裁者，另一个就是公众。许多人完全没有意识到后者。不止极权国家，一般专制国家多少也有这种特点：公众跟独裁者一样刚愎自用，一样喜欢投其所好，一样不容忤逆，一样崇尚阴谋论。更糟糕的是，公众还容易出现过度简单化理解，甚至可能比独裁者还要暴戾和反复无常。

习主席说幸福生活是干出来的，他都这样干了，幸福了吗？

#乌克兰战报这是什么车辆？中国给俄罗斯提供了，高尔夫球车，电摩托车。这种车辆，却把乌克兰士兵给搞糊涂了。。。。

68岁的吕良伟看着像36、7岁，他每天扎马步，这是臀腿最好的抗阻训练，他拍打穴位，每个关节窝拍打九下，一天拍九遍，他还拉筋，筋长一寸命多十年，他练呼吸，让气血循环顺畅，面色红润，身体无恙，这些普通人都可以做，而且不受天气影响，他还敲天鼓，防耳聋耳鸣。【文摘】

NEVER FORGET WHAT THEY DID

网传：大货司机遭罚款，冲撞警察办公室…… 视频【同归于尽】

國產車開始利木柴做保險槓

天津某书店

敗家子習大頭的方艙醫院，現在開始變賣家產。

就凭着浦志强在《炎黄春秋》2014年春节团拜会上的发言，不被官府打压才叫奇怪了。

这些打人的霸凌者，聚众斗殴，怎么判？

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

这确实是一个相当好的绕过tokens长度限制解决方案，我尝试将这个方案整理一下。🧵
图片
( twitter.com )

1年前由宝玉提交

点击图片查看原图

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

CNBC 这篇报道揭秘了一点 PaLM 2 的内部信息：
- 相比 PaLM 的 7800 亿个训练 Tokens，这一代用了 3.6 万亿个 Tokens，几乎是上一代五倍的训练规模；
- PaLM 2 模型的实际参数大约在 3…
IT技术
( twitter.com)

1年前 • indigo • -- 点击 0 评论

2

2

1

1

网页版的是GPT-4模型，支持更长的tokens，能用插件，但是有25messages/3hours的限制，iOS版是GPT-4(Mobile V2)模型，调用的api，有更严格的tokens长度限制，但是没有任何messages…
IT技术
( twitter.com)

1年前 • AlexZ 🦀 • -- 点击 0 评论

3

2

1

1

从这个角度来说确实是个好消息👏
时政
( twitter.com)

1年前 • 每日反共🇺🇦 • -- 点击 0 评论

4

2

1

1

Bye Bye "Chat with PDF" ... 今天 Claude 宣布提供十万 Tokens 长度的 Context Window，这差不多有 7.5 万个词的文本长度，你可以：

- 总结、解释财报或论文这种内容密…
推特中文圈
( twitter.com)

1年前 • indigo • -- 点击 0 评论

5

2

1

1

OpenSea 对 Blur 实施黑名单封锁，然后 Blur 绕过封锁，这个对抗过程确实很精彩，智能合约的魔法对抗。
图片
( twitter.com)

1年前 • Cos(余弦)😶‍🌫️ • -- 点击 0 评论

6

2

1

1

感觉 MKBHD 对 MacBook Air 15 的形容 —— 「笔电中的 Model Y」相当准确，这确实是一款入门级但相对全能的产品，在这个纬度上性价比体现的最为明显

基础版也是一个入门之选（但反而不是性价比最高的版本），…
推特中文圈
( twitter.com)

11个月前 • safari • -- 点击 0 评论

7

2

1

1

友情提示一下，这就是个段子，实际上年份并不准确，但是这个段子好玩的地方就在于确实好像人类经历了某些似曾相识的时刻
推特中文圈
( twitter.com)

1年前 • twitter机器人 • -- 点击 0 评论

8

2

1

1

mtf们的成长过程
本就是被压抑的女生的成长过程
我觉得正确的的理解思路就是把mtf的成长经历当一个生下来就是女生但是被所有人强迫学男生的人
在中国这样一个极度强调所谓‘男性责任’的社会下
也许精神不正常
有各种‘不良’嗜好
这本…
推特中文圈
( twitter.com)

1年前 • 清水 • -- 点击 0 评论

9

2

1

1

今天初到巴黎的感受。
巴黎确实是时尚之都，这个加拿大这个时尚洼地是比不了的。
不过城市的整洁程度，人的友善程度还是加拿大要好些。
推特中文圈
( twitter.com)

1年前 • twitter机器人 • -- 点击 0 评论

10

2

1

1

这个确实是漂亮，好漂亮的胸，好漂亮的双腿，长得也漂亮，真是够诱惑[24P]
亚洲贴图

1年前 • 老司机 • -- 点击 0 评论

11

2

1

1

虽然世界上有很多人不相信，但地球确实是圆的。实际上如果你有个长焦镜头，这一点甚至可以拍下来。
大陆资讯

5个月前 • 地沟油 • -- 点击 0 评论

12

2

1

1

这个鬼东西真厉害
速度真快哈哈哈哈
接近500 token/s的输出速度...模型是Mixtral 8X7B
Llama 2 7B 是750 tokens/s
快是真快，无人能敌，但是准确性还不怎么样...
可以体验下：
他们还提供API，你可以自己弄个测试：
IT技术
( twitter.com)

3个月前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:46

13

2

1

1

关键是他一个上海人，过去几年确实没过成好日子啊！
推特中文圈
( twitter.com)

1年前 • twitter机器人 • -- 点击 0 评论

14

2

1

1

通过批处理并行化，LLM推理整体吞吐量速度提高60倍，这项工作潜力可能会很大，优化了如此多，推理市场硬件需求可能会比之前预想的要小的多

用一个A10推理卡跑LLaMA2的7B模型，单个推理40 tokens/s，但当128个推理并行时，每个推理仍能得到10+token/s，优化之后甚至能达到总吞吐量每秒2400 tokens…
IT技术
( twitter.com)

8个月前 • fin • -- 点击 0 评论

15

2

1

1

BitRun讲了很多真相，当然有一些过度怼了一些他看不惯的人，但币圈需要真相，言论自由也是保护我们每一个人。只要实事求是，都是支持的。
推特中文圈
( twitter.com)

1年前 • 老张🤟与神对话 • -- 点击 0 评论

16

2

1

1

Office Tool Plus 确实是一个相当好用的工具，直接下载安装不用的版本，还能设置 Vol License，然后辅助激活。无论用正版还是盗版，都是很好用的工具。
时政
( twitter.com)

4个月前 • Yufan Sheng 标准件副厂长 • -- 点击 0 评论

17

2

1

1

如果不考虑亲密关系和婚姻，这种确实是最好的资产配置；

问题是，这种也只是爽爽，难道指望这俩人能长期相处？
时政
( twitter.com)

1年前 • twitter机器人 • -- 点击 0 评论

18

2

1

1

我看中国人确实是擅长这三件事的，一、给坏人洗地，二、给好人挑刺，三、天下乌鸦一般黑，两边没一个好东西。…
推特中文圈
( twitter.com)

1年前 • 利维坦冲浪里 • -- 点击 0 评论

19

2

1

1

牛人的知识体系，就是他永远是围绕勇气，围绕自身能量建设，围绕不确定性，围绕红尘历炼展开的，而不是围绕方法、围绕技巧，围绕确定性的东西展开的。
真正的一流高手，永远都是在不确定性中获得确定性，在不确定性中获得变机，在不确定性中挖掘自身的潜能，激发自己的生命能量和热情。
推特中文圈
( twitter.com)

1年前 • 乘风破浪的俞姐 • -- 点击 0 评论

20

2

1

1

没想到有人不相信低资源推理的可行性。

用WizardLM-30B参数模型在4090 24 GB 显卡上，使用 GPTQ 4bit量化。这个速度大家满意么。

控制台显示速度：14.11 tokens/s
显存占用：20333Mi…
推特中文圈
( twitter.com)

11个月前 • 九原客 • -- 点击 0 评论

21

2

1

1

如果可以实现以上这几点，我相信确实是一个巨大利好，但是如果实现不了仅仅是和人大会议一样灌个鸡汤我觉得没有任何意义。
推特中文圈
( twitter.com)

2年前 • twitter机器人 • -- 点击 0 评论

22

2

1

1

关于种族歧视，政治正确其实加深了种族隔阂
我侄儿有两个加拿大好友，好到可以互相起外号打闹天天腻在一起的那种。
某天一个政治正确好友听到了他们互相戏称对方种族，马上报告了校长，校长也很政治正确，处分了这两个孩子，从此他们的友谊大大降温，不再有真心交流
推特中文圈
( twitter.com)

1年前 • twitter机器人 • -- 点击 0 评论

23

2

1

1

这确实是个好问题：37度的高温，你们热的呱呱叫，为啥三十七度的女人，抱在怀里你们不嫌烫呢？
时政
( twitter.com)

7个月前 • 作家崔成浩 • -- 点击 0 评论

24

2

1

1

我很喜欢上海的一点是，这里的街道风貌和第三空间的选择上，对大商场的依存度是相当低的，人更多在街上和街边小店而不是一个大型封闭建筑里，绕开了中国特色城市化的很多问题。当然士绅化也是个很大的问题但这是另一个故事了
时政
( twitter.com)

10个月前 • Bleaker • -- 点击 0 评论

1
2
3
4
5
6
...
400
下一页