GB200 都3800 token/s 还在这尬吹ASIC但凡关注一下我们财经新闻都不会犯这样的错误

发布时间: 2025-02-01 23:10:27

1分

数据加载中

关注推特

收听电报

GB200 都3800 token/s 还在这尬吹ASIC
但凡关注一下我们财经新闻都不会犯这样的错误
时政
( twitter.com )

3个月前由勃勃OC 提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

速报，寄了嗷，NVIDIA Project Digits 内存带宽只有 275GB/s. 意味着跑 70B-int4 速度只能到 6.8 token/s. 如果跑 DeepSeek-R1-Distill-Qwen-32B-Q5_K_M, 大概是 12.5 token/s. 就是个更便宜的 MacMini M4 Pro。
如果信了老黄的说法，用这个跑200B的大模型，一分钟也就能吐出来2句话。
时政
( twitter.com)

4个月前 • karminski-牙医 • -- 点击 0 评论

Movement这种Layer1项目，为了上币安发了个ERC20 token。。。
就像一个男偷窥狂为了进女厕所，逼自己穿了女装。。。
我想说人家为了割你们的确也尽力了，这3800万拿的不容易的，毕竟脸都不要了。
btc
( twitter.com)

2个月前 • 很大很大的橙子 • -- 点击 0 评论

nvda瞬间大涨破120
可能和GB200 顺利量产的消息泄露有关
今天可真热闹
中概+10%，nvda+4%
真的热闹😅😅😅
时政
( twitter.com)

8个月前 • 勃勃OC • -- 点击 0 评论

Gemini-1.5 Pro has its spotlight stolen today, and people are poking fun at Sora vs Google memes. Well, I think it's the biggest boost in LLM capability so far in 2024. v1.5's 10M token context (1) excels at retrieval; (2) generalizes zero-shot to extremely long instructions like…
时政
( twitter.com)

1年前 • Jim Fan • -- 点击 • 下载视频 0 评论

00:00:20

苹果发布 FastVLM
能在 iPhone 上直接运行的极速视觉语言模型
首 token 输出快 85 倍
FastVLM：先把图像看懂（图像 → token），再根据 token 生成回答或描述（token → 语言）
模型体非常积小，可以很轻松部署在 iPhone、iPad、Mac 上
FastVLM-0.5B：相较于 LLaVA-OneVision-0.5B，首 token
时政
( twitter.com)

18天前 • 小互 • -- 点击 • 下载视频 0 评论

00:00:06

这些是美国政府持有并且当前价值超过100万美元的 Token ，换句话来说，这些 Token 都有可能会成为美国的加密货币储备。当然稳定币就不算了。
前三名分别是：
1. #BTC （包含wBTC）
2. #ETH （包含wETH）
3. #BNB
其它也几乎都是凑数的了，所以这三个Token都是最有可能成为美股储备的。
btc
( twitter.com)

4个月前 • 很大很大的橙子 • -- 点击 0 评论

Andrej 为了解释 Word 和 Token 的区别，写了个小程序，把 Token 用 Emoji 表示，好帮助你直观的理解 LLM （大语言模型）看到的世界和我们看到的世界是不一样的。
简单来说一个单词会由一到多个Tokens组成，比如“strawberry”是一个单词，但是可能是“str”、“aw”和“berry” 3 个Token，而 Token
IT技术
( twitter.com)

10个月前 • 宝玉 • -- 点击 0 评论

Google 每天为开发者免费提供15亿个Token，其中
Gemini 1.5 Flash免费套餐包含：
- 每分钟15次请求（RPM）
- 每分钟100万个Token（TPM）
- 每天1,500次Token（RPD）
- 免费上下文缓存服务，每小时最多可存储100万个Token
- 免费微调
Gemini 1.5 Pro免费套餐包含：
- 每分钟2次请求（RPM）
-
IT技术
( twitter.com)

9个月前 • 宝玉 • -- 点击 0 评论

NVIDIA 将拥有 6710 亿参数的 DeepSeek-R1 模型引入了位于上的 NVIDIA NIM 微服务：
- 使用单台 NVIDIA HGX H200 服务器即可实现每秒最多 3,872 个 Token 的推理吞吐量。
- 依托 NVIDIA Hopper 架构，DeepSeek-R1 利用 FP8 Transformer Engine 和 900 GB/s 的 NVLink
IT技术
( build.nvidia.com)

3个月前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:01:03

GB200 都3800 token/s 还在这尬吹ASIC 但凡关注一下我们财经新闻都不会犯这样的错误 时政 ( twitter.com )

时政

时政

Movement这种Layer1项目，为了上币安发了个ERC20 token。。。 就像一个男偷窥狂为了进女厕所，逼自己穿了女装。。。 我想说人家为了割你们的确也尽力了，这3800万拿的不容易的，毕竟脸都不要了。 btc ( twitter.com)

btc

nvda瞬间大涨破120 可能和GB200 顺利量产的消息泄露有关 今天可真热闹 中概+10%，nvda+4% 真的热闹😅😅😅 时政 ( twitter.com)

时政

时政

时政

btc

IT技术

IT技术

IT技术

创建一个新帐户

登录

GB200 都3800 token/s 还在这尬吹ASIC
但凡关注一下我们财经新闻都不会犯这样的错误
时政
( twitter.com )

Movement这种Layer1项目，为了上币安发了个ERC20 token。。。
就像一个男偷窥狂为了进女厕所，逼自己穿了女装。。。
我想说人家为了割你们的确也尽力了，这3800万拿的不容易的，毕竟脸都不要了。
btc
( twitter.com)

nvda瞬间大涨破120
可能和GB200 顺利量产的消息泄露有关
今天可真热闹
中概+10%，nvda+4%
真的热闹😅😅😅
时政
( twitter.com)