NVIDIA 将拥有 6710 亿参数的 DeepSeek-R1 模型引入了位于上的 NVIDIA NIM 微服务：- 使用单台 NVIDIA HGX H200 服务器即可实现每秒最多 3,872 个 Token 的推理吞吐量。- 依托 NVIDIA Hopper 架构，DeepSeek-R1 利用 FP8 Transformer Engine 和 900 GB/s 的 NVLink

发布时间: 2025-02-01 08:50:16

1分

数据加载中

关注推特

收听电报

2

1

0

NVIDIA 将拥有 6710 亿参数的 DeepSeek-R1 模型引入了位于上的 NVIDIA NIM 微服务：
- 使用单台 NVIDIA HGX H200 服务器即可实现每秒最多 3,872 个 Token 的推理吞吐量。
- 依托 NVIDIA Hopper 架构，DeepSeek-R1 利用 FP8 Transformer Engine 和 900 GB/s 的 NVLink
IT技术
( build.nvidia.com )

2个月前由宝玉提交

NVIDIA 将拥有 6710 亿参数的 DeepSeek-R1 模型引入了位于 https://t.co/IcE1W0bOLM 上的 NVIDIA NIM 微服务：

- 使用单台 NVIDIA HGX H200 服务器即可实现每秒最多 3,872 个 Token 的推理吞吐量。
- 依托 NVIDIA Hopper 架构，DeepSeek-R1 利用 FP8 Transformer Engine 和 900 GB/s 的 NVLink 带宽进行专家通信，从而提供高速推理性能。
- 一如既往，NVIDIA NIM 面向企业级应用，能够在安全环境中使用行业标准 API 实验并部署 AI 代理。

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

3

2

2

看了看 NVIDIA Project DIGITS，Blackwell GPU，20 核 Grace CPU，预装 128GB 内存，可以跑 2000 亿参数的大模型…售价 3000 美元起。啊，这才是 AI 时代的随身机器，种草了！
IT技术
( www.nvidia.com)

3个月前 • 图拉鼎 • -- 点击 0 评论

2

2

1

1

根据英伟达的幻灯片显示，GPT-4 是 1.8T 参数的混合专家模型。现在用 Blackwell 系统实际上可以在大约十天内训练一个像 GPT-4 这样拥有 1.8 万亿参数的大模型，而在两年前 Hopper 世代开始时，即使是几百亿参数的模型也很难在几个月内完成训练。
IT技术
( baoyu.io)

10个月前 • 宝玉 • -- 点击 0 评论

3

2

1

1

没有对比，就没有伤害！
挪威的人口仅有500万，而养老基金规模却达到了12万亿人民币，我国拥有14亿人口，社保基金的余额却仅为8万亿人民币。
2023年年末，当前我国养老保险的参保人数已经逼近10亿人，比挪威参保人数高出接近200倍，
中国证券报【挪威养老金去年大赚逾1.5万亿元！】
时政
( twitter.com)

1年前 • 章立凡 ©️Zhang Lifan💎 • -- 点击 0 评论

4

2

1

1

NVIDIA 以 3.3 万亿美元的市值超越微软成为全球最有价值的公司
时政
( twitter.com)

10个月前 • Inty热点新闻 • -- 点击 0 评论

5

2

1

1

ChatGPT 参数规模被扒—— 很可能只有7B（70亿）
大陆资讯
( www.ithome.com)

1年前 • 牛郎侄女 • -- 点击 0 评论

6

2

1

1

NVIDIA 的 Project DIGITS，全球最小的个人 AI 超级电脑
可以处理多达 2000 亿个参数的 AI 模型
3000 美元，5 月份上市
虽然我很讨厌 insane、离谱这种没事瞎煽情的形容词，不过这个小电脑的确是很 insane、很离谱😂
IT技术
( twitter.com)

3个月前 • 倪爽 • -- 点击 • 下载视频 0 评论

00:01:30

7

2

1

1

密雪冰城年营收约26亿美元，在全球11个国家拥有4.5万家门店，上市FDV 4.5亿美元
币圈鬼链，年营收数万美元，在全球11个国家拥有11个活跃日活，当前FDV 45亿美元。
🤡
btc
( twitter.com)

2个月前 • 大宇 • -- 点击 0 评论

8

2

1

1

日本有多穷？上数据：2019年，全日本拥有1亿日元（500万人民币不到）以上资产的家庭数量一共只有：
133万户。
这个数据到现在点位不可能有任何明显变化。而日本家庭总数为5419万户。
一亿以上资产拥有比例仅仅2.5%。
感受下这基尼系数，感受下什么叫做真·社会主义🤣
时政
( twitter.com)

1年前 • 蕨代霜蛟 • -- 点击 0 评论

9

2

1

1

《晚点LatePost》分析：拥有完整社保(即五险)的人数最多为2.46亿，占到就业人员总数的33.5%。(就业人员总数为7.35亿人) 如果你拥有齐全的社保，那你就已经超越至少67%的打工人，跻身社保“腰部”往上的位置，是打工人中的高配了。以上数据说明，全民社保的愿望固然美好，但却道阻且长。
时政
( twitter.com)

1个月前 • 李老师不是你老师 • -- 点击 0 评论

0.06276 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特