漏了！OpenAI原本打算开放权重的模型泄露了！刚才 HuggingFace 上有人上传了 openai-oss-120B 和 openai-oss-20B 模型, 立刻整合了所有信息给大家做一个解读。首先最重要的是 120B 那个是个 MoE，激活参数大概是 5B，128 专家每次激活 4 个专家。原生只有 4K 上下文，通过 YaRN 扩展到

发布时间: 2025-08-02 06:00:15

1分

数据加载中

关注推特

收听电报

2

1

0

漏了！OpenAI原本打算开放权重的模型泄露了！
刚才 HuggingFace 上有人上传了 openai-oss-120B 和 openai-oss-20B 模型, 立刻整合了所有信息给大家做一个解读。
首先最重要的是 120B 那个是个 MoE，激活参数大概是 5B，128 专家每次激活 4 个专家。原生只有 4K 上下文，通过 YaRN 扩展到
时政
( twitter.com )

20天前由 karminski-牙医提交

漏了！OpenAI原本打算开放权重的模型泄露了！

刚才 HuggingFace 上有人上传了 openai-oss-120B 和 openai-oss-20B 模型, 立刻整合了所有信息给大家做一个解读。

首先最重要的是 120B 那个是个 MoE，激活参数大概是 5B，128 专家每次激活 4 个专家。原生只有 4K 上下文，通过 YaRN 扩展到 128K。所以昨天 openrouter 上放出那个 horizon-alpha (256K 上下文) 肯定不是 OpenAI 马上要开放权重的模型了.

从配置上进行估计，这个模型没有什么企及的话应该是个很普通的模型，这个参数量不能指望带来啥惊天动地的跑分效果（过拟合当我没说），当然好的地方是它只激活4个专家，因此工程上做得不错。另外原生 4K 上下文未免太小了，这个上下文长度召回效果恐怕会很难看。

另外从配置上看这玩意是个 Float4 的模型？如果它是原生 FLoat4 训练的那就是另外一码事了，我们肯定能接受探索性的研究效果不好，但无疑这是新的突破。不过更合理的猜测是，这玩意其实是个量化版本，只不过封装成了 safetensors 而不是 GGUF.....

其它的参数解读出自 Unsloth 团队的 @danielhanchen ，我就不班门弄斧了，看大佬的解读，我只是搬运了下。

目前 HuggingFace 上这2个模型已经都被删掉了。只能先等等了。

点击图片查看原图

点击图片查看原图

点击图片查看原图

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

3

2

2

在 OpenRouter上，Qwen QWQ 调用量已经超过了 OpenAI o1 和 o1-mini，开放权重、价格低、基础能力突出，这样的推理模型谁不喜欢呢
时政
( twitter.com)

8个月前 • 未完成 • -- 点击 0 评论

2

2

1

1

就在刚刚 OpenAI 发布了两个开放权重模型! 给大家带来深度解析!
gpt-oss-120b 激活参数量 5.1B
gpt-oss-20b 激活参数量 3.6B
两个都是 MoE 架构的推理模型.
首先, 这两个模型发布的就已经是量化版本了, 他们的 MoE 层直接用 MXFP4 精度训练的! 这意味着暂时没有办法微调这两个模型了
时政
( twitter.com)

16天前 • karminski-牙医 • -- 点击 0 评论

3

3

2

2

GitHub Models 上泄漏的 GPT-5 说明信息：
---
最新的 OpenAI AI 模型 GPT-5，现已上线 GitHub Models！
GPT-5 是 OpenAI
IT技术
( twitter.com)

15天前 • 宝玉 • -- 点击 0 评论

4

2

1

1

OpenAI 和 Anthropic 新出的模型写代码实测来啦!
本次测试包括:
OpenAI-OSS-120B
OpenAI-OSS-20B
Claude-Opus-4.1
Gemini-2.5-pro (凑数的)
Opus 放这里去比的确不讲武德. 所以主要拿 Gemini-2.5-pro 跟它对打.
我主要的意思是告诉大家, 不要用不太行的模型写代码.
时政
( twitter.com)

16天前 • karminski-牙医 • -- 点击 • 下载视频 0 评论

00:00:36

5

2

1

1

OpenAI 正尝试摆脱微软的控制🤢
据The Information ：OpenAI允许微软在重组后拥有其约33%的股份，作为回报，微软要放弃其未来的利润分成权。这意味着微软不再从 OpenAI 新结构中直接获取收入分成
同时OpenAI希望修改与微软现有的合同条款，要求微软放弃其独家托管OpenAI模型的权力
OpenAI
时政
( twitter.com)

2个月前 • 小互 • -- 点击 0 评论

6

2

1

1

来自网友对神秘模型 Horizon Alpha (据传是 OpenAI 即将推出的开源模型)的上手体验评测，一句话总结：“如果这是一个开源模型，那我们可真是捡到宝了。但如果这就是 GPT-5，那我还没那么惊艳。”
下面是原推：
我已经上手体验 Horizon Alpha (据传是 OpenAI 即将推出的开源模型) 超过 10
IT技术
( twitter.com)

21天前 • 宝玉 • -- 点击 0 评论

7

2

1

1

凌晨谷歌发布的flash thinking版，算是对标o1了，这一波google算是迎头追上了，尤其是多模态的卡位基本上当下就是no1，总算是可以彻底不用openai了。
除了测试之外我已经快将近3个月没怎么用过openai了，现在使用大模型的能力上：
1、编程用claude，开源用qwen-instruct32b coder
2、compute
时政
( twitter.com)

8个月前 • AIGCLINK • -- 点击 0 评论

8

2

1

1

OpenAI 正式发布 GPT-4.1 系列：百万 Token 长文本、更强编码、价格更优！
OpenAI 隆重推出专为开发者打造的全新模型系列——GPT-4.1！该系列包含三个强大的新成员：旗舰级的 GPT-4.1、高速的 GPT-4.1 Mini，以及有史以来最小、最快、最经济的 GPT-4.1
IT技术
( twitter.com)

4个月前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:23:08

9

3

2

2

DeepSeek有没有使用OpenAI的专有模型来训练自己的模型？你怎么看？
时政
( twitter.com)

6个月前 • 中日政经评论 • -- 点击 0 评论

0.06261 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特