我们农场的新的蒸馏设备到了。我等不及提炼薰衣草精油了！

发布时间: 2024-08-16 00:20:15

1分

数据加载中

关注推特

收听电报

2

1

0

我们农场的新的蒸馏设备到了。我等不及提炼薰衣草精油了！
时政
( twitter.com )

7个月前由 Inty热点新闻提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

我们薰衣草农场的新蒸馏锅已到达！我提炼的薰衣草精油将很快开始上市！敬请期待！
洛杉矶的朋友们欢迎预约来访。
时政
( twitter.com)

7个月前 • Inty热点新闻 • -- 点击 • 下载视频 0 评论

00:00:53

2

2

1

1

李老师讲课，什么是大模型的蒸馏(distillation)，以及我们应该如何看DeepSeek遭遇的“模型蒸馏”指控
时政
( twitter.com)

1个月前 • Jeff Li • -- 点击 0 评论

3

2

1

1

😄 车库里新增一个设备。精油和烈酒蒸馏器！很兴奋。
时政
( twitter.com)

3个月前 • Inty热点新闻 • -- 点击 • 下载视频 0 评论

00:00:55

4

2

1

1

我亲自种植！亲自蒸馏薰衣草香露水！欢迎订购来自我薰衣草农场的纯天然有机香露水！支持我们这样的初创小农民！
链接：
时政
( la-lavender.com)

11个月前 • Inty热点新闻 • -- 点击 • 下载视频 0 评论

00:02:20

5

2

1

1

别人犯错是因为没读paper，这位是能把paper读错
这是说蒸馏的目标小模型是qwen和llama，意思是把R1蒸馏到他们上面去，而不是从他们身上蒸馏下来
DeepSeek V3 用到的改进过的MoE，DeepSeek独创的MLA，n=1的MTP，这些llama都没有啊。当然他们都是transformer架构了。
时政
( twitter.com)

1个月前 • 勃勃OC • -- 点击 0 评论

6

3

2

2

为了节省预算，我付出了很多努力学习。从最初一无所知，到现在自己成功设计产品标签和包装，成为一名薰衣草种植农民，并掌握薰衣草蒸馏的技艺。…
时政
( twitter.com)

1年前 • Inty热点新闻 • -- 点击 • 下载视频 0 评论

00:00:42

7

2

1

1

用17K从DeepSeek R1 蒸馏的SFT数据，微调Qwen2.5-32B，效果非常不错。
与DeepSeek R1自家蒸馏的版本相比略逊一些，但是后者是800k sample，而且这17k数据以及合成脚本完全开源。
方法来自之前蒸馏QwQ的Sky-T1。
P.S. 7B的模型效果提升不佳，看来越小的模型需要越多的数据激活能力。
1/2
时政
( twitter.com)

1个月前 • 九原客 • -- 点击 0 评论

8

3

2

2

我薰衣草农场里的这些薰衣草等不及盛开了！
时政
( twitter.com)

11个月前 • Inty热点新闻 • -- 点击 0 评论

9

2

1

1

蒸馏水应该不能“放生”。
有趣
( twitter.com)

1年前 • 出埃及记 • -- 点击 0 评论

0.26415 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特