开源之光:RedPajama重塑大语言模型的未来LLaMA最强平替，超12万亿训练数据，全开源1. 开源12万亿训练数据，参考LLaMA数据集配比。2. 模型马上开源*标题由Claude生成…

发布时间: 2023-04-18 07:58:21

2分

数据加载中

关注推特

收听电报

开源之光:RedPajama重塑大语言模型的未来
LLaMA最强平替，超12万亿训练数据，全开源
1. 开源12万亿训练数据，参考LLaMA数据集配比。
2. 模型马上开源
*标题由Claude生成…
推特中文圈

开源推荐
( twitter.com )

1年前由 nash_su 提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

大语言模型微调之道1——介绍

#大语言模型微调之道

欢迎来到由Sharon Zhou主讲的《大语言模型微调之道》课程。这门课程将教你如何在自己的数据上进一步训练开源LLM。

虽然你可能已经知道如何提示一个大语言模型，但这门课程会深入讲解另一个重要工具：微调。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:02:59

大语言模型微调之道2——为什么要微调

#大语言模型微调之道

欢迎来到由Sharon Zhou主讲的《大语言模型微调之道》课程。这门课程将教你如何在自己的数据上进一步训练开源LLM。

这视频中，我们探讨了为什么要微调大语言模型（LLM）。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:14:35

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。
Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

【Stable Diffusion背后公司开源大语言模型，很火，但很烂】先别急着说StableLM是史上最糟糕的语言模型。毕竟人家Alpha版本的参数量目前较小，以及还是开源的。
大陆资讯
( www.qbitai.com)

1年前 • 新白娘子玩传奇 • -- 点击 0 评论

闪电预览

说的太对了，那么多开源大语言模型，真没有超过GPT-3.5的
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

OpenLLaMA发布了！

这是Meta AI的LLaMA 7B和13B的开源再现（意味着可商用）。

这是一个在RedPajama数据集上训练的许可复制品。提供预训练的OpenLLaMA模型的PyTorch和JAX权重，以及评…
IT技术
( twitter.com)

1年前 • Will 3.6-6.16 硅谷 • -- 点击 0 评论

Meta 继续在开源模型的道路上狂奔
今天放出了 MMS（Massively Multilingual Speech）
- 从文本到语音
- 以及语音到文本的互转
- 可以讲 1100 种语言，听懂 4000 种语言
在这之前最流…
IT技术
( twitter.com)

1年前 • indigo • -- 点击 0 评论

Meta 发布了新一代的可商用的开源大语言模型 Llama2，虽然依然不如 ChatGPT 3.5 的水平（特别是code），但是吊打其他开源模型了，真的卷王！
不光开源了模型，还写了一篇76的paper，把各种细节都讲的清清楚楚，相比 OpenAI，这是真的开放！强烈建议大家去阅读，下载地址：

IT技术
( ai.meta.com)

1年前 • orange.ai • -- 点击 0 评论

【Meta 开发了实时翻译闽南语的 AI】该模型目前仍在开发中，并且只适用于那类具有中间语言可以桥接两个不同语言的语言，如果两个语言之类没有密切相似的可桥接语言的话，将无法使用这个新模型，但该模型仍然为通用翻译开辟了更多的新语言。
大陆资讯
( www.oschina.net)

2年前 • 你妹的溢达 • -- 点击 0 评论

闪电预览

开源之光:RedPajama重塑大语言模型的未来 LLaMA最强平替，超12万亿训练数据，全开源 1. 开源12万亿训练数据，参考LLaMA数据集配比。 2. 模型马上开源 *标题由Claude生成… 推特中文圈 开源推荐 ( twitter.com )

推特中文圈

开源推荐

IT技术

IT技术

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。 Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。… IT技术 ( twitter.com)

IT技术

【Stable Diffusion背后公司开源大语言模型，很火，但很烂】先别急着说StableLM是史上最糟糕的语言模型。毕竟人家Alpha版本的参数量目前较小，以及还是开源的。 大陆资讯 ( www.qbitai.com)

大陆资讯

说的太对了，那么多开源大语言模型，真没有超过GPT-3.5的 IT技术 ( twitter.com)

IT技术

OpenLLaMA发布了！ 这是Meta AI的LLaMA 7B和13B的开源再现（意味着可商用）。 这是一个在RedPajama数据集上训练的许可复制品。提供预训练的OpenLLaMA模型的PyTorch和JAX权重，以及评… IT技术 ( twitter.com)

IT技术

Meta 继续在开源模型的道路上狂奔 今天放出了 MMS（Massively Multilingual Speech） - 从文本到语音 - 以及语音到文本的互转 - 可以讲 1100 种语言，听懂 4000 种语言 在这之前最流… IT技术 ( twitter.com)

IT技术

IT技术

大陆资讯

创建一个新帐户

登录

开源之光:RedPajama重塑大语言模型的未来
LLaMA最强平替，超12万亿训练数据，全开源
1. 开源12万亿训练数据，参考LLaMA数据集配比。
2. 模型马上开源
*标题由Claude生成…
推特中文圈

开源推荐
( twitter.com )

Google刚刚发布了开源大语言模型 Gemma，这是对标 LLAMA 2 的开源大语言模型。
Gemma是一系列基于创建Gemini模型所使用的相同技术与研究的、在其领域内技术领先的轻量级开源模型。…
IT技术
( twitter.com)

【Stable Diffusion背后公司开源大语言模型，很火，但很烂】先别急着说StableLM是史上最糟糕的语言模型。毕竟人家Alpha版本的参数量目前较小，以及还是开源的。
大陆资讯
( www.qbitai.com)

说的太对了，那么多开源大语言模型，真没有超过GPT-3.5的
IT技术
( twitter.com)

OpenLLaMA发布了！

这是Meta AI的LLaMA 7B和13B的开源再现（意味着可商用）。

这是一个在RedPajama数据集上训练的许可复制品。提供预训练的OpenLLaMA模型的PyTorch和JAX权重，以及评…
IT技术
( twitter.com)

Meta 继续在开源模型的道路上狂奔
今天放出了 MMS（Massively Multilingual Speech）
- 从文本到语音
- 以及语音到文本的互转
- 可以讲 1100 种语言，听懂 4000 种语言
在这之前最流…
IT技术
( twitter.com)