OpenAI Andrej 的模型训练介绍视频讲的还是很不错的。 40分钟的视频，可以说是LLM产品经理快速入门。模型训练的四个阶段，大部分只是走了前三个，走到第四个的屈指可数，比如这个排行榜里只有 GPT4、3.5、Clau…

sign_in_with_google

分享一个链接

发表一篇文章

任何有趣的，图片，热点新闻，视频，文字...

23794 位用户此时在线

24小时点击排行 Top 10：

2024-6-17 今日热点汇总：“中国不是敌人” 泽连斯基呼吁中国参与制定和平协议；尴尬瞬间，澳大利亚总理口误，将李强称为“李克强”；全球 177 个国家 139 人试图从墨西哥偷渡美国；习近平称美国想让中国攻击台湾他不会上钩；免签了！中国宣布对澳大利亚单方面免签；17.8 万对中国结婚登记人数创新低；上海知名的女同性恋酒吧因不可抗力关闭；杭州小孩哥发视频质疑学校饭菜质量遭遇校方和父亲责备打压；清华大学教授剖析年轻小粉红的优越感；新加坡门将现身上海直言 “我在家乡也没这么受欢迎”

我眩晕，利用小孩子拍这种视频

據說兩群又鸟因搶嫖客打起來了，又鸟也是生活艱難啊！

“国内教材存在‘防止自学’设计”的观点，在小红书上火了。

“懂什么叫外交豁免权吗？” 6月17日，北京。博主“舒克变贝塔”发视频称，他开车出门遇到小区外有一辆挂着使馆车牌的大众轿车停在道路中间导致堵车。在和对方交涉的过程中，车上的女子态度恶劣，并叫嚣“你再拍我，我告诉你，我报公安，懂什么叫使馆车吗？懂什么叫外交豁免权吗？滚蛋”

厲害國每日都有看不完的惡鬥劇，全民戾氣十足！

大媽嘴臭手賤，一副找死的樣子！

6月8日，北京。葫芦岛市公安刑侦支队警察齐骏伟和家人在北京上访维权时，和截访人员发生肢体冲突。据齐骏伟称，他此前被歹徒持枪袭击导致残疾，05年拿到工伤证，但因市医疗保障服务中心的错误，导致其直到2013年才享受医疗报销。

您如何看待这种限制妇女权利、剥夺妇女自由的宗教？

视频【高速别车，不能惯着】

人间清醒，司马南

最後有兩人可能會活不了

更多中国人非法偷渡进入美国

网传上海某铁路设计院下发了《全面“过紧日子”指导意见》通知

这是鬼节内容吗

太吓人了！

突发消息：最高法院周围开始设置围栏。大事要发生吗？

⚡️这位大叔开导的有道理: 不是个体问题，已成社会问题了！

网传6月17日，虾皮Shopee北京办公室一位研发同事猝死

当前的经济形式,我建议大家不要买房和投资｡

「誰不跳誰就是莫斯科人！俄羅斯去死吧！」——慕尼黑烏克蘭球迷

看一次，笑一次。

城管如同當初的大白，也拉起了橫幅維權，可笑不？！

6月14日,泰国曼谷廊曼国际机场,大妈们候机时,跳舞拍视频｡目击者:跳了很久｡

🇺🇦🏐🏆 烏克蘭男子排球隊 -斬獲 2024 年歐洲黃金聯賽冠軍！烏克蘭排球運動員在本屆賽事的決戰中擊敗了克羅埃西亞隊，贏得了當之無愧的冠軍🏆 烏克蘭男排史上第二次奪得歐洲黃金聯賽冠軍，延續了2017年的輝煌，世界排球精英國際聯盟將邀請烏克蘭冠軍隊前赴—中國臨沂市參賽該賽事將於 7 月 4 日至

本站自动实时分享网络热点
24小时实时更新
所有言论不代表本站态度
欢迎对信息踊跃评论评分
评分越高，信息越新，排列越靠前

2

1

0

OpenAI Andrej 的模型训练介绍视频讲的还是很不错的。
40分钟的视频，可以说是LLM产品经理快速入门。
模型训练的四个阶段，大部分只是走了前三个，走到第四个的屈指可数，比如这个排行榜里只有 GPT4、3.5、Clau…
IT技术
( twitter.com )

1年前由 orange.ai 提交

1周内 1个月内 1年内全部时间

1
2
3
4
5
6
...
400
下一页

1

2

1

1

多模态大战终于要来了吗？OpenAI被曝加急训练多模态大模型Gobi，剑指谷歌Gimini
大陆资讯
( www.myzaker.com)

9个月前 • 喊妈妈 • -- 点击 0 评论

2

2

1

1

YouTube视频被OpenAI用来训练大模型？YouTube CEO称暂无证据，但此举违规
大陆资讯
( www.thepaper.cn)

2个月前 • 猪是的念过来倒 • -- 点击 0 评论

3

2

1

1

《纽约时报》禁止其新闻报道用于人工智能模型训练，考虑起诉 OpenAI
大陆资讯
( www.ithome.com)

10个月前 • 投票吧骚年 • -- 点击 0 评论

4

2

1

1

纽约时报起诉微软和OpenAI侵权：擅用报道训练大模型，损失数十亿美元
大陆资讯
( www.thepaper.cn)

5个月前 • 倩女幽会 • -- 点击 0 评论

5

2

1

1

OpenAI创始成员大神一个周末训练微型LLaMA 2，并移植到C语言。他把这个项目叫做Baby LLaMA 2

大神仅花一个周末训练微型LLaMA 2，并移植到C语言。推理代码只有500行，在苹果M1笔记本上做到每秒输出98个token。作者是OpenAI创始成员Andrej Karpathy，他把这个项目叫做Baby LLaMA…
IT技术
( twitter.com)

10个月前 • GPTDAOCN • -- 点击 0 评论

6

2

1

1

今天OpenAI放出的ChatGPT 4的多模态语音和图像更新的模型其实叫GPT-4V(ision)。

OpenAI放出了19页的GPT-4V(ision)报告来解释这个模型，释放了大量信息：

GPT-4V(ision)的训练完成于2022年，2023年3月开始提供早期访问。

GPT-4V 的训练过程与 GPT-4…
IT技术
( twitter.com)

8个月前 • 小互 • -- 点击 0 评论

7

2

1

1

该模型基于 LLaMA2 微调，具备 OpenAI Function Call 功能。目前数据集和训练过程还没有完全公开。
时政
( github.com)

10个月前 • 九原客 • -- 点击 0 评论

8

2

1

1

帮中推圈澄清一下: Toolformer 需要特别准备训练数据，不算是 scalable （支持各种 API) 的技术路线

OpenAI 和 LangChain 的思路都是支持在不重新训练模型的基础上， zero shot/fe…
推特中文圈
( twitter.com)

1年前 • Eric Xu 🇺🇦 • -- 点击 0 评论

9

2

1

1

政协委员，央视副召集人张勤提案大模型训练: 如果我们训练的大模型持续用西方价值观数据、西方应用场景来训练中国大模型，中国式的认知将被湮没。…
IT技术
( twitter.com)

3个月前 • 宝玉 • -- 点击 0 评论

10

2

1

1

近日，字节跳动涉嫌违反使用政策，将GPT用于训练自己的大模型，结果账户被OpenAI封杀。偷国又一次受挫。
时政
( twitter.com)

6个月前 • Jacobson🌎🌸贴贴BOT • -- 点击 0 评论

11

2

1

1

翻译了OpenAI关于Sora相关的技术报告：《Video generation models as world simulators | 视频生成模型：构建虚拟世界的模拟器》
这篇技术报告主要介绍了两方面内容：(1) OpenAI如何将各种类型的视觉数据转化为统一的表示形式，从而实现生成模型的大规模训练；(2) 对 Sora…
IT技术
( twitter.com)

4个月前 • 宝玉 • -- 点击 0 评论

12

2

1

1

来看看 Code Interpreter 的Prompt是什么：

1. "你是由 OpenAI 训练的大型语言模型 ChatGPT。"
2. "知识截止日期：2021年9月。"
3. "当前日期：2023年7月11日。"
4.…
IT技术
( twitter.com)

11个月前 • 宝玉 • -- 点击 0 评论

13

2

1

1

AI 模型现在层出不穷，今天甲发一个，明天乙发一个，个个听上去都很了不得。
我不禁想到OpenAI工程师、DALL-E模型第一作者贝特克的观点。
他认为，模型不是关键，训练的语料才是。他发现，不同模型使用同样语料训练，竟然得到了相似的结果。
我在博客写了一点自己的想法。
IT技术
( www.ruanyifeng.com)

1个月前 • ruanyf • -- 点击 0 评论

14

2

1

1

【OpenAI回应被指控侵权：《纽约时报》提示策略违反其服务条款】OpenAI表示，《纽约时报》一直在文章的开头提示GPT模型，导致模型产出的文本十分接近原文，从而增加了侵犯版权的可能性，相当于是鼓励侵权。这些提示违反了OpenAI语言模型的使用条款，《纽约时报》故意利用这些提示来让模型复制训练数据。
大陆资讯
( www.looktmt.com)

5个月前 • 白开水 • -- 点击 0 评论

15

2

1

1

手把手教你训练你自己的AI歌手，最重要的一步来了。如何训练歌手的模型。这一步主要由两部分组成数据处理和模型训练。
这个林俊杰是我自己训练的4800步的模型，对比一下上一篇教程里的孙燕姿模型有两万多步，数据的质量也很重要。
感谢各位…
IT技术
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

16

2

1

1

在线编程平台Replit近期发布了一篇关于《如何训练你自己的大型语言模型》的博客文章，分享了他们在训练自家编程大型语言模型（LLM）过程中的经验和教训。

他们把整个过程分成了三个阶段：数据管道、模型训练、推理

他们的主要数据来…
推特中文圈
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

17

2

1

1

为了预防人工智能灾难性的影响，公司和机构应该自由合作，向公众开放专利和研究成果。
—— OpenAI，2015

我们决定不发布GPT-2的训练模型数据，也不发布预训练后的参数，因为如此强力的模型有遭到恶意滥用的风险。
—— Op…
推特中文圈
( twitter.com)

1年前 • 象牙山刘能 • -- 点击 0 评论

18

2

1

1

GPT模型1750亿参数量需要一万块GPU训练，训练一次成本1200万美金，研发费用至少3000万美金，openAI差不多烧了将近10亿美金。这些底层算力都需要芯片来完成。
时政
( twitter.com)

1年前 • 曹山石 • -- 点击 0 评论

19

2

1

1

【傍上微软“大腿”，“欧洲OpenAI” Mistral AI什么来头？】Mistral AI的最新旗舰模型Mistral Large，号称性能不输OpenAI的GPT-4和谷歌的Gemini Pro，训练成本只有2200万美元，约为GPT-4的五分之一。
大陆资讯
( finance.sina.cn)

3个月前 • 罗密欧煮你爷 • -- 点击 0 评论

20

2

1

1

微软2023年Build大会演讲：如何训练和应用GPT（中英文字幕）

这是本次微软2023年Build大会来自OpenAI的AI 研究员和创始成员Andrej Karpathy的一个主题为State of GPT的演讲。

演讲…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

21

2

1

1

Nvidia 的黄老板和 OpenAI 的首席科学家 Ilya Sutskever 有一个对谈

表示 GPT 的确只是个神经网络语言模型，它被训练出来只是要预测下…
推特中文圈
( twitter.com)

1年前 • indigo • -- 点击 0 评论

22

2

1

1

今天有跟Nvidia 研发中心的一位技术负责人聊，他们这有六十多块A100。之前帮一团队训练模型，用8块A100训练，训练效率大概每秒10w Token。无锡超算那边基本上大部分都是国产化设备，训练模型的效率大概是每秒9w Token。在模型训练上，仅用8块A100就能抵过一个超算中心了。
时政
( twitter.com)

11个月前 • Shawn Xie • -- 点击 0 评论

23

2

1

1

金融专用大模型：BloombergGPT
500亿参数，训练成本超过1300万，用AWS64台8xA100训练53天完成核心模型训练。
主要实现问答、新闻头条编写、生成BQL等
按青云相同配置价格粗略计算训练成本1300W+
然而…
推特中文圈
( twitter.com)

1年前 • nash_su • -- 点击 0 评论

24

2

1

1

WWDC24: 在Apple GPU上训练您的机器学习和AI模型 | Apple
了解如何使用Metal在Apple Silicon上训练支持PyTorch、JAX和TensorFlow的模型。通过新的注意力操作和量化支持，提升设备上Transformer模型的性能。
00:00 - 介绍
01:36 - 在Apple silicon上训练框架
04:16 - PyTorch改进
11:26 - ExecuTorch
IT技术
( twitter.com)

4天前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:18:20

1
2
3
4
5
6
...
400
下一页