26254 位用户此时在线
24小时点击排行 Top 10：
- 本站自动实时分享网络热点
- 24小时实时更新
- 所有言论不代表本站态度
- 欢迎对信息踊跃评论评分
- 评分越高，信息越新，排列越靠前
2
1
0
推荐阅读：《Chess-GPT's Internal World Model》，作者从头训练了一个只有 50M 参数的小语言模型“国际象棋 GPT”，专门下国际象棋。一款拥有 5000 万参数的 GPT 模型，在 4 块 RTX 3090 显卡上训练了一天后，通过分析 500 万局国际象棋对局，达到了约 1300 ELO 的棋力。
最初作者是打算基于开源模型如…
IT技术
(
twitter.com
)
由
宝玉
提交
推荐阅读：《Chess-GPT's Internal World Model》，作者从头训练了一个只有 50M 参数的小语言模型“国际象棋 GPT”，专门下国际象棋。一款拥有 5000 万参数的 GPT 模型，在 4 块 RTX 3090 显卡上训练了一天后，通过分析 500 万局国际象棋对局，达到了约 1300 ELO 的棋力。
最初作者是打算基于开源模型如 LLama 7B 或 OpenLlama 3B 进行微调，但是他只有 RTX 3090的显卡，所以基于 nanogpt 重头训练了一个5000万参数的模型。
训练的数据是1600 万局游戏记录，所有的数据和模型都是开源的。
相关博文：https://t.co/w4FB777Xyo
译文：https://t.co/M9I1krD9rD
点击图片查看原图
1
2
1
1
2
2
1
1
3
2
1
1
8
2
1
1
10
2
1
1
15
2
1
1
16
2
1
1
17
2
1
1
19
2
1
1
20
2
1
1
21
6
5
5
22
6
5
5
23
2
1
1
24
6
5
5