WWDC24: 在Apple GPU上训练您的机器学习和AI模型 | Apple了解如何使用Metal在Apple Silicon上训练支持PyTorch、JAX和TensorFlow的模型。通过新的注意力操作和量化支持，提升设备上Transformer模型的性能。00:00 - 介绍01:36 - 在Apple silicon上训练框架04:16 - PyTorch改进11:26 - ExecuTorch

发布时间: 2024-06-14 14:20:11

1分

数据加载中

2

1

0

WWDC24: 在Apple GPU上训练您的机器学习和AI模型 | Apple
了解如何使用Metal在Apple Silicon上训练支持PyTorch、JAX和TensorFlow的模型。通过新的注意力操作和量化支持，提升设备上Transformer模型的性能。
00:00 - 介绍
01:36 - 在Apple silicon上训练框架
04:16 - PyTorch改进
11:26 - ExecuTorch
IT技术
( twitter.com )

8天前由宝玉提交

WWDC24: 在Apple GPU上训练您的机器学习和AI模型 | Apple

了解如何使用Metal在Apple Silicon上训练支持PyTorch、JAX和TensorFlow的模型。通过新的注意力操作和量化支持，提升设备上Transformer模型的性能。

00:00 - 介绍
01:36 - 在Apple silicon上训练框架
04:16 - PyTorch改进
11:26 - ExecuTorch
13:19 - JAX功能

评论加载中...

您可能感兴趣的：更多

1

2

1

1

WWDC24: 认识Translation API | Apple
苹果新出的翻译 API，不需要联网，完全使用本机大语言模型。
相关文档、示例代码
Translation:
在您的应用中翻译文本:
自定义设备上的语音识别:
IT技术
( twitter.com)

7天前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:16:31

2

2

1

1

非盈利机构 AllenAI 发布了真正完全开源 LLM “OLMo”，不止模型权重，还包含完整的训练代码、数据集和训练过程，而此前不论是 LLama 或 Mistral 都只公布部分细节。OLMo 为了打破 Nvidia GPU 的垄断，特地在 AMD 和 NVDA GPU 上都训练了一次，证明 LLM 训练是可以用 AMD 的。
IT技术
( allenai.org)

4个月前 • Quinn Leng • -- 点击 0 评论

3

2

1

1

训练还是很快的，随便一台有 GPU 就能跑起来
时政
( twitter.com)

10个月前 • Yong • -- 点击 0 评论

4

2

1

1

StarCoder 2：专为代码生成和分析而设计开源模型
🧮 具有3B、7B 和 15B 参数版本
🪟 16384令牌上下文窗口
🔠 在3-4万亿Tokens上进行训练
💭 支持600 多种编程语言
🥇 15B 模型在 HumanEval 上达到 46%
🧠 引入分组查询注意力和滑动窗口注意力
💪🏻 在1024 x H100 NVIDIA GPU 上进行训练
🧑🏻‍💻…
IT技术
( twitter.com)

3个月前 • 小互 • -- 点击 0 评论

5

2

1

1

Blackwell，最新的算力野兽。
Nvidia $NVDA 刚刚宣布推出其最新、最强大的 AI GPU，名为 Blackwell，它是 Hopper 的继任者
> GPT-4-1.8T参数可以在2000台Blackwell上90天完成训练。
> 新摩尔定律诞生。
IT技术
( twitter.com)

3个月前 • Will • -- 点击 0 评论

6

3

2

2

我不是苹果粉，自己只有一个iPad Pro。 #WWDC24
所以就翻译iPad相关吧😀
这个math功能很强壮
IT技术
( twitter.com)

11天前 • 遁一子 • -- 点击 • 下载视频 0 评论

00:00:44

7

2

1

1

扎克伯格认为 GPU 紧缺不是问题，能源才是大问题。
还没有人建设过一个千兆瓦的单一训练集群，一个千兆瓦的概念，就如同一个有影响力的核电站，全部的能源只用来训练模型。
做计划时要考虑技术发展的速度，这是一件非常困难的事情。
***
Mark Zuckerberg: 过去几年我觉得 GPU
IT技术
( twitter.com)

2个月前 • 宝玉 • -- 点击 • 下载视频 0 评论

00:03:36

8

2

1

1

我初步读了一下论文，这篇论文的基本思路其实是利用了推理过程中的局部性。现在现在推理性能的一个瓶颈就是GPU的内存。它们的思路就是联合CPU和GPU做联合推理。尽可能把active的neuron 信息load到GPU中，充分利用局部性。这样大大提高了GPU推理的效率。…
IT技术
( twitter.com)

6个月前 • 雷尼尔 • -- 点击 0 评论

9

2

1

1

难道 Ollama 最佳客户端是在 Apple Notes ？😂
NotesOllama 在 Apple 备忘录中使用 Ollama
IT技术
( github.com)

3个月前 • Geek • -- 点击 • 下载视频 0 评论

00:00:07