太酷啦！⚡️推上有个老哥基于 Rust 开源了「异构集群推理方案」，可组合多台 iPhone,iPad,Macbook 组成 Tranformer 推理服务器，运行 Llama3-70B 模型 🔥释放老旧设备算力，支持 Linux、iOS、Windows 等老旧设备组成异构集群提供分布式 LLM 推理算力😆Github：

发布时间: 2024-07-15 18:40:15

1分

数据加载中

关注推特

收听电报

太酷啦！⚡️推上有个老哥基于 Rust 开源了「异构集群推理方案」，可组合多台 iPhone,iPad,Macbook 组成 Tranformer 推理服务器，运行 Llama3-70B 模型 🔥
释放老旧设备算力，支持 Linux、iOS、Windows 等老旧设备组成异构集群提供分布式 LLM 推理算力😆
Github：
时政
( github.com )

9个月前由 Tom Huang 提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

Yazi 4k ⭐️啦，谢谢大家的兴趣与热情！

一开始只是想写个工具自己用（顺便学 Rust），没想到有那么多人喜欢，真的很开心❤️️

* Yazi 是一个“超快终端文件管理器”，Rust 编写，基于异步 I/O

时政
( github.com)

1年前 • 三咲雅 · Misaki Masa 🍓 • -- 点击 • 下载视频 0 评论

00:00:05

太酷啦🇹🇼💯
时政
( twitter.com)

1年前 • 每日反共🇺🇦 • -- 点击 0 评论

⚡️⚡️⚡️又一个700亿大雷爆了!海银财富有多炸裂?只能说这世道太颠了🎃
时政
( twitter.com)

7个月前 • 德潤傳媒 • -- 点击 • 下载视频 0 评论

00:02:00

最近9月份《Rust程序设计》第二版中文版本发布啦，热乎着，今天给收到货了，看我多少个早上能够看完😂
哈哈，不建议卷前端了，去学Rust吧～
IT技术
( twitter.com)

1年前 • Tw93 • -- 点击 0 评论

工作一年倒欠公司两万多，太酷啦。
时政
( twitter.com)

3个月前 • 小径残雪 • -- 点击 0 评论

小技巧 Get ⚡️ 使用基于整个代码库生成文档🔥
有了之后，再也不用花时间写文档/注释了🤣
时政
( twitter.com)

7个月前 • Tom Huang • -- 点击 • 下载视频 0 评论

00:00:17

当你还在交那个，基本拿不到的养老金时
房屋养老金制度也要来啦
根据新闻显示
上海将率先推出房屋养老制度
率先建立房屋体检、房屋养老金、房屋保险三项制度
中国人民真是太幸福了
时政
( twitter.com)

7个月前 • 多伦多方脸 • -- 点击 0 评论

推特上黄推和粉蛆太多，让齐老太也不胜其烦，于是打电话给包子帝……
时政
( twitter.com)

1年前 • 墻國荒誕字（墙国荒诞字） • -- 点击 • 下载视频 0 评论

00:00:53

太酷啦！🤯 32K 上下文，将阿里 QWen 0.5B 模型跑在本地 Mac 或手机上的 llama-assistant 开源！
500M 参数已经足够处理很多语法检查、翻译任务 ⚡️
开源地址👉：
以下是演示在 Apple Note 应用直接应用 llama-assistant 处理语法检查和翻译任务示例 👇
时政
( github.com)

8个月前 • Tom Huang • -- 点击 • 下载视频 0 评论

00:01:30

时政

Yazi 4k ⭐️啦，谢谢大家的兴趣与热情！ 一开始只是想写个工具自己用（顺便学 Rust），没想到有那么多人喜欢，真的很开心❤️️ * Yazi 是一个“超快终端文件管理器”，Rust 编写，基于异步 I/O 时政 ( github.com)

时政

太酷啦🇹🇼💯 时政 ( twitter.com)

时政

⚡️⚡️⚡️又一个700亿大雷爆了!海银财富有多炸裂?只能说这世道太颠了🎃 时政 ( twitter.com)

时政

最近9月份《Rust程序设计》第二版中文版本发布啦，热乎着，今天给收到货了，看我多少个早上能够看完😂 哈哈，不建议卷前端了，去学Rust吧～ IT技术 ( twitter.com)

IT技术

工作一年倒欠公司两万多，太酷啦。 时政 ( twitter.com)

时政

小技巧 Get ⚡️ 使用 基于整个代码库生成文档🔥 有了 之后，再也不用花时间写文档/注释了🤣 时政 ( twitter.com)

时政

当你还在交那个，基本拿不到的养老金时 房屋养老金制度也要来啦 根据新闻显示 上海将率先推出房屋养老制度 率先建立房屋体检、房屋养老金、房屋保险三项制度 中国人民真是太幸福了 时政 ( twitter.com)

时政

推特上黄推和粉蛆太多，让齐老太也不胜其烦，于是打电话给包子帝…… 时政 ( twitter.com)

时政

时政

创建一个新帐户

登录