大模型可以直接跑在 Web 上啦！Chrome 113 开始支持了 WebGPU，近期也看到一些 LLMs 开始兼容纯 Web 环境执行，这也意味着仅仅依靠端侧的能力就有希望高效、智能地给出一些交互反馈了，完全不依赖服务器资源…

发布时间: 2023-06-30 01:36:51

1分

数据加载中

关注推特

收听电报

大模型可以直接跑在 Web 上啦！

Chrome 113 开始支持了 WebGPU，近期也看到一些 LLMs 开始兼容纯 Web 环境执行，这也意味着仅仅依靠端侧的能力就有希望高效、智能地给出一些交互反馈了，完全不依赖服务器资源…
IT技术
( twitter.com )

1年前由 Barret李靖提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

全球最大AI绘画模型分享平台 - Civitai (C站) - 推出了自己的生成式AI工具

目前，任何用户可以直接在Civitai上，可以尝试生成功能

包含了大多数 SD 1.5 模型和少数 SDXL 版本的模型。同时可用于生成的各类模型也在不断的增加中。

From：曦语子 YUXIENDLESS
IT技术
( twitter.com)

1年前 • Will • -- 点击 • 下载视频 0 评论

00:01:29

DynamicWang 的新模型AWPortrait1.1即将在6月发布，这个模型可以生成高质量摄影风格的图片，期待！😊
可以在DynamicWang的C站页面查看他的作品和模型：…
IT技术
( twitter.com)

1年前 • sundyme • -- 点击 0 评论

Issue 里有个哥们做了个 docker 镜像直接跑在群晖上了，大家可以参考这个代码直接用 docker 跑。

图片
( twitter.com)

2年前 • yihong0618 • -- 点击 0 评论

【大佬在苹果MacBook上跑LLaMA，130亿参数大模型仅占8GB】语言模型的成本已经下降到个人电子设备也可用的地步。经过4-bit量化之后，模型被缩小，LLaMA甚至可以在配备M1芯片的MacBook上运行。
大陆资讯
( zhidx.com)

2年前 • 墙头看世界 • -- 点击 0 评论

闪电预览

啊？这都行？现在Azure用户可以直接在Azure上部署7B、13B 和 70B 参数的 Llama 2 模型。

Open AI：“明明是我先”
IT技术
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

使用HuggingFace上模型的简单教程。

1. 直接模型首页上运行，有些模型会直接提供在线试用

2. 自己部署到云上，右上角有Deploy，点击选择合适的选项。

如果是部署在HuggingFace上需要自己注册账号并生成…
推特中文圈
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

简悦 · 阅读助手升级到 gpt-3.5-turbo-16k 模型 🎉

也就是说，现在可以直接一次性分析全文，不需要分段。~

如果你已经使用了阅读助手，则可以直接使用此功能，但建议升级才能更好的使用此模型。

升级 👉…
IT技术
( twitter.com)

1年前 • Kenshin • -- 点击 • 下载视频 0 评论

00:00:49

Chatbot UI：一个开源的聊天机器人Web UI框架
支持接入OpenAI、Azure OpenAI、Anthropic、Google、Mistral和Perplexity等模型
同时支持Ollama上的本地模型接入。
这样你只需要输入这些模型的API，就能分分钟创建非常美观的任意模型聊天机器人。
同时功能也非常齐全🙃 •…
IT技术
( twitter.com)

1年前 • 小互 • -- 点击 • 下载视频 0 评论

00:01:00

霍炬 @virushuo 做了个开源的模型pipeline后端服务，可以用自家或朋友家的(无矿可挖的)GPU们组成(不花钱的)计算集群，跑各种AI图像生成模型，现在已连接的有 Stable diffusion，ESRgan4倍放…
推特中文圈
( twitter.com)

2年前 • twitter机器人 • -- 点击 0 评论

IT技术

IT技术

DynamicWang 的新模型AWPortrait1.1即将在6月发布，这个模型可以生成高质量摄影风格的图片，期待！😊 可以在DynamicWang的C站页面查看他的作品和模型：… IT技术 ( twitter.com)

IT技术

Issue 里有个哥们做了个 docker 镜像直接跑在群晖上了，大家可以参考这个代码直接用 docker 跑。 图片 ( twitter.com)

图片

【大佬在苹果MacBook上跑LLaMA，130亿参数大模型仅占8GB】语言模型的成本已经下降到个人电子设备也可用的地步。经过4-bit量化之后，模型被缩小，LLaMA甚至可以在配备M1芯片的MacBook上运行。 大陆资讯 ( zhidx.com)

大陆资讯

啊？ 这都行？ 现在Azure用户可以直接在Azure上部署7B、13B 和 70B 参数的 Llama 2 模型。 Open AI：“明明是我先” IT技术 ( twitter.com)

IT技术

使用HuggingFace上模型的简单教程。 1. 直接模型首页上运行，有些模型会直接提供在线试用 2. 自己部署到云上，右上角有Deploy，点击选择合适的选项。 如果是部署在HuggingFace上需要自己注册账号并生成… 推特中文圈 ( twitter.com)

推特中文圈

简悦 · 阅读助手升级到 gpt-3.5-turbo-16k 模型 🎉 也就是说，现在可以直接一次性分析全文，不需要分段。~ 如果你已经使用了阅读助手，则可以直接使用此功能，但建议升级才能更好的使用此模型。 升级 👉… IT技术 ( twitter.com)

IT技术

IT技术

霍炬 @virushuo 做了个开源的模型pipeline后端服务，可以用自家或朋友家的(无矿可挖的)GPU们组成(不花钱的)计算集群，跑各种AI图像生成模型， 现在已连接的有 Stable diffusion，ESRgan4倍放… 推特中文圈 ( twitter.com)

推特中文圈

创建一个新帐户

登录

DynamicWang 的新模型AWPortrait1.1即将在6月发布，这个模型可以生成高质量摄影风格的图片，期待！😊
可以在DynamicWang的C站页面查看他的作品和模型：…
IT技术
( twitter.com)

Issue 里有个哥们做了个 docker 镜像直接跑在群晖上了，大家可以参考这个代码直接用 docker 跑。

图片
( twitter.com)

【大佬在苹果MacBook上跑LLaMA，130亿参数大模型仅占8GB】语言模型的成本已经下降到个人电子设备也可用的地步。经过4-bit量化之后，模型被缩小，LLaMA甚至可以在配备M1芯片的MacBook上运行。
大陆资讯
( zhidx.com)

啊？这都行？现在Azure用户可以直接在Azure上部署7B、13B 和 70B 参数的 Llama 2 模型。

Open AI：“明明是我先”
IT技术
( twitter.com)

使用HuggingFace上模型的简单教程。

1. 直接模型首页上运行，有些模型会直接提供在线试用

2. 自己部署到云上，右上角有Deploy，点击选择合适的选项。

如果是部署在HuggingFace上需要自己注册账号并生成…
推特中文圈
( twitter.com)

霍炬 @virushuo 做了个开源的模型pipeline后端服务，可以用自家或朋友家的(无矿可挖的)GPU们组成(不花钱的)计算集群，跑各种AI图像生成模型，现在已连接的有 Stable diffusion，ESRgan4倍放…
推特中文圈
( twitter.com)