推荐阅读：把大语言模型封装成桌面应用作者使用Electron+Transformer.js，把大语言模型打包成桌面应用，这样就可以本地运行大语言模型。另外作者开发了一个框架叫ollama（ 2、Mistral等，但目前只支持Mac和Linux，还不支持Windows。…

发布时间: 2023-12-11 14:00:55

1分

数据加载中

关注推特

收听电报

2

1

0

推荐阅读：把大语言模型封装成桌面应用
作者使用Electron+Transformer.js，把大语言模型打包成桌面应用，这样就可以本地运行大语言模型。
另外作者开发了一个框架叫ollama（ 2、Mistral等，但目前只支持Mac和Linux，还不支持Windows。…
IT技术
( github.com )

1年前由宝玉提交

推荐阅读：把大语言模型封装成桌面应用

作者使用Electron+Transformer.js，把大语言模型打包成桌面应用，这样就可以本地运行大语言模型。

另外作者开发了一个框架叫ollama（https://t.co/gzlh2DyrfA），可以支持多种开源模型，例如Llama 2、Mistral等，但目前只支持Mac和Linux，还不支持Windows。

文章链接：https://t.co/ufS234YBQ4
中文翻译：https://t.co/bY8st9SzPF

点击图片查看原图

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

1

2

1

1

推荐阅读：《构建企业级大语言模型应用的秘诀：GitHub Copilot 的实践之路》
GitHub Copilot 是目前最成功的大语言模型应用之一，可以帮程序员自动生成可用的代码，已经有超过一百万付费用户。
GitHub Copilot…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

2

2

1

1

推荐阅读：《现代大语言模型架构 [译]》
GitHub 的官方博客内容：The architecture of today’s LLM applications，介绍了现在如果要基于大语言模型构建应用，常见的架构是什么样的。
IT技术
( baoyu.io)

1年前 • 宝玉 • -- 点击 0 评论

3

2

1

1

#工程师学习这篇 RAG论文很值得一读，我甚至打印成纸质版方便阅读，知识密集型自然语言处理任务的检索增强生成，AI 搜索会使用这个能力对大型语言模型输出进行优化，使其能够在生成响应之前引用训练数据来源之外的权威知识库让结果更准确，推荐用沉浸式翻译来阅读。
🤖
IT技术
( ar5iv.labs.arxiv.org)

1年前 • Tw93 • -- 点击 0 评论

4

2

1

1

推荐阅读：《深入了解大语言模型运维 (LLMOps) [译]》
这篇文章 5 月份的，但并没有过时，对于大语言模型的运维(LLMOps)讲的非常系统。
随着大语言模型的普及，未来的 Ops 肯定离不开 LLMOps ，甚至于需要专门的团队做 LLMOps。
文章中把 LLMOps 分成了几个关键步骤：
第 1 步：选择基础模型…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

5

3

2

2

推荐阅读：《我们是如何利用大语言模型 (LLM) 改进 GitHub Copilot 的探索之旅》，GitHub Copilot 官方发布的博客，原标题：How we’re experimenting with LLMs to evolve GitHub Copilot。
文章中讲述了很多他们在探索如何使用大语言模型改进 GitHub Copilot的尝试，比如自动写 PR…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

6

2

1

1

推荐：《Reading List For Andrej Karpathy’s Intro to Large Language Models Video》
Andrej Karpathy 大语言模型视频入门的精选阅读清单
作者针对Andrej Karpathy前几天的视频教程，把相关的参考文章、论文都分门别类整理出来了。
原文：
译文：
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

7

2

1

1

推荐阅读：《我们在使用大语言模型 (LLMs) 构建产品一年中的经验总结 (第一部分) [译]》
文章主要分享了大语言模型核心组件的最佳实践，包括提示词设计、对 LLM 输出结果的评估，什么时候该用 RAG 还是微调等等。
一、提示词设计
1. n-shot 多样例
在提示词中加入 5
IT技术
( twitter.com)

10个月前 • 宝玉 • -- 点击 0 评论

8

1

0

0

从AutoGPT谈起，看大语言模型使用工具的发展

这两天，推上最热话题莫过AutoGPT。

AutoGPT的目的是让大语言模型使用外部工具（例如google）完成复杂任务，这与我最近读的论文话题一致。

此thread读书笔记…
推特中文圈
( twitter.com)

2年前 • Sverige_ Dong-seok🇸🇪 • -- 点击 0 评论

9

3

2

2

快速找到并下载优秀电子书，双语翻译对照阅读。
1. 找到你感兴趣的人，看他推荐过的书
2. 截图书籍封面和名称，提问Gemini，让给出介绍和评分。
3. 用 Z-Library 下载电子书
4. 传到微信读书，变成双语版阅读
IT技术
( twitter.com)

7个月前 • 向阳乔木 • -- 点击 0 评论

0.1006 Second , Gzip Enable.本网所有言论均来自网络，不代表本网站立场。联系方式: [email protected]

©2012.11.21 bad.news All rights reserved. 社区自动运营第 -- 年零 -- 天
This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

关注推特