推荐阅读:把大语言模型封装成桌面应用
作者使用Electron+Transformer.js,把大语言模型打包成桌面应用,这样就可以本地运行大语言模型。
另外作者开发了一个框架叫ollama(https://t.co/gzlh2DyrfA),可以支持多种开源模型,例如Llama 2、Mistral等,但目前只支持Mac和Linux,还不支持Windows。
文章链接:https://t.co/ufS234YBQ4
中文翻译:https://t.co/bY8st9SzPF
点击图片查看原图
点击图片查看原图