如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱这里有一篇 step by step 的文章

发布时间: 2024-04-28 16:30:36

1分

数据加载中

关注推特

收听电报

如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱
这里有一篇 step by step 的文章
时政
( www.mikeborozdin.com )

11个月前由 Yadong Xie 提交

点击图片查看原图

Markdown支持

评论加载中...

您可能感兴趣的：更多

如果你要对Markdown的翻译做到结构一致，即使让 LLM 翻译时采用双语对照，也会可能遗漏，所以这类需求你不能完全依赖于 LLM，必须要结合程序来做，把文本解析成结构化的数据，这样才好校对是不是有遗漏。
IT技术
( twitter.com)

1个月前 • 宝玉 • -- 点击 0 评论

最近有个朋友跟我讨论技术问题，他在用个第三方的OCR的服务，用来提取发票上的文字为结构化数据。但收费较高，想自己实现一套，试了开源的PaddleOCR，识别可以，但是无法转成结构化的数据。
我建议他试试多模态的LLM，比如Gemini 1.5 Flash，用来做 OCR 效果非常好，可以在 Prompt
IT技术
( twitter.com)

7个月前 • 宝玉 • -- 点击 0 评论

按照我的理解：实际上就是在检索的时候，不仅仅是按照相似度检索文档摘要，还检索文档的元数据，比如作者、日期、分类等等结构化的信息。
现在回想我今天看到的一篇文章说的还真的挺对：构建搜索引擎，而非向量数据库！
内容摘录：
很多向量数据库的主要作用被描述为解决大语言模型 (LLM)…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

Abacus AI公布了他们为企业创建 AI 应用的时候面对企业复杂的知识库和不同格式的文档是如何处理的，给了一些详细的工作流。

企业将其数据存放在多个地方，例如Snowflake，GDrive或Salesforce。数据通常是结构化和非结构化数据的组合，通常以CSV，PDF，Word等不同格式存在。…
IT技术
( twitter.com)

1年前 • 歸藏 • -- 点击 0 评论

其实，做科研没那么复杂，一方面做基础数据，一方面做数据计算和分析。
不过要把这两方面做好，可就要见功夫了，怎么能获得更精准的数据，和用什么模型算法处理数据，就要靠你的知识结构和思想水平了。…
时政
( twitter.com)

1年前 • QQ.FM Zhang Lei • -- 点击 0 评论

看了4月份的进出口数据，几个值得注意的点
1. 出口的增速在迅速放缓，出口结构发生变化很大。同比增长，环比下降。
2. 汽车过剩产能倾销海外暂时来看比较成功。
3. 内需在急剧萎缩。

如果再结合CPI和 PPI数据看，可以看到急…
IT技术
( twitter.com)

1年前 • 雷尼尔 • -- 点击 0 评论

绝大部分场景是不需要精准控制output的，真要精准控制，也很简单，不是靠提示词写的跟代码一样，而是直接让LLM输出结构化的数据，然后程序解析二次渲染。
IT技术
( twitter.com)

3个月前 • 宝玉 • -- 点击 0 评论

如何让 ChatGPT/Claude帮你写 PPT？
如果你想让 ChatGPT 这样的 LLM （大语言模型）帮你直接生成一个 PPT 文件是不现实的，因为它默认只能输出文本格式。
好在 LLM 对 Markdown 格式是相当友好的，有一种格式叫 Marp，可以用 Markdown 表示 PPT，并且是一种开源格式。
所以你只要在 Prompt 中让 LLM
IT技术
( twitter.com)

8个月前 • 宝玉 • -- 点击 0 评论

结合正在学习的吴恩达三门免费 LLM 课程，这个插件对我这样的论文爱好者简直启发太大了

在 LangChain 一课中，大量讲述了如何链式调用 LLM API, 构成一个完整闭环…
IT技术
( twitter.com)

1年前 • 黄赟 • -- 点击 0 评论

如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱 这里有一篇 step by step 的文章 时政 ( www.mikeborozdin.com )

时政

如果你要对Markdown的翻译做到结构一致，即使让 LLM 翻译时采用双语对照，也会可能遗漏，所以这类需求你不能完全依赖于 LLM，必须要结合程序来做，把文本解析成结构化的数据，这样才好校对是不是有遗漏。 IT技术 ( twitter.com)

IT技术

IT技术

IT技术

IT技术

时政

IT技术

绝大部分场景是不需要精准控制output的，真要精准控制，也很简单，不是靠提示词写的跟代码一样，而是直接让LLM输出结构化的数据，然后程序解析二次渲染。 IT技术 ( twitter.com)

IT技术

IT技术

结合正在学习的吴恩达三门免费 LLM 课程，这个插件对我这样的论文爱好者简直启发太大了 在 LangChain 一课中，大量讲述了如何链式调用 LLM API, 构成一个完整闭环… IT技术 ( twitter.com)

IT技术

创建一个新帐户

登录

如果你既想在 LLM 中获得结构化的数据返回，又想要有 streaming 的速度，可以考虑下 best-effort-json-parser 这个库，虽然原理都是大力出奇迹，但是肯定比自己写要靠谱
这里有一篇 step by step 的文章
时政
( www.mikeborozdin.com )

如果你要对Markdown的翻译做到结构一致，即使让 LLM 翻译时采用双语对照，也会可能遗漏，所以这类需求你不能完全依赖于 LLM，必须要结合程序来做，把文本解析成结构化的数据，这样才好校对是不是有遗漏。
IT技术
( twitter.com)

绝大部分场景是不需要精准控制output的，真要精准控制，也很简单，不是靠提示词写的跟代码一样，而是直接让LLM输出结构化的数据，然后程序解析二次渲染。
IT技术
( twitter.com)

结合正在学习的吴恩达三门免费 LLM 课程，这个插件对我这样的论文爱好者简直启发太大了

在 LangChain 一课中，大量讲述了如何链式调用 LLM API, 构成一个完整闭环…
IT技术
( twitter.com)