OpenAI 默认的 Function Calling 是不支持 Streaming 的，也就是必须等所有结果返回才能解析 JSON。LlamaIndex 解决了这个问题，可以流式输出能正常解析的JSON结果。我没仔细看实现，猜测是基于 JSON Lines 实现的，也就是每一行都是一个独立可解析的 JSON。视频演示的项目是开源的

发布时间: 2024-04-22 15:00:26

1分

数据加载中

关注推特

收听电报

OpenAI 默认的 Function Calling 是不支持 Streaming 的，也就是必须等所有结果返回才能解析 JSON。
LlamaIndex 解决了这个问题，可以流式输出能正常解析的JSON结果。
我没仔细看实现，猜测是基于 JSON Lines 实现的，也就是每一行都是一个独立可解析的 JSON。
视频演示的项目是开源的
IT技术
( twitter.com )

1年前由宝玉提交

Markdown支持

评论加载中...

您可能感兴趣的：更多

有了Function Calling之后，Prompt就很简洁了！

这是一个基于OpenAI新的Function Calling…
IT技术
( twitter.com)

1年前 • 宝玉 • -- 点击 0 评论

✨ 下午花了点时间写了一个 openai-function-calling-tools，可以帮助大家在 js/ ts 环境更快的接入 openai function calling 函数调用。目前支持
⏰获取时间、🧮…
IT技术
( twitter.com)

1年前 • johann.GPT • -- 点击 0 评论

OpenAI不会告诉你的秘密：

OpenAI大力推Turbo-3.5模型，在上面加function call等功能，价格是Davinci的1/10。

那ChatGPT 3.5用的应该是Turbo-3.5？不是！而是Davinc…
IT技术
( twitter.com)

1年前 • Jeffery Kaneda　金田達也 • -- 点击 0 评论

该模型基于 LLaMA2 微调，具备 OpenAI Function Call 功能。目前数据集和训练过程还没有完全公开。
时政
( github.com)

1年前 • 九原客 • -- 点击 0 评论

Langchain又做了一项的基础设施。它将 #OpenAI 和 #OpenAPI 🔗到了一起（怎么听起来这么拗口🤣）

所有符合 OpenAPI的接口，都可以被当做OpenAI的function 来让LLM调用。

比如互联网上…
IT技术
( twitter.com)

1年前 • Jeffery Kaneda　金田達也 • -- 点击 0 评论

#function over #function
时政
( twitter.com)

1年前 • SKG • -- 点击 0 评论

OpenAI的function calling让从单知识库问答，进化成可以多个知识库综合生成新的知识。

这个原理是把所有知识库作为Tool告知OpenAI，并使其成为独立思考的agent，来判断问题里…
IT技术
( twitter.com)

1年前 • Jeffery Kaneda　金田達也 • -- 点击 0 评论

对 OpenAI API 今天更新的一些思考：

1️⃣ gpt-0613 新模型支持Function calling，意味着使用 GPT 解决复杂/实际问题成为可能，而非只是简单的与 GPT 对话。
可以简单理解为 GPT 可以…
IT技术
( twitter.com)

1年前 • Guangzheng Li • -- 点击 0 评论

I can function myself
有趣
( twitter.com)

5个月前 • NO CONTEXT HUMANS • -- 点击 0 评论

IT技术

有了Function Calling之后，Prompt就很简洁了！ 这是一个基于OpenAI新的Function Calling… IT技术 ( twitter.com)

IT技术

✨ 下午花了点时间写了一个 openai-function-calling-tools，可以帮助大家在 js/ ts 环境更快的接入 openai function calling 函数调用。目前支持 ⏰获取时间、🧮… IT技术 ( twitter.com)

IT技术

OpenAI不会告诉你的秘密： OpenAI大力推Turbo-3.5模型，在上面加function call等功能，价格是Davinci的1/10。 那ChatGPT 3.5用的应该是Turbo-3.5？不是！而是Davinc… IT技术 ( twitter.com)

IT技术

该模型基于 LLaMA2 微调，具备 OpenAI Function Call 功能。目前数据集和训练过程还没有完全公开。 时政 ( github.com)

时政

Langchain又做了一项的基础设施。它将 #OpenAI 和 #OpenAPI 🔗到了一起（怎么听起来这么拗口🤣） 所有符合 OpenAPI的接口，都可以被当做OpenAI的function 来让LLM调用。 比如互联网上… IT技术 ( twitter.com)

IT技术

#function over #function 时政 ( twitter.com)

时政

OpenAI的function calling让 从单知识库问答，进化成可以多个知识库综合生成新的知识。 这个原理是把所有知识库作为Tool告知OpenAI，并使其成为独立思考的agent，来判断问题里… IT技术 ( twitter.com)

IT技术

对 OpenAI API 今天更新的一些思考： 1️⃣ gpt-0613 新模型支持Function calling，意味着使用 GPT 解决复杂/实际问题成为可能，而非只是简单的与 GPT 对话。 可以简单理解为 GPT 可以… IT技术 ( twitter.com)

IT技术

I can function myself 有趣 ( twitter.com)

有趣

创建一个新帐户

登录

有了Function Calling之后，Prompt就很简洁了！

这是一个基于OpenAI新的Function Calling…
IT技术
( twitter.com)

✨ 下午花了点时间写了一个 openai-function-calling-tools，可以帮助大家在 js/ ts 环境更快的接入 openai function calling 函数调用。目前支持
⏰获取时间、🧮…
IT技术
( twitter.com)

OpenAI不会告诉你的秘密：

OpenAI大力推Turbo-3.5模型，在上面加function call等功能，价格是Davinci的1/10。

那ChatGPT 3.5用的应该是Turbo-3.5？不是！而是Davinc…
IT技术
( twitter.com)

该模型基于 LLaMA2 微调，具备 OpenAI Function Call 功能。目前数据集和训练过程还没有完全公开。
时政
( github.com)

Langchain又做了一项的基础设施。它将 #OpenAI 和 #OpenAPI 🔗到了一起（怎么听起来这么拗口🤣）

所有符合 OpenAPI的接口，都可以被当做OpenAI的function 来让LLM调用。

比如互联网上…
IT技术
( twitter.com)

#function over #function
时政
( twitter.com)

OpenAI的function calling让从单知识库问答，进化成可以多个知识库综合生成新的知识。

这个原理是把所有知识库作为Tool告知OpenAI，并使其成为独立思考的agent，来判断问题里…
IT技术
( twitter.com)

对 OpenAI API 今天更新的一些思考：

1️⃣ gpt-0613 新模型支持Function calling，意味着使用 GPT 解决复杂/实际问题成为可能，而非只是简单的与 GPT 对话。
可以简单理解为 GPT 可以…
IT技术
( twitter.com)

I can function myself
有趣
( twitter.com)