从最近的人工智能研究成果来看，与以前的单一模型不同，有越来越多的多组件结构的复杂系统正在发挥作用。

伯克利人工智能研究这篇文章就详细分析了复合人工智能系统的趋势及其对AI开发者的意义。

我也翻译并总结了一些关键内容，完整翻译和原文在最后面👇。

1️⃣为何选择复合人工智能系统？

1.系统设计更易于改进某些任务，许多应用中，扩大规模的回报相比成本来说更低，系统设计的迭代通常比等待训练运行要快得多。

2.系统可以更具动态性，开发人员需要将模型与其他组件（如搜索和检索）结合，以纳入实时数据

3. 通过系统更易于提升控制和信任，使用AI系统而非单一模型，可以帮助开发者更紧密地控制行为

4.性能目标差异较大。每个AI模型都有其固定的质量水平和成本，但应用程序通常需要调整这些参数。

2️⃣复合AI系统的关键挑战

设计空间：给定任务的可能系统设计范围非常广泛，开发者需要在系统组件间分配有限的资源，如延迟和成本预算

优化：通常，在ML中，最大化复合系统的质量需要协同优化组件以便它们协同工作

运营：对于复合AI系统来说，机器学习操作（MLOps）更具挑战性。值得关注的问题包括监控、数据运营、安全性等。

3️⃣新兴的AI系统范式有哪些？

设计AI系统：组合框架和策略，许多开发者都在使用“大语言模型编程”框架，将多次调用AI模型和其他组件整合到应用程序中。

自动优化质量：DSPy是第一个旨在优化由大语言模型调用和其他工具组成的系统以最大化目标指标的框架。

运营：LLMOps和DataOps，AI应用程序一直需要仔细监控模型输出和数据管道，以可靠地运行。

优化成本：FrugalGPT和AI网关，广泛的AI模型和服务使得为应用程序选择合适的模型变得具有挑战性。

点击图片查看原图