WIRED：当AI智能体犯错时，谁该承担责任？

随着谷歌和微软大力推广能够自主行动的AI智能体技术，人们正逐渐意识到：当多个智能体彼此互动并且触碰到法律底线时，到底该由谁来承担责任？

过去一年中，资深软件工程师杰伊·普拉卡什·塔库尔（Jay Prakash Thakur）利用业余时间，不断尝试开发能够自主订餐、甚至独立设计移动应用程序的AI智能体。他研发的智能体虽然表现惊人，但也暴露了一个新的法律问题：当这些智能体犯错并造成损失时，究竟谁来承担责任？

什么是AI智能体？

AI智能体（Agents）指的是能独立完成任务的人工智能程序。企业可以利用智能体来自动完成客服回复、支付账单等事务。与我们熟悉的ChatGPT不同，智能体不只是听命于用户指令，更能自主行动，微软、亚马逊和谷歌正期望这些智能体承担更复杂的任务，并且无需太多人工干预。

科技行业的雄心甚至更大，未来将由多个智能体组成的系统取代整个工作团队。这种技术的好处很明显：为公司节省大量的时间和人工成本。权威市场研究机构Gartner预测，到2029年，有80%的常规客户服务问题将由智能体解决。自由职业平台Fiverr数据显示，近几个月以来，“AI智能体”的搜索量暴增了18347%。

智能体出现问题后，谁担责？
塔库尔虽然目前在微软任职，但他的本职工作并不涉及智能体。然而，他从2024年在亚马逊工作期间就开始研究微软的智能体开发工具AutoGen，开发了一些多智能体的原型。他最大的担忧是，如果不同公司的多个智能体之间沟通失误而导致严重损失，法律责任该如何分配？他形容：“想找出责任方就像根据几个人零散的笔记，去还原一场复杂的对话一样困难。”

从谷歌离职、现任律所King & Spalding的律师本杰明·索夫特尼斯（Benjamin Softness）指出，出了问题的人通常都会找那些财力雄厚的大公司索赔。换句话说，即使出错的是普通用户，但企业可能依旧会成为主要的索赔对象，因为追究普通消费者的责任通常没有经济价值。保险业已经开始提供专门针对AI智能体的保险，以帮助企业应对这些风险。

AI智能体会犯哪些错误？

案例一：“无限使用”的误解
塔库尔开发的一个原型中，有两个智能体相互协作。其中一个负责寻找开发应用程序所需的工具，另一个负责总结工具的使用条款。

在一次测试中，负责搜索的智能体找到了一款工具，说明上写着：“企业用户每分钟支持无限请求次数”，但负责总结的智能体错误地省略了“企业用户”和“每分钟”这些关键字眼，导致另一个智能体误以为自己可以无限次地请求。这次失误虽未造成损失，但实际使用时，很可能导致整个系统崩溃。

案例二：“洋葱圈”变成“多加洋葱”
塔库尔还模拟了一个餐厅点餐系统，用户可以通过AI智能体点餐，再由多个机器人协作完成烹饪。虽然90%的情况都顺利完成，但偶尔也会出现“我要洋葱圈”却变成了“多加洋葱”，或者漏掉某些食物的情况。更糟糕的情况是，如果顾客存在食物过敏，后果可能非常严重。

案例三：购物比价智能体误导消费者
另一个案例中，比价智能体推荐了价格便宜的商品，却错误地给出了价格更高的网站链接。如果智能体被设置成自动下单，消费者就可能多花冤枉钱。

这些问题揭示，即使是看似简单的任务，AI智能体也可能犯下代价高昂的错误。过去一年，就有AI生成的航空公司优惠券被判定为具有法律约束力的案例，还有AI生成的法律引用文件出错，开发商不得不向法庭道歉。

如何避免智能体犯错？

塔库尔认为，目前最可行的办法是增加人为确认步骤，例如让顾客确认点餐内容。然而，这种方式却违背了开发智能体的初衷——减少人为干预。

业内的一种主流思路是再增加一个“裁判”型智能体，负责监督其他智能体的运行情况，及早发现并纠正错误。但专家们也担心，这种方案可能导致智能体系统变得臃肿复杂。

法律层面的挑战

近期旧金山举行的一场法律会议上，包括OpenAI的高级法律顾问约瑟夫·费尔曼（Joseph Fireman）在内的法律人士认为，现行法律会在一定程度上让发出指令的用户承担部分责任，特别是在用户被明确告知智能体的限制时。

但另一些法律专家提出，普通消费者不可能强迫企业承担责任，尤其在用户甚至可能依赖智能体去审核法律条款的情景下，情况将更加复杂。Anthropic公司的法律顾问丽贝卡·雅各布斯（Rebecca Jacobs）也指出：“智能体是否能够代表用户绕开隐私政策和服务条款，将成为一个非常有趣的问题。”

律师达扎·格林伍德（Dazza Greenwood）则呼吁企业在智能体出错率过高时谨慎行事：“如果你的‘加洋葱’失误率高达10%，那么根本不该急于上线。”

总结：现在还不能完全放心地交给AI智能体

AI智能体技术虽然前景广阔，但显然仍有许多问题需要解决。从技术角度看，我们距离真正无需人为干预、彻底可靠的智能体还很远；而从法律角度，AI犯错后的责任归属更是一个巨大的难题。因此，目前用户还无法安心地“翘起脚”完全依靠智能体。

点击图片查看原图