💥炸裂 数名OpenAI、谷歌DeepMind现任和前任员工签署公开信警告人工智能风险

称：OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年！

这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。

签署公开信的多位OpenAI前任雇员曾从事人工智能安全工作，为公开信背书的业内大佬则有“人工智能教父”Geoffrey Hinton、因开创性AI研究而获得图领奖的Yoshua Bengio，以及AI安全领域的顶尖专家Stuart Russell。

据署名签字公开信的OpenAI前任员工对媒体介绍，这家位于旧金山的人工智能热门公司存在“为争夺谁第一个把最强大AI产品推向市场而不计后果”的鲁莽企业文化，无法有效察觉和治理AI系统的潜在风险，还用剥夺吹哨人前员工股权等强硬手段阻止他们表达对AI技术的担忧。签字公开信的OpenAI现任员工全部选择匿名，就是因为担心被打击报复。

公开信的签署者之一、今年4月从OpenAI人工智能治理岗位离职的Daniel Kokotajlo指出，辞职是因为“对OpenAI能否负责任地行事失去了信心”。他称OpenAI的人工智能系统已经接近人类智能水平，通用人工智能AGI有50%的可能性在2027年就会问世，而不是此前预测的2050年：

“世界还没有准备好（迎接如此高级的AI智能），我们也没有准备好，我担心（这些商业公司）将不管不顾地一意孤行，并为自己的行为寻找借口。先进的人工智能毁灭人类或对人类造成灾难性伤害的可能性高达70%。”

他称，尽管OpenAI已与微软联合开展“部署安全委员会”等安全协议，旨在公开发布新AI模型之前进行重大风险审查，但并没有因此减慢新产品的发布速度。与投入更多时间和资源用来防范人工智能潜在风险相比，OpenAI仍在急于改进模型并进行商业化推广。

微软甚至两年前在印度悄悄测试Bing搜索引擎包含未发布GPT-4的新版本，引发了一些搜索引擎对用户行为异常的报告。OpenAI原本不知道最先进大语言模型被投入测试，知道后也没有阻止微软更广泛地推出该产品。不过，OpenAI发言人对上述说法提出异议。

信中写道，人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发，同时却对保护措施和风险水平的信息讳莫如深。公开信认为，不能指望这些公司会自愿分享这些信息，因此呼吁内部人士站出来发声。

由于缺乏有效的政府监管，这些现任和前任员工成为能够让这些公司对公众负责的少数群体之一。然而，由于严格的保密协议，员工被限制发声，只能向可能并未妥善处理这些问题的公司反映问题。传统的举报人保护措施并不适用，因为此类措施侧重于违法行为，而目前令人担忧的许多风险尚不受监管。

员工们呼吁人工智能公司为揭露人工智能风险的人士提供可靠的举报人保护措施，具体包括：

•不得创建或执行阻止员工对风险相关问题提出批评的协议；

•提供可验证的匿名程序，使员工能够向董事会、监管机构和相关领域的独立组织提出与风险相关的担忧；

•支持开放批评的文化，允许员工在保护商业机密的前提下，向公众、董事会、监管机构等方面提出与技术相关的风险担忧；

•在其他程序失效后，避免对公开分享风险相关机密信息的员工进行报复。

共有 13 名员工签署了这封公开信，其中包括 7 名前 OpenAI 员工、4 名现任 OpenAI 员工、1 名前谷歌 DeepMind 员工和 1 名现任谷歌 DeepMind 员工。

OpenAI 曾因员工发声而威胁取消其既得权益，并要求员工签署严格的保密协议限制他们批评公司。

OpenAI则发布声明称，为公司能提供最强大、最安全人工智能系统的历史成就感到自豪，并相信其内部应对风险的科学方法，“我们同意，鉴于这项技术的重要性，严谨的辩论至关重要，我们将继续与世界各地政府、民间社会和其他社区进行接触。”

点击图片查看原图