Sam Altam 自己对昨天直播的解读:
昨天我们开了个直播。没看的朋友,这儿是“懒人包”:
我们定下了一组内部目标:到 2026 年 9 月,我们要搞出一个“AI 科研实习生”,它得能在几十万块 GPU 上跑起来;到 2028 年 3 月,我们要搞出一个真正的“自动化 AI 研究员”。
我们很可能实现不了这个目标,但我们还是得说出来。为啥呢?因为这事儿(如果做成了)影响实在太大了,我们觉得本着对公众负责的态度,必须保持透明。
为了保证AI不“跑偏”,我们设计了一个“五层防护网”:
- 价值观对齐 (Value alignment) (确保AI的是非观和人类一致)
- 目标对齐 (Goal alignment) (确保AI想做的,就是我们让它做的)
- 可靠性 (Reliability) (确保AI在各种情况下都能稳定工作)
- 对抗性鲁棒性 (Adversarial robustness) (确保AI不会被恶意“投毒”或欺骗)
- 系统安全 (System safety) (确保整个AI系统本身是安全的,不会被黑客利用)
我们对一个叫“思维链忠诚度” (Chain-of-thought faithfulness) 的工具特别兴奋 (这玩意儿是用来确保AI不仅给出正确答案,还能诚实地告诉我们它是怎么想出来的)。不过它目前还有点“脆” (容易“翻车”或失效),还需要划定清晰的边界和抽象。
在产品方面,我们正努力转型成一个真正的“平台”。我们希望,未来绝大部分价值是由那些在我们技术上(比如我们的API或ChatGPT里的应用)搞开发的人和公司创造的。我们的终极目标是,提供一个“AI云”,能催生出巨无霸企业。
目前,我们已经承诺投入大概 30 吉瓦 (GW) 的算力 (1吉瓦约等于一座大型核电站的功率)。在未来几年的总持有成本(TCO,Total Cost of Ownership,指购买、运营、维护的总花费)将高达约 1.4 万亿美元。
砸这么多钱,我们心里有底吗?有。因为我们看到了模型能力和收入增长的喜人前景。我们甚至还想“搞得更大”——我们想造一个“AI工厂”,能以比现在低得多的成本,每周“生产”出 1 吉瓦的新增算力。不过,要实现这个“大跨越”,我们还需要对未来的模型、收入以及技术和金融创新有更大的信心才行。
我们的新架构(指公司结构)比旧的简单多了。现在是这样:我们有一个非营利组织,叫“OpenAI 基金会” (OpenAI Foundation),它负责管理一个“公共利益公司” (Public Benefit Corporation, PBC),叫“OpenAI 集团” (OpenAI Group)。一开始,基金会持有集团 26% 的股份,但如果集团(也就是这个PBC)干得特别好,基金会可以通过认股权证 (warrants) 来增加持股。这个“公共利益公司” (PBC) 的存在,就是为了能(像普通公司一样)吸引(比如融资)实现使命所需要的海量资源。
无论是非营利基金会,还是这个公共利益公司,我们的使命始终没变:确保通用人工智能 (AGI, Artificial General Intelligence) 惠及全人类。
这个非营利基金会(指OpenAI Foundation)起步阶段就承诺投入 250 亿美元,用于两大块:一是健康和攻克疾病;二是“AI 韧性” (AI resilience) (这个词有点新,它指的是所有能帮助社会平稳过渡到“后AGI时代”的事情,不仅包括技术安全,还包括研究经济影响、网络安全等等)。
而且,跟以前不一样,这个非营利基金会现在有能力真正快速地“撒钱”了(指把资金部署到位)。
我们预计,到 2026 年,我们的 AI 系统也许就能搞出点“小”的新发现了;而到了 2028 年,我们可能将见证“大”的发现。
这事儿非同小可。因为我们坚信,科学,以及那些能将科学成果广泛传播(让所有人受益)的机制,才是人类生活质量不断提高的终极法宝。