OpenAI 早期动荡的岁月:马斯克、奥特曼等人的邮件对话
马斯克与 OpenAI 的诉讼案件,意外地揭露了 OpenAI 在早期的一些内部邮件往来。这些邮件涉及 Elon Musk(埃隆·马斯克)、Sam Altman(山姆·奥特曼)等关键人物,揭示了 OpenAI 成立初期的一些争议和决策过程。
邮件内容显示,马斯克感到被背叛,因为 OpenAI 放弃了最初的非营利组织愿景,而他曾是该组织的领导者。
最引人注目的一封邮件来自前首席科学家 Ilya Sutskever,他解释了团队对马斯克作为公司领导者的担忧:
当前的结构为您提供了一条路径,最终让您拥有对通用人工智能(AGI)的单方面绝对控制权。您曾表示不想控制最终的 AGI,但在这次谈判中,您向我们展示了绝对控制对您来说极为重要。
例如,您表示需要成为新公司的 CEO,以便每个人都知道是您在负责,尽管您也说过讨厌担任 CEO,宁愿不当 CEO。
因此,我们担心,随着公司真正朝着 AGI 迈进,您会选择保留对公司的绝对控制权,尽管目前的意图是相反的。
OpenAI 的目标是让未来变得更好,避免 AGI 独裁。您担心 Demis(谷歌旗下的 DeepMind 的负责人)可能会创建一个 AGI 独裁。我们也一样。因此,创建一个您如果选择,可能成为独裁者的结构是一个糟糕的主意,特别是考虑到我们可以创建一些避免这种可能性的其他结构。
Sutskever 还对奥特曼表示担忧,用词与董事会后来指责他“不始终坦率”时所用的词汇相似:
我们一直无法完全信任您的判断,因为我们不了解您的成本函数。
我们不明白为什么 CEO 头衔对您如此重要。您给出的理由一直在变化,很难真正理解驱动您的真实原因。
AGI 真的是您的首要动机吗?它如何与您的政治目标联系起来?
随着事态的发展和奥特曼将公司引向更传统的企业 SaaS(软件即服务)定位,似乎他的目标更多是商业而非哲学。
一个有趣的细节是,早在 2017 年,OpenAI 就认真考虑过收购芯片制造商 Cerebras,或以某种方式与之合并,可能利用特斯拉的资源。Sutskever 表示:
如果我们决定购买 Cerebras,我强烈的感觉是通过特斯拉来完成。
他们最终没有进行这一操作,但这些邮件中并未说明原因。
顺便提一下,这是在马斯克试图让 OpenAI 成为他的众多财产之一的时候,而领导者们也对此可能性持开放态度。正如 OpenAI 联合创始人 Andrej Karpathy 所写:
我认为最有希望的选择,正如我之前提到的,是让 OpenAI 依附于特斯拉,作为其现金奶牛。[...]如果我们做得非常好,交通行业足够大,我们可以将特斯拉的市值提高到高 O(~100K),并利用这些收入在适当的规模上资助 AI 工作。
出于许多现在看来很明显的原因,这并没有发生。特斯拉的市值确实增加了,但自动驾驶方面——Karpathy 后来在特斯拉工作时旨在加速的领域——比预期的要困难,并且尚未为特斯拉的收入做出有意义的贡献。
至于赚钱,微软从 2016 年就开始参与其中,提供给 OpenAI 价值 6000 万美元的 Azure 计算资源,作为交换,两家公司“互相宣传”。没有人对这种企业间的互惠互利感兴趣,马斯克写道,这让他“感到恶心”。
他们最终支付了更多的费用,但双方都没有义务。马斯克写道:“不成为微软的营销婊子,价值远远超过 5000 万美元。”
最后,董事会成员 Shivon Zilis(后来成为马斯克三个孩子的母亲)提到了一个小花絮:Valve 创始人 Gabe Newell 除了在项目早期是捐赠者外,还在奥特曼和 Greg Brockman 的“非正式顾问委员会”上。目前尚不清楚他在那里的日常角色是什么。