最新！马斯克正式起诉 OpenAI 及其 CEO Sam Altman（附 1.2 万字指控细节）

WEEX 唯客博客， 撰文：有新   2024 年 3 月 1 日 —— 一场法律风暴正在硅谷酝酿，马斯克将 OpenAI CEO&联合创始人 Sam Altman 告上法庭。马斯克在一份详细的诉讼文件中指控 Altman 和其他被告违反了 OpenAI 的创立协议，该协议旨在开发对全人类有益的非营利性 AI 技术。 根据这份文件，马斯克和其他原告指控 OpenAI 的管理层在 2023 年背离了其非营利的使命，转而与微软建立了独家合作关系，并将先进的 AI 技术 GPT-4 的秘密化，以服务于微软的商业利益。这一转变被描述为对 OpenAI 非营利性质的公然背叛，违背了其创立的初衷。 马斯克在诉讼中声称，他与 Altman 和 Greg Brockman 共同创立 OpenAI 时，是基于对 AI 技术潜在风险的共同担忧，以及对确保 AI 技术发展能够惠及全人类的承诺。然而，随着 OpenAI 在 AI 领域的领先地位日益巩固，尤其是在开发出被认为可能是早期 AGI 的 GPT-4 模型后，公司的方向发生了根本性转变。 诉讼文件详细描述了 OpenAI 的成立过程，包括马斯克在公司早期的资金投入、研究方向的建议，以及招募顶尖科学家和工程师的努力。这些努力被认为是 OpenAI 能够迅速崛起的关键因素。然而，现在马斯克认为，他的这些贡献被用于了与他的初衷相悖的目的。 以下为这份诉讼文件中的主要内容： 马斯克对 AGI 的担忧 在 2012 年，Elon Musk 遇到了 DeepMind 的联合创始人 Demis Hassabis，一家以盈利为目的的 AI 公司。大约在这个时候，Musk 和 Hassabis 在 SpaceX 位于加利福尼亚州霍索恩的工厂会面，并讨论了面临社会的最大威胁。在这次对话中，Hassabis 强调了 AI 进步对社会可能带来的潜在危险。 与 Hassabis 的这次交谈之后，Musk 对 AI 变得超智能、超越人类智能并威胁人类的潜力越来越感到担忧。事实上，Musk 并不是唯一一个对 DeepMind 进行的 AI 研究和 AI 的危险感到害怕的人。据报道，在与 Hassabis 及 DeepMind 的投资者会面后，一位投资者评论说，他对人类所能做的最好的事情就是当场射杀 Hassabis。 Musk 开始与他的圈子内的人，如当时的 Google 母公司 Alphabet, Inc. 的 CEO Larry Page 讨论 AI 和 DeepMind。Musk 经常在与 Page 的对话中提起 AI 的危险，但令 Musk 震惊的是，Page 对此并不担心。例如，在 2013 年，Musk 与 Page 激烈交流了 AI 的危险。他警告说，除非采取安全措施，「 AI 系统可能会取代人类，使我们的物种变得无关紧要甚至灭绝。」Page 回应说，这只是「进化的下一个阶段」，并声称 Musk 是一种「物种主义者」——即偏爱人类物种而不是智能机器。Musk 回应说：「是的，我支持人类。」 到 2013 年末，Musk 非常担心 Google 计划收购 DeepMind。当时，DeepMind 是行业中最先进的 AI 公司之一。因此，Musk 深切关注 DeepMind 的 AI 技术将掌握在如此轻率看待其力量并可能在封闭的门后隐藏其设计和能力的人手中。 为了防止这一强大技术落入 Google 手中，Musk 和 PayPal 的联合创始人 Luke Nosek 试图筹集资金购买 DeepMind。这一努力最终导致了一次长达一小时的通话，Musk 和 Nosek 做出了最后努力，试图说服 Hassabis 不将 DeepMind 卖给 Google。Musk 告诉 Hassabis：「AI 的未来不应该被 Larry [Page] 控制。」 Musk 和 Nosek 的努力未能成功。2014 年 1 月有报道称 DeepMind 将被 Google 收购。然而，这并没有阻止 Musk 继续确保 AI 的安全开发和实践。 Google 收购 DeepMind 后，Musk 开始「主持自己的一系列晚餐讨论，探讨对抗 Google 和促进 AI 安全的方法。」Musk 还联系了美国总统 Barack Obama 讨论 AI 和 AI 安全问题。2015 年，Musk 和 Obama 会面，向其解释 AI 的危险并主张监管。Musk 认为 Obama 理解 AI 的危险，但监管从未实现。 尽管遇到这些挫折，Musk 继续倡导安全的 AI 实践。2015 年，Musk 似乎找到了一个理解他对 AI 的担忧和他希望将第一个 AGI 保持在像 Google 这样的私人公司之外的人：被告 Sam Altman。 当时，Altman 是硅谷创业加速器 Y Combinator 的总裁。在此之前，Altman 参与了各种创业企业。 Altman 似乎分享了 Musk 对 AI 的担忧。在 2014 年回溯的公开博客帖子中，Altman 声称如果制造出 AGI，「将是技术上有史以来最大的发展。」Altman 指出，许多公司正在朝着实现 AGI 的方向迈进，但承认「好的公司对此非常保密。」 2015 年 2 月 25 日，Altman 还表达了他对「超人类机器智能」发展的担忧，他认为这「可能是对人类持续存在的最大威胁」，并强调「作为一个被编程为生存和繁衍的人类，我觉得我们应该对抗它。」此外，Altman 批评那些认为「超人类机器智能」危险但又将其视为「永远不会发生或肯定非常遥远」的人，他指责他们「思考松懈、危险。」 事实上，2015 年初，Altman 赞扬政府监管作为确保安全创造 AI 的手段，并建议「一群非常聪明的人，拥有大量资源」的团体可能涉及「以某种方式的美国公司」，将是最有可能首先实现「超人类机器智能」的团体。 当月晚些时候，Altman 联系 Musk，询问他是否有兴趣起草一封致美国政府的公开信，讨论 AI 问题。两人开始准备信件，并接触技术和 AI 领域的有影响力的人士签名。很快，整个行业的人都听说了这封信的传闻。 例如，2015 年 4 月，Hassabis 联系 Musk，表示他从多个来源听说 Musk 正在起草一封致总统的信，呼吁监管 AI。Musk 向 Hassabis 辩护 AI 监管的想法，表示：「如果做得好，这可能会在长期内加速 AI 的发展。如果没有监管监督提供的公众安心，很可能会出现 AI 造成巨大伤害之后，AI 研究被禁止的情况，因为它对公共安全构成危险。」 在 Hassabis 关于公开信联系 Musk 五天后，Hassabis 宣布了 Google DeepMind AI 伦理委员会的首次会议，这是 Google 和 DeepMind 在两年前 Google 收购 DeepMind 时承诺成立的。Musk 被邀请成为委员会成员，并提议首次会议在加利福尼亚州霍索恩的 SpaceX 举行。Musk 在第一次会议后明确感到，这个委员会不是一个认真的努力，而是试图减缓 AI 监管的幌子。 公开信后来于 2015 年 10 月 28 日发布，由超过一万一千人签名，包括 Musk、Stephen Hawking 和 Steve Wozniak。 OpenAI 成立之初的协议 2015 年 5 月 25 日，Sam Altman 给 Elon Musk 发送了一封电子邮件，表达了他对是否可能阻止人类开发 AI 的深思。Altman 认为答案几乎肯定是否定的。如果 AI 的发展不可避免，那么最好让谷歌以外的某个组织首先实现这一目标。Altman 有一个想法：让 Y Combinator 启动一个 AI 领域的「曼哈顿计划」（这个名称可能非常恰当）。他提议可以通过某种非盈利组织的形式，让技术属于全世界，同时如果项目成功，参与其中的人可以获得类似创业公司的报酬。显然，他们将遵守并积极支持所有监管。Musk 回应说，这「很值得一谈」。 经过进一步的交流，2015 年 6 月 24 日，Altman 向 Musk 发送了一份关于这个新「AI 实验室」的详细提案。「其使命将是创造第一个通用 AI ，并将其用于个人赋能——即，分布式的未来版本看起来是最安全的。更一般来说，安全应该是一个一流的要求。」「技术将由基金会拥有，并用于‘全世界的利益’。」他提议从一组 7-10 人开始，并从那里扩展。他还提出了一个治理结构。Musk 回应说，「在所有方面都同意。」 此后不久，Altman 开始招募其他人帮助开发这个项目。值得注意的是，Altman 向 Gregory Brockman 寻求帮助。2015 年 11 月，Altman 通过电子邮件将 Brockman 与 Musk 联系起来。关于该项目，Brockman 告诉 Musk，「我希望我们作为一个中立团体进入这个领域，寻求广泛合作，并将对话转向关于人类取胜而不是任何特定团体或公司取胜。（我认为这是让我们自己成为一个领先研究机构的最佳方式。）」对于一个专注于人类而不是任何特定个人或团体的利益的中立 AI 研究团队的可能性持乐观态度，Musk 告诉 Brockman 他将承诺资金。 Musk 提出了新实验室的名称，反映了成立协议：「Open AI Institute」，或简称「OpenAI」。 以成立协议的原则为指导，Musk 与 Altman 和 Brockman 联手正式启动并推进该项目。Musk 在项目公开宣布之前就积极参与其中。例如，Musk 在员工薪酬包方面向 Brockman 提供建议，分享了他关于薪酬和保留人才的策略。 2015 年 12 月 8 日，OpenAI, Inc. 的成立证书在特拉华州州务卿处提交。该证书以书面形式记录了成立协议：「本公司是一家仅为慈善和 / 或教育目的而组织的非盈利公司，符合 1986 年修订的内部收入法典第 501(c)(3) 节或任何未来美国内部收入法的相应条款。本公司的具体目的是为与 AI 相关的技术研发和分发提供资金。所产生的技术将惠及公众，公司将寻求在适用的情况下将技术开源以利公众。」 OpenAI, Inc. 在 2015 年 12 月 11 日对外公布。在公告中，Musk 和 Altman 被命名为联合主席，Brockman 被命名为首席技术官。公告强调，OpenAI 旨在「惠及人类」，其研究「不受财务义务的约束」：「OpenAI 是一家非盈利的 AI 研究公司。我们的目标是以最有可能惠及整个人类的方式推进数字智能，不受生成财务回报需求的限制。由于我们的研究不受财务义务的约束，我们可以更好地专注于对人类的积极影响。」 马斯克对 OpenAI 的早期贡献 Elon Musk 在 OpenAI, Inc. 成功启动中扮演了关键角色。在公开宣布的当天，Musk 通过电子邮件写道，「我们最重要的考虑是招募最优秀的人才。」他承诺，帮助招聘工作将是他「全天候的绝对优先事项」。他承认，「我们在人手和资源上被你们所熟知的组织以荒谬的优势超越，但我们站在正义这一边，这意味着很多。我喜欢这样的赔率。」Musk 利用他的人脉、地位和影响力助力招聘工作。OpenAI, Inc. 是由 Elon Musk 赞助的项目，Musk 担任联合主席，这一事实对 OpenAI, Inc. 的招聘工作起到了关键作用，尤其是面对 Google/DeepMind 的反招聘工作。如果没有 Musk 的参与、大量的支持努力和资源——他对成立协议的重视——OpenAI, Inc. 很可能永远无法起步。 最重要的初期聘用之一是首席科学家的职位。Altman、Brockman 和 Musk 都希望 Google 的研究科学家 Ilya Sutskever 担任这一角色。Sutskever 在是否离开 Google 加入该项目上犹豫不决，但最终是在 OpenAI, Inc. 公开宣布的当天，Musk 的一通电话说服了 Sutskever 承诺加入项目，成为 OpenAI, Inc. 的首席科学家。 接下来的几个月里，Musk 积极为 OpenAI, Inc. 招聘。Google/DeepMind 对 OpenAI, Inc. 的招聘人员提出了越来越丰厚的反击报价，试图扼杀这个新兴企业。在 2 月底，Musk 给 Brockman 和 Altman 发送了电子邮件，重申「我们需要做必要的事情来获得顶尖人才。让我们提高报价。如果在某个时候，我们需要重新考虑现有人员的薪酬，那也没关系。我们要么获得世界上最好的人才，要么就会被 Deepmind 打败。不惜一切代价吸引顶尖人才对我来说都是可以的。Deepmind 给我带来了极大的精神压力。如果他们赢了，对于他们想要统治世界的哲学来说，这将是非常糟糕的消息。鉴于那里的人才水平，他们显然在取得重大进展。」 Musk 不仅仅是利用他的人脉和影响力代表 OpenAI, Inc. 招聘，当他告诉 Brockman 和 Altman 提高报价并「做必要的事情来获得顶尖人才」时，他就是在资助那些更高的报价。仅在 2016 年，Musk 就为 OpenAI, Inc. 贡献了超过 1500 万美元，比任何其他捐赠者都多。他提供的资金使 OpenAI, Inc. 能够组建一个顶尖人才团队。同样，在 2017 年，Musk 又向 OpenAI, Inc. 贡献了近 2000 万美元，再次超过任何其他捐赠者。总的来说，从 2016 年到 2020 年 9 月，Musk 为 OpenAI, Inc. 贡献了超过 4400 万美元。 此外，通过 Musk Industries LLC，Musk 为 OpenAI, Inc. 的初始办公空间在旧金山的 Pioneer Building 承租，并支付每月租金费用。Musk 定期访问 OpenAI, Inc.，并出席重要的公司里程碑活动，如 2016 年第一台 DGX-1 AI 超级计算机捐赠给 OpenAI, Inc. 时。Musk 会收到 OpenAI, Inc. 进展的更新，并提供他的反馈和建议。 Altman 和 Brockman 多次重申成立协议 在 2017 年，Greg Brockman 和其他人提议将 OpenAI, Inc. 从一个非盈利组织转变为一个盈利性公司。经过几周的沟通后，Elon Musk 告诉 Brockman、Ilya Sutskever 和 Sam Altman，「要么自己去做点什么，要么继续将 OpenAI 作为一个非盈利组织。在你们做出留下的坚定承诺之前，我将不再为 OpenAI 提供资金，否则我就是一个傻瓜，基本上是在为一家初创公司提供免费资金。讨论结束。」 作为回应，Altman 告诉 Musk 他「仍然对非盈利结构充满热情！」最终，Brockman 和 Sutskever 向 Musk 表明，他们也决心继续保持非盈利结构，并将在接下来的一年致力于为非盈利组织筹集资金。 2018 年 2 月 21 日，Musk 辞去了 OpenAI, Inc. 联合主席的职务。尽管如此，Musk 依然根据成立协议，继续向 OpenAI, Inc. 提供资助。例如，在 2018 年，Musk 向 OpenAI, Inc. 捐赠了大约 350 万美元。他还继续从 Brockman、Sutskever 和 Altman 那里接收关于 OpenAI, Inc. 的更新。 2018 年 4 月，Altman 向 Musk 发送了一份 OpenAI 宪章草案，并征求他的反馈。草案宣称 OpenAI 的使命是确保 AGI「惠及全人类」。它声明，「我们承诺使用我们对 AGI 部署的任何影响力，确保它用于全人类的利益，并避免启用可能伤害人类或不当集中权力的 AI 或 AGI 的使用。我们的首要受托责任是对人类。我们预计需要动员大量资源来实现我们的使命，但将始终努力最小化可能妥协广泛利益的利益冲突。」 2019 年 3 月 11 日，OpenAI, Inc. 宣布将创建一个盈利子公司：OpenAI, L.P.。潜在投资者在摘要条款表的顶部被告知一个「重要警告」，即盈利实体「存在是为了推进 OpenAI Inc.（非盈利组织）确保安全的 AGI 被开发并惠及全人类的使命。普通合伙人对这一使命和 OpenAI Inc. 宪章中推进的原则的义务优先于任何盈利义务。」因此，明确建议投资者「将对 OpenAI LP 的任何投资视为捐赠。」 宣布后，Musk 联系 Altman，要求他「明确我对 OpenAI 盈利部门没有任何财务利益。」然而，Musk 继续支持 OpenAI, Inc. 这个非盈利组织，在 2019 年再次捐赠了 348 万美元。 2020 年 9 月 22 日，OpenAI 宣布它已将其某些预 AGI 技术独家授权给 Microsoft。与成立协议一致，OpenAI 的网站声明 AGI，「一个在大多数经济价值工作中超越人类表现的高度自治系统」「被排除在与 Microsoft 的知识产权许可和其他商业条款之外，这些仅适用于预 AGI 技术。」然而，OpenAI 的董事会「决定我们何时达到 AGI。」 OpenAI 的发展，AI 到 AGI OpenAI 在初期工作上大量借鉴了 DeepMind 的做法。不同于下棋，OpenAI 在 Dota 2 这个策略性视频游戏上进行了竞争，该游戏比国际象棋有着更多的活动部分。OpenAI 的团队迅速构建了一个新模型，击败了世界冠军队伍，展示了「自我对弈的强化学习能够在困难任务上达到超人的表现」。 与此同时，在 Google，一个名为 Transformer 的算法解决了深度学习在理解长文本序列中遇到的许多问题。这个算法是「大型语言模型」的一个例子，它通过在源语言中的单词之间形成连接，并将这些连接映射到目标语言来翻译文本。 OpenAI 的研究人员继续这项研究，并很快产生了另一个惊人的结果：通过使用 Google 的 Transformer 架构的前半部分，一个深度神经网络可以在大量文本语料上进行预训练，用于生成新文本。2018 年 1 月，OpenAI 发布了这个生成预训练 Transformer（GPT）的源代码和训练模型，以及一篇详细描述模型及其能力的论文。 2019 年，OpenAI 发布了第二代模型，GPT-2。这次发布同样附带了一篇详细论文，指出与之前的模型不同，这个模型无需针对特定任务进行训练，「当一个大型语言模型在足够大且多样的数据集上进行训练时，它能够在许多领域和数据集上表现良好」。这些模型证明了它们与以往的 AI 系统非常不同。与其训练系统执行特定任务，不如简单地「请求」它们以自然语言执行新任务。 正如成立协议所预期的那样，OpenAI 公开发布了 GPT-2 的完整版本。值得注意的是，尽管「人类发现 GPT-2 的输出令人信服」，「GPT-2 可以被微调用于滥用」，且「检测（由 GPT 生成的文本）具有挑战性」，OpenAI 仍然决定发布。当时，OpenAI 声明，希望这样做「将对未来强大模型的开发者有用」。这次发布伴随着一篇由 OpenAI 科学家以及独立的社会和技术科学家共同撰写的详细论文，解释了公开…