OpenAI的“内乱”：“良心科学家” 与 “激进企业家” 之争？

"AI 安全 " 和 " 商业化 " 的深层次矛盾是这场 " 宫斗大戏 " 的背后原因？

凭借广受欢迎的聊天机器人 ChatGPT，OpenAI 一夜成名，OpenAI 首席执行官 Sam Altman 也成为科技界知名人物。而这种似乎引发了公司内部的紧张关系，一场让科技圈地震的内斗在周末上演，剧情反转，再反转 ......

当地时间周五，Altman 被以 OpenAI 联合创始人兼董事会董事 Ilya Sutskever 为首的董事会成员中赶下了台。

但在周六，一个令人大跌眼镜的转折出现了，Sutskever 在员工大会上称，公司高管努力让 Altman 回归。

然后，最终再次发生反转，在与董事会、高管以及投资者们进行了为期一个周末的谈判后决定 Altman 将不会回到 OpenAI。

据媒体最新报道，知情人士表示，Sutskever 越来越担心 OpenAI 的技术可能会带来危险，而 Altman 对这种风险重视不够，此外 " 商业化 " 和盈利也似乎是导致内部分裂的原因之一。

AI 安全隐患担忧加剧

Altman 下台引起了人们对人工智能界长期存在的风险的关注。有人认为人工智能是一代人中最大的商机，也有人担心发展太快会带来危险。罢免 Altman 的投票结果表明，一场致力于恐惧人工智能风险的思想运动已经成为科技文化不可避免的一部分。

自 ChatGPT 发布近一年以来，人工智能吸引了公众的注意力，人们希望它能被用于药物研究等重要工作或帮助教育儿童。但也有一些人工智能科学家和政治领导人担心其风险，比如工作岗位会被自动化淘汰，或者自主战争的发展会超出人类的控制范围。

OpenAI 的董事会并没有给出赶走 Altman 的具体原因，只是在一篇博文中表示，董事会认为 Altman 先生没有与他们坦诚沟通。根据媒体的一条信息，OpenAI 的员工在周六上午被告知，Altman 被解雇并不是因为 " 渎职或与我们的财务、业务、安全或安全 / 隐私做法有关的任何事情 "，而是因为 "Altman 与董事会之间的沟通破裂 "。

最近几周，帮助监管 ChatGPT 核心技术 GPT-4 的 Jakub Pachocki 被提升为公司的研究总监。据两位熟知内情的人士透露，Pachocki 之前的职位低于 Sutskever，现在他被提升到了与 Sutskever 同等的位置。两位知情人士说，Pachocki 周五晚些时候从公司辞职。

值得一提的是，剩下 Sutskever 先生和另外三名董事会成员：他们是问答网站 Quora 的首席执行官 Adam D'Angelo、RAND 公司兼职高级管理科学家 Tasha McCauley 和乔治城大学安全与新兴技术中心战略与基础研究基金主任 Helen Toner。

McCauley 和 Toner 与 Rationalist and Effective Altruist 运动有联系，这个团体对人工智能有朝一日可能毁灭人类深感忧虑。今天的人工智能技术无法毁灭人类，但这个群体相信，随着技术的日益强大，这些危险将会出现。

Sutskever 也越来越认同这些理念。11 月 2 日，Sutskever 先生在一次播客节目中说：

我们将拥有比人聪明得多的计算机——数据中心，这似乎一点也不意外，但这种人工智能会做什么？我不知道。

商业化背离非盈利 " 初心 "？

除了安全之外，Altman 与董事会另一层可能的矛盾是 " 商业化 "。

2015 年，Sutskever、Altman 和 Brockman 在特斯拉首席执行官马斯克的帮助下一起创建了 OpenAI，当时 OpenAI 作为非营利组织成立，他们表示，与谷歌和其他公司不同，该实验室不会受到商业激励的驱动。

2018 年，Altman 将 OpenAI 转变为一家营利性公司，并与微软谈判获得了 10 亿美元的投资。这笔巨额资金对于构建像今年早些时候发布的 GPT-4 这样的技术至关重要。自最初投资以来，微软又向该公司投入了 120 亿美元。

但是该公司仍由非营利性董事会管理，像微软这样的投资者确实能从 OpenAI 获得利润，但他们的利润是有上限的。任何超过上限的资金都会回流到非营利机构。

在这个拥有 " 营利 " 与 " 非营利 " 双重属性的公司架构中，阿尔特曼与苏茨克沃正代表了两种立场。

由于看到了 GPT-4 的威力，Sutskever 更注重安全性，在公司内部创建了一个新的 " 超对齐 " 团队，该团队旨在探索确保技术未来版本不会造成伤害的方法。

而 Altman 则希望 OpenAI 能够保持领先于竞争对手，因此倾向于快速实现生成式 AI 产品的商业化，部署横跨全球的消费者业务。

据两位熟悉内情的人士透露，9 月下旬，Altman 飞往中东与投资者会面。他寻求来自日本投资企业软银（SoftBank）最多 10 亿美元的资金，用于 OpenAI 旗下的新设企业——该企业打算生产一种硬件设备，用于运行像 ChatGPT 这样的人工智能技术。

此外，OpenAI 还在洽谈 " 要约收购 " 融资，允许员工将公司股份套现，这笔交易将使 OpenAI 的市值超过 800 亿美元，几乎是六个月前的三倍。