本周，OpenAI负责通用人工智能（AGI，即人类水平的人工智能）的高级顾问Miles Brundage宣布离职，并发出了严厉警告：没有人准备好迎接AGI，包括OpenAI本身。

“无论是OpenAI还是任何其他前沿实验室都没有准备好迎接AGI，世界也没有准备好，”Brundage写道。他花了6年时间帮助制定公司的AI安全计划。“要明确的是，我认为在OpenAI的领导层中，没有人对‘我们还没有准备好迎接AGI’这一观点持有异议。而且，这与公司和整个世界是否能在关键时刻做好准备，是两个截然不同的问题。”

关于OpenAI的另一条消息是，其计划在12月前推出下一个前沿模型Orion。虽然在OpenAI内部Orion被视为GPT-4的继任者，一位OpenAI高管曾暗示Orion可能比GPT-4强大100倍，但目前尚不清楚公司是否会在外部称之为GPT-5。

下一个模型的发布对OpenAI来说非常关键，刚刚完成了一项历史性的66亿美元融资轮次，这要求公司在两年内重组为盈利实体。在公司解散了致力于解决长期人工智能风险的Superalignment团队几个月后，Brundage的“AGI准备”团队也被解散，突显了OpenAI原始使命与其商业野心之间的紧张关系。

微软正在准备托管 OpenAI 的下一个模型Orion

Brundage的离职仅是OpenAI安全团队一系列高调离职中的最新一例。此前，著名研究员Jan Leike在声称“安全文化和流程已经让位于光鲜的产品”后离开了公司。联合创始人Ilya Sutskever也离开了，去创立自己的AI初创公司，专注于安全AGI的开发。

在解释他离职的原因时，Brundage表示他的研究和出版自由受到越来越多的限制。他强调了在AI政策讨论中需要独立的声音，这些声音不应该受行业偏见和利益冲突的影响。在向OpenAI领导层提供内部准备情况的建议后，他认为他现在可以从组织外部对全球AI治理产生更大的影响。