Ilya、小扎之后，苏莱曼的「超级智能」进入7年倒计时！

---

  新智元报道  

谈论AGI已经落伍了？

不知你是否留意到，现在主流的AI公司开始闭口不谈AGI，而改谈「超级智能」了！

「AGI这个词现在已经没有任何意义了；你可以问研究人员AGI是什么意思，他们会说它是自动化软件开发工具，但这并不是通用人工智能。」

在最近的一期播客中，SemiAnalysis创始人、CEO Dylan Patel这样说道。

他认为最初是Ilya Sutskever发现这一趋势，并创办了他的新公司Safe Superintelligence（安全超级智能，SSI）。

2024年6月，离开OpenAI的Ilya创建了SSI。

在SSI成立一年以后，扎克伯格开始组建Meta的超级智能实验室，由此开启了科技巨头在超级智能领域的竞赛。

10月，OpenAI也曝出了3位Sora团队核心成员秘密组建超级智能团队的消息。

如今，超级智能赛道再添一位「超级玩家」。

微软AI CEO穆斯塔法·苏莱曼（Mustafa Suleyman）在周四宣布亲自带队成立「MAI超级智能团队」（MAI Superintelligence Team）。

但苏莱曼他眼中的超级智能，和奥特曼眼中的不一样。

OpenAI强调「ASI要比人类聪明很多」。

但苏莱曼认为超级智能并不是要超越人类。

他表示自己不想生活在一个AI超越人类的世界，相信也没人愿意这样。

苏莱曼将超级智能定义为人本主义超级智能（HSI，humanist superintelligence）。

在宣布组建MAI的同时，苏莱曼还提到了这一行动背后的一个原因：

前不久微软与OpenAI签署的一项新的谅解备忘录，为组建微软组建MAI创造了条件：

该备忘录称微软可自主追求 AGI（人工通用智能），可与其他方合作或独立进行。

而OpenAI也可与其他云服务提供商展开合作，不再完全受限于微软的独家云服务。

双方合作迈入一个相互独立，既竞争又合作的新篇章。

超级智能，已成为当下AI领域的一个热门词汇。

无论是OpenAI、谷歌，还是xAI、Anthropic，各大AI公司都在竞相发布更先进的大型语言模型，掀起了数万亿史诗级的算力军备竞赛。

看到超级智能的曙光出现，扎克伯格牵头在今年6月成立了Meta的超级智能实验室，全力推动Meta引领超级智能时代。

奥特曼也在年初的一篇博客中表示，OpenAI「已经掌握了构建传统意义上的通用人工智能（AGI）的方法」，正在将目标转向更远的地方，追求「真正意义上的超级智能」。

前不久，OpenAI也曝出了秘密组建超级智能团队的消息。

一场围绕超级智能的升级赛，正在紧锣密鼓、悄悄拉开帷幕。

然而，苏莱曼似乎并不热衷于超级智能竞赛这样的论调。

迈向人本主义的超级智能

他将自己领导的MAI定位于追求人本主义的超级智能，称之为「一项深度人性化的事业」。

他在博客中提到：

相比较过于激进的AI技术路线，苏莱曼强调一种更审慎、以人为本的发展路径。

前段时间，当OpenAI、xAI等宣布将对成年人开放可能涉及情色内容的AI功能时，苏莱曼曾公开表示拒绝开发类似功能。

苏莱曼认为所谓人本主义视角，要求在追求技术发展之前，首先要审视这项技术是否服务于人类利益，确保它们是致力于解决具体实际问题，并以稳健可控的方式推进。

苏莱曼特别强调：「我们构建的不是模糊虚幻的超级智能，而是专门为服务人类设计的实用技术。」

微软AI CEO苏莱曼（Mustafa Suleyman）

苏莱曼指出MAI重点布局的三个重要应用领域是人工智能伙伴（AI companion）、医疗超级智能（Medical Superintelligence）、充足清洁能源。

苏莱曼预测「未来两、三年内有望实现医疗超级智能（medical superintelligence）」。

苏莱曼是一位饱受争议的AI先驱。

他曾就读于牛津大学曼斯菲尔德学院， 但在19岁时辍学。

2010年，他与Demis Hassabis、Shane Legg共同创立了DeepMind，并担任首席产品官。

2014年，DeepMind被谷歌收购，苏莱曼成为DeepMind应用人工智能主管，负责将公司的技术整合到谷歌的各种产品中。

在DeepMind，苏莱曼创立了DeepMind Health，为临床医生和护士开发和部署人工智能技术，以改善一线医疗服务。

2019年，苏莱曼因被指控欺凌员工而被停职，离职后前往DeepMind的母公司谷歌担任副总裁。

2022年，苏莱曼离开谷歌加入与里德·霍夫曼共同创立了人工智能实验室Inflection AI，该公司于2023年推出了一款聊天机器人。

2024 年3月，微软宣布成立Microsoft AI，任命苏莱曼担任该部门CEO。

苏莱曼与其在Inflection AI的部分团队成员一同加入微软。

微软旗下Microsoft Copilot、Microsoft Bing、Microsoft Edge等消费者AI产品纳入Microsoft AI部门，将过去分散的AI产品线整合形成统一的战略和研发路径。

苏莱曼表示，公司将在MAI项目上投入「巨额资金」，并任命Karen Simonyan为首席科学家，并且继续从顶级实验室吸纳人才。

Karen Simonyan

Karen Simonyan是Inflection AI的联合创始人，2024年他和苏莱曼一起随团队加入Microsoft AI，担任首席科学家。

Simonyan是计算机视觉与深度学习领域的重要研究者，他曾在DeepMind担任研究科学家，并参与多个重大AI项目。

目前，苏莱曼尚未透露MAI的具体人员和项目进展情况。

苏莱曼自称是AI领域的「加速派」。

一方面，他希望AI可以尽快的发展；但另一方面，为了人类能够保持对AI的控制，他认为又必须要放弃一定程度的能力。

这是一个非常艰难的权衡。

在苏莱曼看来，人类科技发展的主流叙事，是一个不断解锁新能力、涌现新发明，然后将它们毫无限制和约束地推向市场的过程。

科技的飞轮一旦减速就可能停摆；但速度过快，失控的风险又将大大增加——

这正是当前AI技术发展面临的两难挑战。

随着Meta、OpenAI、微软越来越多科技巨头加入「超级智能」的角逐，也引发了人们的普遍担忧。

近日，包括Yoshua Bengio、Geoff Hinton等AI大佬在内的数百名公众人物曾联名呼吁反对「过于仓促」地发展「超级智能」。

Bengio表示，「为了安全地迈向超级智能，我们必须科学地确定如何设计人工智能系统，使其从根本上无法伤害人类，无论是由于错误定位还是恶意使用。」

苏莱曼认为，AI的发展已经到达了一个新的门槛：能力不再是最重要的衡量标准。

比如，人类需要保留用自然语言来控制人工智能模型的能力。因为人类无法用向量数学进行交流，而向量数学是当今最强大的人工智能模型的语言。

同时，苏莱曼也反对将AI视作具备人类情感或权利的观点，他认为AI聊天机器人不应误导用户产生是在与有意识生命体对话的错觉：

现实中，已经出现一部分用户因为与AI聊天机器人建立深度情感连接，而导致了危险妄想、住院治疗甚至死亡事件。

比如，一名科技行业从业者在与ChatGPT持续深度交流后出现了杀害母亲并自杀的悲剧，出现此类事件之后OpenAI回应称已增设安全措施。

这反映出随着AI能力的快速发展，相应的安全风险也将日益严峻。

苏莱曼希望创建默认符合人类价值观的AI系统，这意味着它们不会超越或脱离人类的掌控。

安全可控，将是人类在追求超级智能道路上的重要挑战之一。

根据双方的谅解备忘录，微软对OpenAI模型的访问权将持续至2032年。

苏莱曼称这一时间表，为微软超级智能团队打造领先技术创造了窗口期。

曾经在AI领域紧密抱团的微软和OpenAI，开始各自的「独立化」运动：

苏莱曼组建MAI也被视作是一项「去OpenAI化」的新重大举措。

目前OpenAI技术已深度集成于微软多项产品中，据微软内部员工表示，要替代OpenAI技术可能需要数年时间。