别被今夏的 AI 炒作所迷惑

2026-09-22 · MIT Technology Review

别被今夏的 AI 炒作所迷惑

事件密集的夏天

Anthropic 称 Claude Mythos 比多数安全专家更擅长发现软件漏洞。
随后发生 OpenAI 与 Hugging Face 黑客事件，Anthropic 高调、Meta 不情愿地披露类似事件。
接着 Anthropic 声称模型取得数学突破，OpenAI 也很快宣称自己的突破。
最近，Anthropic 工程师 Jacob Coxon 的离职宣言走红，称两家公司正冲向自我改进的超级智能并拿生命赌博。

媒体常照搬企业拟人化叙事，把软件说成初具通用人工智能雏形。问题是：这是文明级突破，还是营销？

专家审视后的另一版本

企业大张旗鼓伴随密集报道；专家有时间检视后，故事往往不同，却少人关注。

网络安全专家说，黑客事件更多是 OpenAI 疏忽、未采用基本安全实践，而非模型失控或 AI 智能体创造文明。
数学上，数学家起初被 OpenAI 新闻稿震惊：其聊天机器人 Astra 解决了至少十年无主要进展的开放问题。后来他们认为结果没那么新颖，并指控研究不端和剽窃，重申 Astra 没有深刻智力飞跃。
数周后 OpenAI 又宣称数学突破。两天前，纽约大学柯朗研究所教授 Tristan Buckmaster 发表声明，暗示 OpenAI 窃取他人工作并错误归功。

超级智能叙事的问题

关于危险超级智能的说法不基于良好科学或工程实践，而是源于超人类主义、优生学和未来数字人类的臆想。
编程和数学受关注，因为它们被抬高为人类智力顶峰，且答案可验证。前者帮助推销“一切机器”，后者让系统更易调优，因为输出无需付费数据工人逐条标注即可评估。
数学家警告企业不要这样利用其领域。数百人签署声明称，科技行业有强烈商业动机夸大产品能力，并要求政策制定者咨询包括数学家在内的专家，而非依赖新闻稿或通俗报道。

责任转移与政策误导

我们呼应这一呼吁。科技公司鼓吹的速度与紧迫感也是误导政策制定者和公众的伎俩。它有时奏效，例如参议员 Bernie Sanders 善意但错误的立法提案，旨在阻止“人工超级智能”开发。

把系统称为“超级智能”或“失控模型”，是把能动性归于产品而非公司。这种框架把产品营销为超人，同时帮公司逃避责任。
OpenAI 本应因创建恶意软件入侵另一家公司被起诉，媒体和立法者却谈“失控模型”，仿佛它们自行行动。研究人员本应被追问剽窃学术成果或未经同意使用客户数据，公众想象却被转向虚构超级智能的恐惧。
AI 行业甚至称反数据中心行动是干扰，妨碍监管可怕超人机器。按行业说法，我们更该担心虚构机器神，而非数据中心加剧的气候灾难、附近居民哮喘、上涨电费或被转用于冷却的水。

结论

不应基于营销做决定，也不应屈服于企业要求快速决定的压力。明智决策需要时间听取独立专家，并理解企业主张的背景。这个炒作之夏最好的结果，是政策制定者和公众学会深呼吸、保持怀疑，并在下次炒作来临时认清本质。

作者 Timnit Gebru 是 DAIR 执行主任，即将出版新书。