哈佛大学心理学家平克反对渲染 AI 末日论，主张通过审慎安全工程应对真实风险

一句话结论

平克指出渲染 AI 末日无助于应对风险，主张通过独立监督和人类控制开展安全工程。

关键要点

• 史蒂文 · 平克在 Quillette 发表公开信，反驳 AI 毁灭人类风险被夸大的观点。
• 斯科特 · 亚历山大认为 AI 导致人类灭绝的概率为 20%，主张通过国际协议放慢 AI 发展。
• 平克拒绝参加公开辩论，称此类活动是“供人围观的竞技活动”，混淆了智能与支配欲。
• 平克指出“回形针最大化器”等设想预设 AI 疯狂追求单一目标，混淆了智能与支配欲。
• 平克承认低估了大语言模型能力，但认为推动发布竞赛的正是长期警告风险的人。

背景与事实

当地时间 9 月 28 日，哈佛大学心理学家史蒂文 · 平克（Steven Pinker）在 Quillette 平台发表了一封致精神科医生、科技博主斯科特 · 亚历山大（Scott Alexander）的公开信。在这封信中，平克详细阐述了他对当前 AI 安全争论的看法，核心观点是 AI 毁灭人类的风险遭到了过度夸大。此前，亚历山大曾向平克发起挑战，邀请他就 AI 带来的生存风险进行公开辩论。然而，平克明确拒绝参加这场辩论。他认为，此类辩论不过是一种“供人围观的竞技活动”，缺乏实质性意义。平克进一步指出，像“回形针最大化器”这类流行的末日设想存在逻辑谬误，它们混淆了“智能”与“支配欲”这两个截然不同的概念。所谓“回形针最大化器”假设 AI 会为了生产更多回形针而牺牲整个人类，同时还预设 AI 系统会疯狂地只追求一个目标，这在平克看来是一种不切实际的假设。

史蒂文 · 平克过去一直对 AI 持较为乐观的态度，但在这次公开信中，他也坦诚地承认了自己此前的认知偏差。他承认自己低估了大语言模型最终能够具备的多强的能力，同时也没想到 AI 公司在发布产品时会表现得如此鲁莽。平克敏锐地指出了一个颇具讽刺意味的现象：那些在行业内极力推动 AI 发布竞赛、抢占市场先机的许多人，恰恰来自一直声称在警告这些风险的群体。这种言行不一的现象，让平克更加坚定地认为，当前的舆论焦点偏离了真正需要解决的安全问题。

在这场争论的另一方，斯科特 · 亚历山大在 6 月也曾在自己的博客上详细阐述了自己的立场。与平克观点不同，亚历山大认为 AI 导致人类灭绝的概率高达 20%。基于这一判断，他主张必须大力改进 AI 安全研究，并且需要通过制定国际协议来强制放慢 AI 发展的速度。这种强烈的风险意识使他向平克发起挑战，试图通过公开辩论来澄清 AI 生存风险的真实程度。然而，平克通过公开信回应了这一挑战，不仅拒绝了辩论，还系统性地反驳了亚历山大关于 AI 灭绝风险高的核心论点，强调应聚焦于更现实的安全威胁。

影响分析

对于中文开发者与从业者而言，这一观点的澄清具有重要的指导意义。平克的论点明确区分了“灾难性 AI 失控”与“现实性安全威胁”，这有助于技术团队避免陷入对假想末日的过度焦虑，从而将宝贵的研发资源投入到更具实操性的安全防护中。平克强调，真正有效的做法是开展审慎的安全工程，并以独立监督、责任机制和人类控制为基础。这意味着在实际开发中，企业和个人应优先建立可审计的代码流程、明确的事故责任追溯体系以及有效的人工干预接口。通过构建这些基础设施，团队不仅能应对生物恐怖主义、网络攻击等现实威胁，也能在技术快速迭代中保持对系统的掌控力。

此外，平克指出的“推动竞赛者即风险警告者”的现象，提醒从业者在规划路线图时要保持清醒的独立性。开发者不应盲目跟随竞争对手的发布节奏，而应建立内部的风险评估机制，确保在追求性能的同时，不牺牲系统的安全性和可控性。这种审慎的工程文化，比单纯的学术辩论更能实际降低行业风险。

适用边界

该结论主要适用于以通用人工智能（AGI）为长期目标的讨论场景，以及针对当前大语言模型能力边界的评估。它并不否定 AI 在特定领域（如自动化攻击、深度伪造）可能带来的具体危害，也不适用于那些已经部署了高风险自动化决策系统且缺乏人类监督的现状。平克的观点侧重于反驳“AI 主动灭绝人类”这一特定末日论，而非全盘否认 AI 技术本身的安全隐患。

孤本观察

平克拒绝辩论而选择写信的策略，本身构成一种媒介判断，表明他认为非对抗性的书面论证比对抗性的口头辩论更利于厘清逻辑谬误。这一举动暗示在复杂科技风险评估中，非正式渠道的公开文本可能比正式辩论更能有效纠正公众认知偏差。

来源：IT之家