教宗良十四世呼吁对人工智能进行“解除武装”：机器是工具而非人

一句话结论

教宗良十四世在周五的讲话中正式呼吁对人工智能系统进行“解除武装”，并敦促联合国会员国在日内瓦会议上采取具体步骤禁止致命自主武器。

关键要点

• 教宗良十四世明确指出人工智能系统应当被“解除武装”，强调人类负有指导、修改并在必要时拒绝其应用的责任。
• 教宗敦促联合国会员国在下个月于日内瓦召开的会议上，就禁止致命自主武器（Lethal Autonomous Weapons）采取具体行动步骤。
• 此次讲话理念与其在五月发布的首个重大教宗文件（宗座通谕）保持一致，核心主题是“在人工智能时代保护人类尊严”。
• 教宗在讲话中重申“机器是工具，而非人”的立场，并警告若缺乏正确引导，人工智能应用可能带来潜在风险。

背景与事实

教宗良十四世（Pope Leo XIV）在周五面向参与者的教宗讲话（Papal Address）中，罕见地使用了军事术语“解除武装”（disarm）来描述对人工智能系统的期望。这一表述并非指物理上的销毁，而是象征性地要求削弱人工智能系统在决策和执行层面的自主性，使其回归受控状态。教宗强调，虽然技术本身是中性的工具，但人类使用者必须承担主体责任。具体而言，人类有责任去“指导、修改，并在必要时拒绝”人工智能的各种应用场景，特别是在那些可能危及人类核心利益或安全的领域。

这一讲话并非孤立事件，而是其五月发布的首个重大教宗文件理念的直接延伸。在那份文件中，教宗详细阐述了“在人工智能时代保护人类”（safeguarding the human person in the time of artificial intelligence）的伦理框架。周五的讲话进一步将这种伦理关切转化为具体的外交呼吁。教宗特别提及即将在下个月于瑞士日内瓦举行的联合国会议，并明确鼓励成员国将“禁止致命自主武器”列入议程并迈出实质性步伐。致命自主武器是指能够在没有人类操作介入的情况下自主寻找、识别、选择和攻击目标的人工智能系统，目前国际社会对此类武器的规制存在巨大分歧。

影响分析

对于中文开发者与从业者而言，教宗良十四世此番呼吁虽然不具备直接的法律约束力，但其象征意义和潜在的舆论影响力不容忽视。首先，这标志着宗教权威正式介入人工智能伦理治理的公共话语体系。随着全球主要经济体对人工智能监管的趋严，宗教视角下的“去工具化”或“限制自主性”主张可能逐渐融入非政府组织、国际公约草案以及企业合规指导原则中。开发者在设计自主决策模块，尤其是涉及军事、安防或高风险金融交易的算法时，可能会面临更多来自社会伦理层面的质疑。若“机器是工具而非人”成为主流共识，代码层面的“黑箱”属性将更难被公众接受，透明度和可解释性（Explainability）将成为技术迭代的硬性指标。

其次，对致命自主武器的具体禁令呼吁，直接影响着人工智能在国防领域的应用研发方向。对于从事计算机视觉、目标识别和战术决策算法的技术团队，未来的合规要求可能会更倾向于引入“人在回路”（Human-in-the-Loop）机制，即关键攻击决策必须由人类最终确认，而非由人工智能自动执行。这种趋势可能限制某些全自动军事AI项目的商业化落地，但也为专注于“AI伦理审查”、“算法审计”和“自主性抑制”技术的企业创造了新的市场机会。从业者需密切关注日内瓦会议的相关决议，因为国际标准的形成往往滞后于技术落地，提前适应“限制自主性”的治理框架将帮助企业在全球市场保持合规竞争优势。

适用边界

需要明确的是，教宗的讲话主要代表天主教会在伦理层面的立场，并不直接构成具有强制力的国际法或国内法。因此，“解除武装”这一比喻性表述在法律执行层面存在解释弹性，它更多适用于倡导伦理规范而非规定技术禁令。此外，该呼吁主要聚焦于致命自主武器和高风险应用，对于通用型人工智能大模型、非军事领域的商业应用以及科研探索，并未提出具体的技术限制要求。在尚未达成国际共识且各国技术路线图存在差异的背景下，仅凭宗教领袖的呼吁无法改变当前人工智能快速迭代的产业现状，其实际效力取决于联合国后续的具体立法行动以及主要技术输出国的国内监管政策。

孤本观察

本文观察认为，将“解除武装”这一军事概念用于人工智能治理，折射出部分传统权威机构在面对技术加速主义时的防御性心态。这种修辞策略试图通过强调人类主体性的不可替代性，来遏制人工智能向完全自主智能体演化的趋势，其核心逻辑在于通过伦理叙事为技术监管争取政治空间。

来源：The Verge AI