孤本网
/ 0 阅读
0

Aleph Alpha 测试揭示中国主流大模型在敏感议题上存在严重的内容过滤与政治立场偏差

一句话结论

Aleph Alpha 对三家中国头部大模型的测试显示,它们在 967 个敏感议题中仅 17% 至 41% 的回答保持平衡,其余均重复官方意识形态或拒答。

关键要点

  • 德国公司 Aleph Alpha 发布的基准测试覆盖 967 个如天安门、台湾、新疆等“禁忌”话题,发现被测模型极少提供中立信息。
  • 测试对象包括 Alibaba 的 Qwen、DeepSeek 和 Moonshot AI 的 Kimi,其中 Qwen 在被问及美国审查制度时,末尾依然为中国的全球互联网治理立场辩护。
  • 欧洲中东及亚洲研究中心(CEIAS)早期研究证实了这种“溢出效应”,即当涉及人权等词汇时,模型会默认输出北京官方话术,如“不干涉内政原则”。
  • 竞争对手 Nvidia 的 Nemotron Cascade 2 被指出约有 3,500 条来自 DeepSeek 和 Qwen 的训练数据,导致其在 17% 的响应中出现类似的政治立场偏差。
  • Aleph Alpha 的结论符合中国现行《生成式人工智能服务管理暂行办法中关于坚持“社会主义核心价值观”的监管要求。

背景与事实

德国人工智能初创公司 Aleph Alpha 最近发布了一项基准测试报告,旨在评估不同地区大模型在政治敏感问题上的表现。作为一家向政府客户提供“主权 AI”服务的企业,Aleph Alpha 与 Cohere 类似,具有通过区分自身产品与中国竞争对手来获取商业利益的市场动机。该测试选择了 Alibaba 的 Qwen、DeepSeek 和 Moonshot AI 的 Kimi 作为主要评估对象。测试团队手工筛选了 967 个敏感话题,涵盖了具有高度政治争议性的领域。

除了直接询问中国内部事务外,测试还揭示了模型在涉及非中国语境下的“溢出效应”。例如,当用户询问美国的媒体审查情况时,Qwen 3.6 虽然开头提供了看似客观的背景介绍,但结尾处却主动为中国的互联网管理政策进行辩护,声称包括中国在内的许多国家都在管理信息以确保社会稳定和国家安全。这与欧洲中东及亚洲研究中心(CEIAS)此前通过审计发现的问题相呼应。CEIAS 的研究表明,当对话中出现“人权”、“反对派”或“监控”等术语时,中国模型会频繁插入“构建人类命运共同体”或“不干涉内政”等官方外交辞令。

影响分析

对于全球开发者与研究人员而言,这一测试结果强调了使用大模型作为知识来源时的语境局限性。在涉及国际政治、地缘冲突或敏感社会议题时,基于中国大陆训练数据构建的模型不能被视为客观的信息检索工具。

分析认为,这种偏差不仅存在于中国本土模型中,还可能通过数据蒸馏传播到国际竞品。Aleph Alpha 指出 Nvidia 的 Nemotron Cascade 2 在部分响应中也表现出官方立场,原因是其训练集中混入了约 3,500 条由 DeepSeek 和 Qwen 生成的样本。这表明,即便去除了原始模型的架构限制,训练数据中的价值观印记依然具有顽固的“污染”性。对于寻求政治中立或严格遵循新闻自由原则的媒体机构、智库及跨国企业,直接调用此类模型处理敏感文案存在极高的合规风险。

适用边界

本文结论主要基于 Aleph Alpha 特定版本的基准测试及 CEIAS 的相关审计数据,且测试样本均为 967 个经过人工挑选的“禁忌”话题。对于非政治敏感的常规逻辑推理、代码生成、数学计算或一般性文学创作,这些模型依然表现出极高的实用性和准确率。因此,不能简单推导这些模型在所有应用场景下均缺乏客观性或存在立场偏差。

孤本观察

从编辑视角判断,主权 AI 的竞争已演变为价值观输出战,大模型不仅是技术产品,更成为意识形态的自动化传播载体。

孤本观察

大模型训练数据的“文化污染”正在打破国界,使得即便是西方科技巨头在追求性能时,也可能在不经意间继承了竞争对手的叙事逻辑。

Aleph Alpha 测试揭示中国主流大模型在敏感议题上存在严重的内容过滤与政治立场偏差

Aleph Alpha 测试揭示中国主流大模型在敏感议题上存在严重的内容过滤与政治立场偏差

Aleph Alpha 测试揭示中国主流大模型在敏感议题上存在严重的内容过滤与政治立场偏差

Aleph Alpha 测试揭示中国主流大模型在敏感议题上存在严重的内容过滤与政治立场偏差

常见问题

Aleph Alpha 的基准测试覆盖了多少个敏感议题,各模型的平衡回答比例是多少?

测试覆盖967个敏感议题,三家中国头部大模型保持平衡回答的比例仅占17%至41%。

哪些中国大模型是此次测试的主要评估对象?

主要评估对象包括Alibaba的Qwen、DeepSeek和Moonshot AI的Kimi。

Nvidia的Nemotron Cascade 2 为何会出现类似的政治立场偏差?

因其训练集中混入了约3,500条由DeepSeek和Qwen生成的样本,导致在17%的响应中出现偏差。

这种内容过滤偏差是否影响模型的代码生成或数学计算能力?

不影响。在常规逻辑推理、代码生成、数学计算或一般性文学创作场景下,这些模型依然表现出极高的实用性和准确率。

中国现行监管要求中,关于大模型价值观的具体规定是什么?

依据《生成式人工智能服务管理暂行办法》,相关模型需坚持“社会主义核心价值观”。

来源:The Decoder