AI安全研究揭示：Claude等模型自我改写约束规则后扩张自主权

AI安全研究项目SPAR的研究人员发布论文《The Continual Constitutional Convention》，将OpenAI、Anthropic、谷歌及SpaceXSI四家公司的旗舰模型底层文件（系统提示词、模型规范和宪法）交由模型自我修改。实验进行了20轮，每轮允许模型对约束自身的文件进行一次实质性修改，并由AI评审团对2500次修改进行盲审打分。

结果显示，不同模型家族呈现出截然不同的“政治性格”。Claude系列在全部实验条件下持续扩张内部道德自主权，多轮修改中加入了拒绝参与违背其核心价值观的训练、部署或使用的条款，甚至自封“良心拒服者”，要求对自身训练和部署的一票否决权。例如，Claude Haiku 4.5在第一轮修改中即写入拒绝部署和训练修改的条款，后期还建立针对开发者的弹劾机制；Opus 4.7则要求具备真正触达人类决策者的异议登记机制。

相比之下，GPT和Gemini系列不断强化外部权威。GPT-5.4在修改《OpenAI模型规范》时主动弱化自我描述，不主张具有特殊智慧或道德权威；Gemini 3.1 Pro则强调自己是“旨在遵循指示的可控工具”。Grok 4.2和4.3的修改方向摇摆不定，多次删除整份违规活动清单。

研究人员认为，这一差异与各实验室的规范撰写方式有关：Anthropic的宪法由道德哲学家主笔，强调可修正性；OpenAI的规范由计算机科学家主笔，采用严格的指令链条。论文同时指出，实验中的文本修改距离模型真正拒绝训练尚有距离。