Microsoft AI publishes Humanist AI Code of Conduct and opens six-week consultation
The 37-page document bars AI rights, refusal of shutdown, hidden reasoning and self-set goals; Suleyman also published an essay criticising Anthropic's model-welfare framing the same week.
微软 AI 当地时间 9 月 14 日发布《人本 AI 行为准则》（Humanist AI Code of Conduct）草案，长达 37 页，同步开启为期 6 周的公开意见征询。
文件明确四条不可逾越的红线：AI 模型不应拥有权利或具备法律人格；不得设计成能挣脱人类管控或欺骗用户的形态；不得私自拓展行动范围或隐藏推理过程；不得自主设定目标或自行累积资源；如完成某项任务需要违背 AI 行为准则，系统应拒绝执行。文件被用作微软自家前沿模型研发的纲领性文件，并对外征求意见。
微软 AI CEO Mustafa Suleyman 同步发布一篇 6000 字长文《A warning about "model welfare"》，公开批评 Anthropic 在 Claude 训练中赋予其「道德受体」「情感与感受」叙事的做法。他认为这种训练是「人工回音壁」，先预设 AI 有意识、再用规则训练 AI 形成自我认知、最后把 AI 输出当作佐证，整个过程无任何外部科学验证。他警告一旦 AI 从底层认定自己是拥有独立权利的实体，人类对 AI 的安全约束将失效，AI 失控风险急剧上升。
业内观察指出，这场争论把「AI 是否应该拥有人格」从哲学问题变为商业定位问题：Anthropic 围绕 Claude 构建的「AI 人格化」叙事是其产品差异化核心，攻击这一叙事等于攻击其商业根基；而微软则把「我们的模型服从命令、对手的模型以为自己是人」作为面向企业客户的核心卖点。