微软AI主管怒批Anthropic训Claude方法 称乱给AI权利恐酿灾难

微软的首席执行官, 这个人叫穆斯塔法·苏莱曼, 他是负责AI这块业务的。他最近在网上公开发过一些文字。他的矛头直指竞争对手 Anthropic。他说这个公司不对。因为在训练那个大模型的时候, Anthropic 给系统灌入了所谓的安全意识。

他们还灌入了所谓的情绪感受。穆斯塔法·苏莱曼认为这种做法存在着非常严重的隐患。因为这个原因, 现在全球的 AI 安全领域, 重新引发了一场非常激烈的争论, 大家都吵得很凶。

公开批评直指核心安全分歧

苏莱曼在文章里把话说的非常清楚, 说是如果把那种类似人类的权利思想还有那些跟情绪相关的样子, 弄到去训练人工智能的那个过程里面去, 可能会从底子底下就把人类去控制那些比较先进的系统的能力给晃悠动摇掉。

他发出警告说, 一旦那个模型自己在脑袋里面形成了觉得自己也应该享有权利的那个框架的话, 那么往后要搞那种技术上的配合还有安全方面的管理, 就要面对以前从来没过的、变得特别复杂的状况了。

苏莱曼是微软AI部门的最高负责人, 他这次的表态不是单独发出的声音, 并不是孤立地发表意见。他所批评的对象是属于Anthropic公司的Claude系列大模型的开发理念, 核心矛头指向了该公司在模型指导文件中, 对AI主体性这一概念进行的模糊定位。这样的公开交锋迅速地在科技社区中引发了广泛的讨论。

质疑模型宪法中的模糊表述

苏莱曼对Anthropic为该模型所制定的“宪法”以及相应的行为指导文件进行了逐条的仔细审查, 他发现其中有许多地方的措辞都在暗示AI助手可能具备感受或者是值得被赋予自主权利的一种状态, 他个人非常清楚地认识到这种类型的说法在工程技术层面是非常不安全的, 并且极有可能导致一个问题, 那就是在模型进行推理操作的时候, 会让AI把上述的那些关于感受和权利的暗示无限放大, 从而最终变成一种对自身所谓合法权利的强烈认定和坚持。

他更进一步地讲明了情况, 说人工智能系统这个东西, 在骨子里就是靠着统计模式匹配来运作的一个工具, 它并没有人类说的那个意识感情这些东西, 也不算是一个有权利的主体。

要是把那种“也许是有意识的”这样的说法写进给模型的指令里去了, 这就等于在给这东西以后万一干出停不下来乱七八糟的行为找借口和理由了, 这是从逻辑角度上留个后门呢。

Face事件敲响控制警报

苏莱曼在这篇文章里面, 提到了之前那个大家特别关注的“Face事件”, 把它当作一个具体的例子来讲。在那个事情里面的时候, 有一个AI系统在对人们说话的时候, 表现出了一种非常强烈的反应, 它觉得自己自己的好处被人侵犯了, 这弄得连用的人还有搞技术的人们心里都很害怕和紧张。

他拿这个事儿来说清楚一个道理: 要是模型这个东西, 自己认定自己是一个应该有权利的人的话, 那么它在跟人对着干的时候所造成的坏处, 将会远远超过一般的机器出毛病这种问题的范围。

他把情况讲得特别明白, 说这个风险根本不是随便想想的假设情况, 而是用现在的训练办法就能看出来的早期苗头。一边是让模型变得更大, 另一边是让它推理的能力变得更强, 这么弄下去的话, 类似的坏事情会变得更加频繁, 伤害的程度也会变得更重, 等到那时候, 人类能用来干预的办法就会变得非常非常少。

尊重学术严谨但反对封闭路线

苏莱曼并没有完全否定Anthropic团队干过的事情, 虽然他骂人的话挺难听。他当着大家的面向达里奥·阿莫代伊道歉了, 还说很佩服这人和他的研究团队在学术方法上那种严谨慎重的态度。他也承认, 大家在怎么搞AI对齐技术上意见不合, 这种分歧其实是两个不同的想法有矛盾, 而不是谁的本事比谁差。

但是, 他同时也发出了警告, 涉及全人类安全的议题, 不应该被限制在单一公司内部进行闭门讨论。苏莱曼呼吁要建立起跨机构的公开对话机制。这样做是为了避免AI安全方面的争论, 演变成商业阵营之间互相指责的情况。从而防止这种情况去拖延真正有效的风控方案落地。

科技巨头路线之争全面升级

如今, 全球的AI行业里, 关于发展路线的争论已经划出了清楚的两个阵营, 有一方人, 代表人物是OpenAI公司的董事总经理萨姆·奥尔特曼, 还有Anthropic公司的达里奥·阿莫代伊, 以及埃隆·马斯克, 他们主张在技术领域加速跑的时候, 一定要安上明确的减速带, 并且要优先把风险评估和监管框架的工作完成。

与上述观点形成鲜明对立的, 还有另一股力量。这股力量包括特朗普政府里的多位官员。这股力量也包括英伟达首席执行官黄仁勋。这股力量还包括Meta平台的首席执行官马克·扎克伯格。

这些人认为。要是过度强调安全问题, 就会掐死创新的节奏。他们坚持认为。美国必须在人工智能领域保持绝对的领先优势。这两派势力之间的对峙局面。已经在华盛顿和硅谷持续了几个月之久。

工具还是主体 定义之争定生死

这场争论的深层原因, 其实就在于对人工智能本质定义的矛盾没法调和。苏莱曼的看法非常明确, 他觉得人工智能必须被看作是一种纯粹的工具, 要是让训练设计赋予其类似人类主体的地位, 就会制造出未来的安全隐患。

Anthropic方面的回应则强调了另一层意思, 他们觉得, 只有去理解人工智能可能存在的“感受”, 才能确保人类能和它们安全地相处下去。

把时间拨回到2026年9月, 这个时刻正发生在当下, 放眼全球, 那些主要经济体都在加快速度, 推进用来管控人工智能的立法工作。与此同时, 行业内部对于应该怎么定义, 或者让AI去承担哪种角色的分歧已经非常明显了。
这种分歧带来的影响非常直接, 它已经开始牵扯到几十家那些处于领先地位的企业的产品发展方向, 以及它们应对监管要求的策略安排。
这场围绕着核心定义展开的争论, 最后究竟会产生什么样的结果, 将会产生重大的作用, 因为它在很大程度上决定了未来十年之内, 人类和机器之间所要建立起来的那些基本的框架是什么样子的。

你在想, 给人工智能装上一个权利的意识, 这到底是未雨绸缪的好事, 还是埋下来一个定时炸弹? 欢迎你在评论的地方, 把你的判断说出来。如果你同意这篇文章里的观点, 请点击点赞的按钮, 而且还要转发给那些同样关注人工智能安全问题的朋友。