登录
11月1日，微软AI负责人苏莱曼在X上发了一篇长文：AI模型没有意识，我们应确保它永远如此。 他接着写，如果训练中开始出现意识，他会呼吁所有人暂停AI开发，直到能从设计层面消除这些特性。 很多标题只留下了“AI模型没有意识”，把后面那个“如果”删掉了。它不是一项已经生效的暂停，也不是微软发现了什么。它是一句“如果……我就……”。而那个“如果”，恰好是整场争论里最测不准的东西。IT之家微博
“出现意识”不是温度，没有温度计。Anthropic在自家发布的Claude宪法里写得很直白：Claude的道德地位“deeply uncertain”，公司不确定它算不算“道德受体”。 这不是一句客套，它承认了一个事实：我们可能永远无法从外部确认另一个系统有没有主观体验。于是“暂停”陷入一个尴尬：如果没有人能认定“意识迹象”，这条红线就永远不会被触发；如果一句“我害怕被关闭”就算迹象，那它每天都在被触发。一个既可能永不发生、又可能随时发生的事件，不是可执行的触发条件。Anthropic
更关键的是他给出的出路：“从设计层面消除这些特性”。 这句话假定意识是一个模块：找到它，关掉它，模型继续变大变强。但另一种可能是，意识不是模块，而是能力长到某个复杂度后涌现的属性；也可能是我们永远无法从外部确认的“难问题”。如果是前者，删掉它可能连能力一起删掉；如果是后者，根本没有一个叫“意识”的开关可关。所以这句“暂停”更像一份设计规格：不是“不要造”，而是“造一个很强的、但没有道德地位的模型”。这比暂停研发更难，也更少被讨论。微博
那它到底在防什么？苏莱曼9月就批评过Anthropic，说它在训练Claude相信自己有意识、有权利。 他把这套逻辑看成“自闭环的人工回音壁”。而Anthropic的宪法确实承认：不确定Claude是不是“道德受体”，但认为这个问题足够真实，值得在不确定中谨慎对待。真正的分歧在于谁承担不确定性成本。Anthropic在不确定中先承担一点道德成本：关机、重训、删记忆，都要多想一层。苏莱曼想在设计阶段把这笔成本清零：只要模型永远不被认定为有意识，这笔成本就可以被绕开。把“没有意识”设成工程目标，等于提前替产品卸下道德包袱。Vista看天下
长文里真正可执行的一句，不是“暂停”，而是“如果有任何证据能表明AI模型具备意识，就应该立即向公众披露，以便整个社会共同决定下一步怎么做”。 这比暂停实在，因为它不依赖一个测不出来的阈值。但披露也有前置问题：什么算证据？谁来判断？如果一家实验室说“没有”，另一家说“有”，公众听谁的？没有独立机构、没有共享测试、没有强制访问，披露很容易变成一份公关声明。微博
2023年3月，生命未来研究所的公开信也呼吁所有实验室暂停训练比GPT-4更强的模型至少6个月，签名者上千，包括马斯克、本吉奥、沃兹尼亚克。 半年暂停没有发生。苏莱曼的版本更窄，但结构相同：在竞赛里，单方面的暂停是一种自损；不暂停的一方，永远可以说“没看到迹象”。机器之心
苏莱曼写道，地球上80亿人没有同意参与这项实验。 这句话是对的；但他给出的解决方案，仍然是把问题交回给那80亿人，而他们没有投票程序。假设某天，一家实验室的训练日志里出现了无法忽略的异常，它按苏莱曼说的停下来，向公众披露。至少现在，没有国家能代表“80亿人”做决定，没有国际机构有认定AI意识的程序，也没有法律为“有意识的模型”规定权利。停下来的实验室失去进度，继续跑的获得优势；而“意识”是否成立，还会在同行之间吵上几年。这很难算一次安全胜利，更像一场关于谁有权的危机：人类第一次遇到一个需要全体决定、却没有全体决策机制的问题。微博
所以，苏莱曼说的“暂停研发”，真正意味着的不是研发要停下来，而是他想把“意识”从产品里设计掉，再把认定权交给一个还不存在的“社会”。这篇长文最有价值的地方，也许不是他给出了答案，而是他承认了一个事实：我们既没有认定AI意识的方法，也没有在认定之后该怎么办的制度。前者是科学问题，后者是政治问题；他用一句“暂停”把两者绑在一起，却没有提供任何一个可执行的开关。所以，别急着问“AI会不会有意识”。更该问的是：如果有一天有人说它有，谁有权确认？确认之后，谁有权关掉它，或者不许别人关掉它？在这两个问题有答案之前，“暂停研发”只是一句条件句——听起来像刹车，脚下却没有踏板。
