自家AI太强 人类会危险：美国AI巨头宣布无限期封印Mythos大模型

5月23日消息，估值已经超越OpenAI的美国AI巨头Anthropic 前不久发布了号称有史以来最强的大模型Mythos Preview，现在他们又玩了一个骚操作，宣布要封印这个大模型，因为太强了。

Mythos模型发布之后，Anthropic联合美国多家科技巨头及机构推出了网络安全合作计划Glasswing，开放Mythos给他们发掘漏洞。

现在Anthropic又公布了这个项目的最新进展，宣布即便内部测试证明新一代安全基座模型 Claude Mythos Preview已经具备极强的漏洞挖掘与网络攻防实力，但在开发出更强效的安全对齐机制前，公司将无限期禁止向公众和商业市场开放Mythos级模型。

在此前公开给合作伙伴的一个多月中，Mythos已经在多个行业领域中扫描出了至少10000个高危或者严重级别的漏洞，挖掘效率是以往的10倍以上。

尽管如此，漏洞挖掘得很多，但业界修补漏洞的速度是很难跟上的，以致于有不少企业和组织要求Anthropic减缓Mythos披露漏洞的速度。

实际上Anthropic这段时间已经多次暗示Mythos因为太强，导致他们不敢开放给公众使用，甚至不惜多次渲染AI可能毁灭人类。

日前在伦敦举行的一次会议上，Anthropic联合创始人Jack Clark还警告AI有非零概率导致人类灭绝，指出到了2028年AI就能实现自我进化，也就是不需要人类参与就能自己训练、提升自己，这会带来不可预测的变化。

AI灭绝人类这种说法在美国的AI圈还真不是新闻，哪怕是OpenAI及Anthropic这两家（还有马斯克）目前实力最领先的公司，也热衷于传播这种说法，他们一方面恐吓大家AI可能毁灭人类，一方面又宣称自家的AI有多强大，自己会多么重视AI安全。

这种宣传技俩也遭到过NVIDIA CEO黄仁勋的批评，他最近表示有部分CEO会产生上帝情结，认为自己无所不能无所不知，这个评价可以说非常精准了。

至于Anthropic公司，且不说他们的宣传洗脑问题，单说Mythos大模型，在寻找网络安全漏洞上确实很强，但是有体验过的网友也提到这个模型太慢，并不适合日常使用，写代码也是不适合的。

Anthropic对Mythos大模型的具体参数一直不肯公布一点，业界猜测这是一款参数量达到10万亿的超大模型，训练成本极高，部署难度也非常大，因此也不太适合商业化。

因此Anthropic现在跳出来说因为Mythos太强，甚至可能危害人类而无限期封印它，更多地是商业营销手段罢了，如果Mythos真的适合赚钱，他们又怎么可能有这样的决定呢？