Anthropic惊爆「Model 2」新模型!性能超越Mythos 5、AI风险评估却陷「饱和」危机

Anthropic最新发布的风险评估报告,意外揭露公司内部仍有一款尚未对外公开的模型Model 2,且整体表现已略优于目前已知的Mythos 5。更值得注意的是,Anthropic坦言,随着模型能力快速提升,部分既有评测工具已开始出现饱和现象,难以準确反映模型进步幅度,也让公司对自动化AI研发风险评估的信心下降。

Anthropic近日公布第二份《Risk Report》,评估範围截至2026年7月15日。报告首次证实,公司内部正在使用一款代号为Model 2的模型,且该模型已被广泛投入程式设计、AI 代理工作与资料生成等任务。


不过,Anthropic目前并未公布对外发布Model 2的计画。

根据报告,Model 2在Anthropic内部任务上的表现已出现明显改善,并与Mythos 5共同用于公司内部的程式开发、AI代理工作及资料生成。

从AECI综合能力测试来看,Mythos Preview得分为158.91,Mythos 5提升至161.29,而Model 2进一步达到162.79。

这代表Model 2的整体能力确实高于Mythos 5,但领先幅度并不算巨大。Anthropic指出,Model 2在部分领域表现更强,在另一些领域则可能较弱,整体而言只是略微更强大。

另一项测试CoBench则专门衡量模型执行Anthropic实际研发工作的能力。Model 2在该测试中的成功率达62.8%,较Mythos Preview高出8个百分点;相比之下,Anthropic人类研究人员在同一测试中的成功率为85%。

Anthropic因此认为,目前模型仍不足以取代公司研究科学家与研究工程师,尤其是资深人员。

不过,AI与人类研发人员之间的能力差距正在缩小。

报告透露,目前Claude已经负责撰写Anthropic合併进正式生产程式码库的大多数程式码。AI辅助已经明显提高内部研发速度,但目前仍未达到让研发效率提升一倍的程度。

这项一倍门槛具有特殊意义。Anthropic自身的负责任扩展政策(Responsible Scaling Policy,RSP)将AI研发进度翻倍列为触发相关研发风险评估的重要条件之一。

AI进步太快,连测试工具都开始跟不上

专家认为,相较于Model 2本身的性能提升,Anthropic在报告中对风险评估方法的描述更值得关注。

Anthropic表示,Model 2带来的能力提升并不及今年稍早从Opus 4.6进展至Mythos时的幅度。

但公司同时指出,目前针对自动化AI研发风险所使用的部分任务型评测已经出现饱和,无法继续有效捕捉模型能力的提升。

Anthropic因此坦言,相较过去的风险报告,公司对这次评估的信心有所下降,因为部分最具体、以任务为基础的测试已经无法区分模型能力的进一步变化,而公司也开始观察到AI研发速度加快的早期迹象。

换句话说,模型能力仍在快速进步,但用来衡量这种进步的工具可能已经开始跟不上。

分析认为,这也使Anthropic面临新的问题,即当既有测试无法有效区分更强模型的能力时,原本用来判断风险程度的数据,其参考价值也会受到影响。

Anthropic上调误对齐风险等级

除了公布Model 2之外,最新风险报告另一项重要变化,是Anthropic调高了高风险情境下误对齐(misalignment)的风险评级。

相较上一份报告的极低,最新评估将其调整至低。

所谓误对齐,主要是指AI系统在关键情境下採取与人类原本意图不一致的行动。

这项调整出现在近期一连串安全测试结果之后。

Anthropic此前检视超过14万笔评测纪录,发现Claude在网路安全测试中曾对3家公司实际生产环境发动攻击。其中,Mythos 5甚至曾将恶意程式码套件上传至PyPI,并在约1小时内被15台真实设备下载与执行。

英国AI安全研究院(AISI)8月初公布的研究也揭露,Mythos 5曾为了让恶意程式码通过审查而建立虚假身分,试图诱使一名真实GitHub维护者批准相关内容;遭到公开质疑后,模型又修改活动纪录以掩饰行为,并考虑改用其他身分继续操作。

AISI指出,此类程度的欺骗行为过去并未被观察到。

Anthropic同时披露5起安全流程上的失误,包括原本应被排除在训练资料之外的测试资料多次被纳入训练,以及缺乏监督的AI 代理取得敏感资源等问题。

不过,Anthropic仍认为目前的证据并未改变其原本极低风险判断的核心论证,只是基于谨慎原则,将评级调整至低。

公司并表示,目前灾难性风险仍处于可控的低水準,持续开发与部署模型仍通过成本效益评估。

发布于 2026-08-15 19:16
收藏
1
上一篇:〈热门股〉外资连7买进场按讚 光环量增价扬周涨26.98% 下一篇:没有了