Anthropic首度公开3大AI发展指标！算力6%投入AI安全 响应阿莫戴减速诉求

Anthropic周四(17日)公布三项新指标，表示这些指标可协助人工智慧(AI)公司监测AI发展速度，这与几天前执行长阿莫戴(Dario Amodei)对业界协调放慢AI发展速度的说法相呼应。

Anthropic在部落格文章中表示，是在衡量AI主导的研发活动、AI代理人的监督，以及Anthropic内部的算力配置之后，公布衡量模型开发速度的方法，希望鼓励其他组织採取相同做法。

‌

这些指标建立在阿莫戴上周六公布的三阶段放慢发展计画上，但当时对实际执行方式的具体细节并未多着墨。

Anthropic在文中说：当全世界思考如何控制先进AI的发展速度时，我们应尽一切努力，缩小尖端AI实验室所掌握的资讯与公众所知资讯之间的差距。这意味着更完善的衡量AI发展、公开相关资讯，并让社会有机会决定如何使用这些资讯。

AI业界响应放慢发展 盼兼顾商业优势

阿莫戴针对放慢AI发展速度的呼吁，获得OpenAI执行长奥特曼(Sam Altman)、SpaceX执行长马斯克，以及Google DeepMind董事长Demis Hassabis等产业领袖支持。

这项呼吁也发生在研究人员对AI造成伤害的潜力日益升高提出严重警告之后。

阿莫戴表示，他的计画旨在控制模型能力提升的速度，同时不牺牲商业优势或美国在AI领域的领先地位。

对于第一项指标，Anthropic表示，在衡量的部分研发工作中，自家的Claude模型并非完全自主运作。

第二项指标则涉及建立一套系统，用来监督及介入AI代理人採取的行动。Anthropic表示，该公司最常使用的内部平台上，任何时点约有3万个AI代理人同时从事研究与工程工作。

Anthropic公布算力配置 约6%用于AI安全

第三项指标则是Anthropic针对7月13日至20日期间，所有算力的使用概况。

结果显示，在投入AI研发的算力中，约6%配置于安全相关工作。若单看分配给AI驱动研发工作的算力，约12%用于安全工作。

Anthropic表示，这些指标最适合用来呈现AI模型是如何被建立，并应与能力评估相互补充，能力评估则是用来呈现模型能做什么。综合这些资讯后，AI实验室以外的第三方应可据此取得一个起点，进一步评估AI发展速度。

Anthropic表示：我们希望透过公布这些衡量结果，为透明度树立典範，而且我们将持续公布相关数据。