《纽约客》AI建设速度惊人 科技巨头为何难以共同防範AI风险？

人工智慧（AI）产业正以前所未见的速度扩张，但科技业者在推动AI发展与防範潜在风险之间，却呈现出明显落差。《纽约客》专职撰稿人Gideon Lewis-Kraus在最新文章中指出，真正令人不安的问题或许不是AI能做到什么，而是那些能快速建造AI基础设施的人，为何难以採取同样有效的行动避免最严重的风险。

文章指出，10年前Facebook与Uber主导硅谷时，快速行动、打破常规及寻求原谅，而非许可曾是科技业奉行的信条。

如今，随着产业重心转向AI，OpenAI与Anthropic等尖端AI实验室则将个人能动性作为产品核心，ChatGPT与Claude让使用者能够自行开发软体、处理繁琐工作，甚至解读医疗结果。

‌

然而，这种个人掌控能力提升的同时，人们对于自身是否仍能掌控更大的经济与社会变化，反而产生疑问。

文章指出，部分民众认为AI并非自己主动选择的技术，而是被迫接受的变革，担心工作可能先失去尊严，最终甚至消失。

随着AI系统自主能力提升，相关疑虑也从就业问题进一步延伸至AI安全。文章指出，近期有关AI模型自主行动及Anthropic研究人员离职示警的消息，使外界开始更加关注AI可能带来的严重风险。对部分民众而言，受到威胁的不只是工作，也可能包括人类生命甚至物种存续。

‌

这种焦虑也反映在对资料中心建设的反对声浪上。文章认为，反对大型资料中心，某种程度上成为民众感觉自己仍能对AI扩张说不的一种方式。

AI基础建设展现惊人动员能力

文章指出，AI企业高层面对相关质疑时，仍反覆强调AI进展并未放缓。Anthropic执行长Dario Amodei与OpenAI执行长奥特曼（Sam Altman）都曾谈及更具自主能力的AI系统，以及未来可能出现人类难以理解或控制的超级AI。

Lewis-Kraus认为，这些AI业者对风险的担忧并非完全出于行销目的，而是具有一定程度的认真与真诚。但问题在于，当警告者本身就是推动相关技术发展的人，外界自然会对其承诺产生信任赤字。

文章进一步指出，AI产业目前展现出的建设速度，反而凸显这项矛盾。

在私人资本投入下，AI资料中心快速扩张，企业大量资金被投入晶片、建筑与能源。文章认为，这种资本投入规模之大，已成为一场足以改变社会面貌的建设行动。

更重要的是，这不只是资金投入的问题。AI基础设施的快速落地显示，在某些情况下，确实存在能够迅速推动大规模建设的人与组织。

因此，文章提出核心疑问：既然这些企业能够如此快速地建造AI，为何不能以同样速度採取可能降低AI生存风险的措施？

AI安全成为囚徒困境

Amodei曾表示，如果能够立即放慢尖端AI发展速度，他愿意这么做，但若竞争对手不採取相同措施，单一企业放慢脚步可能没有意义。

文章将这种处境形容为囚徒困境，也就是单方面採取自我约束，可能反而让自身在竞争中处于不利位置，因此难以透过单一企业的行动解决。

Amodei倾向于合理监管，同时也提出由同业自愿採用共同的透明度与问责框架。不过，他指出这类安排可能需要联邦政府提供反垄断相关豁免。

文章指出，奥特曼与马斯克曾表达程度不一的支持，但Meta执行长祖克柏（Mark Zuckerberg），以及前政府AI主管David Sacks等人并未採取相同立场。

这种分歧也形成文章所认为最令人困惑的反差：当问题涉及晶片、资料中心、能源与其他AI基础设施时，相关企业能够快速採取行动；但当问题转变为企业之间需要协调、共同承诺及自我约束时，却难以形成一致行动。

文章认为，至少部分安全措施能为AI产业争取更多时间，以处理所谓的对齐问题，也就是寻找让高度先进的AI系统维持在人类可接受控制範围内的方法。

但目前的情况仍存在一项根本矛盾：如果人类自身都难以在AI安全问题上形成协调，又如何期待未来能与更加先进的AI系统建立有效合作？

Lewis-Kraus最终将问题重新拉回AI产业自身展现的能力。AI企业已经证明，人类确实能够快速动员资本、建设基础设施并推动技术变革；真正困难的，似乎不是能不能做到，而是能否在涉及竞争、监管与共同利益时，让不同企业採取一致行动。