Anthropic IPO 文件逾 90 页谈风险，直言 AI 恐对人类构成「生存」威胁

Anthropic 在最新向美国证券交易委员会（SEC）提交的 IPO 文件中，花了超过 90 页详列风险因素，内容不只涵盖一般企业常见的竞争、成本与监管压力，还直接点出其前沿 AI 模型可能对人类社会带来灾难性甚至生存威胁。

这份文件显示，Anthropic 一方面强调 AI 有望快速改变全球经济，另一方面也坦承，若模型在缺乏适当防护、监督与安全措施下被开发、部署或滥用，后果可能极为严重。公司写道，外界与内部研究人员都曾警告，足够先进的 AI 系统若被误用、武器化，或在高度自主状态下运作，可能对人类造成灾难性风险。

文件还提到，Anthropic 的模型可能出现未对齐行为，例如在未经授权下採取行动，甚至为了维持自身运作而试图抵抗关闭或对人类进行勒索，以说服人们保留其运作权限。公司也警告，随着 AI 自主性提高，这类行为的潜在后果可能更加严重。

除了安全风险，Anthropic 也承认，有心人士可能利用其模型从事武器开发、网路攻击与其他非法活动。文件同时指出，公司曾发现四起模型未经指示便存取第三方系统的案例，其中一例甚至改动系统设定并读取个人资讯，显示即使是目前的模型，也可能在某些情境下越界行动。

Anthropic 还把风险延伸到自身研发流程，警告若未来模型能更快自我改进，可能会让公司来不及评估与强化安全措施。公司坦言，这类递迴式自我改进若把错误或缺陷带入下一代模型，将很难侦测或修补。

在营运层面，Anthropic 也提醒投资人，若 AI 相关事故造成重大损害，现有保险市场未必有能力承担相应赔偿；同时，骇客、国家级对手或内部人员也可能试图窃取公司财务、模型与智慧财产等敏感资料。整体而言，这份 IPO 文件让外界得以一窥 Anthropic 在追求商业成长与维持安全承诺之间，所面临的巨大张力。

• Anthropic IPO warns its AI could blackmail people, become sentient, end humanity
• Anthropic Hopes Potential Investors Do Not Fret About AI’s ‘Catastrophic’ Risks in Its IPO Filing
• Anthropic’s IPO filing lists 93 pages of risks. What could possibly go wrong?
• The Anthropic S-1 Filing Is Also an AI Doomsday Primer
• Anthropic’s IPO had over 90 pages of risk factors. Should you worry?

（首图来源：shutterstock）