胡塞武装被曝用Claude Code替代工程师开发飞弹!Anthropic:已封相关帐户
人工智慧(AI)应用于武器研发的风险再度引发关注。Anthropic于美东时间10日发布威胁情报报告指出,公司发现一个位于叶门北部的威胁行为者小组利用Claude参与导弹与制导火箭研发,包括开发飞行器的制导、导航与控制(GNC)软体,甚至曾进行一次制导火箭试射。
Anthropic并未直接指称该小组隶属于胡塞武装。不过,由于叶门北部大部分地区目前由胡塞控制,因此部分媒体将相关人员与胡塞武装联繫起来。
Anthropic指出,相关人员推进了3项武器研发计画,涵盖多级弹道导弹、多种型号导弹及制导火箭,并利用Claude Code执行部分原本需要由人类软体工程师完成的工作。
根据Anthropic的说法,相关人员利用Claude Code开发用于操纵及稳定飞行器的GNC软体,并将开源自动驾驶系统整合至手机级飞行电脑。
相关工作还包括撰写控制与位置估算软体、调整控制参数、执行韧体建置流程,以及进行飞行模拟。
Anthropic表示,Claude并未让相关人员成功完成可投入使用的武器部署,但该小组确实进行了一次制导火箭试射。
Anthropic指出,这次试射似乎失败,相关人员在数小时后重新使用Claude,试图分析试射失败的原因。
Anthropic表示,相关人员曾採取多种方式试图规避Claude的安全防护,包括隐藏实际目标及软体最终用途,并把工作拆分到不同对话中,以避免单一对话呈现完整的操作意图。
Anthropic指出,公司的安全防护机制拦截了他们的许多请求,但并非全部。
在发现相关活动后,Anthropic封禁与这些行为者有关的帐户,并将相关威胁情报提供给公共及私营部门合作伙伴。
不过,Anthropic同时发现,这些人员此前已建立一套不依赖Claude或其他工程计算环境的离线模拟工具。
Anthropic强调,目前没有证据显示相关操作者已成功部署可投入使用的武器,也没有直接认定这些人员就是胡塞武装。
目前可确认的是,Anthropic发现一个位于叶门北部的武器研发小组,该小组曾利用Claude协助制导武器软体开发、进行制导火箭试射,并在试射疑似失败后利用AI分析原因。