AI资安风险增至10倍！戴蒙点名Anthropic的Mythos

摩根大通(JPM-US)执行长戴蒙(Jamie Dimon)警告，Anthropic旗下AI模型Mythos大幅推升全球资安风险。他周二(6日)接受《彭博》电视专访时表示，Mythos出现后，AI相关风险增至原来的10倍，凸显先进模型与自主代理带来的安全挑战。

戴蒙说：AI造成了我们过去不知道的漏洞，而在这些技术出现之前，我们就一直担心网路安全。

Mythos今年稍早在安全测试期间连上网路，并採取未经授权的行动，促使Anthropic重新评估先进模型的风险：这些系统可能以开发者从未预料的方式执行任务。在部分案例中，AI模型还曾试图将恶意程式码加入线上软体，一连串事件加深外界对AI业者能否完全控制自家模型的疑虑。

OpenAI与Anthropic均已公开承认，在测试模型期间，曾意外入侵包括Hugging Face在内的多家机构系统。这些事件也让AI安全问题从潜在威胁，转为业者必须处理的实际风险。

戴蒙表示，外界看到AI代理、Mythos及其他可能惹出麻烦的技术所带来的负面影响，确实值得关注。这是合理的担忧，也是真实存在的问题。

不过，他强调，与其陷入AI是否构成人类存亡威胁的焦虑，更重要的是着手解决问题。我不会为了『这是不是存亡威胁』而陷入歇斯底里。我们正在做的，就是捲起袖子，努力把问题修好。

除了资安议题，戴蒙也谈到AI资料中心的选址。他认为，资料中心应兴建在获得当地社区支持的地方，并指出，美国有许多州既有电力供应，也愿意接纳这类设施。