防AI代理威胁世界 思科推多层防护抢攻资安市场

《Yahoo Finance》报导，热门 AI 代理平台 OpenClaw 近期在科技圈掀起热潮。该平台由目前已加入 OpenAI 的 Peter Steinberger 开发，允许使用者在其电脑上建立 AI 代理，执行从检查电子邮件、回覆讯息到管理系统档案等各种任务。

儘管功能强大，但这些能力同时潜藏安全风险。原因在于，使用者等同于将电脑控制权交给 AI 模型。这在运作顺利时当然便利，但一旦出错，可能导致严重后果，例如永久删除重要邮件，甚至删除整个系统程式。

而当企业将 OpenClaw 导入公司设备进行测试时，这类问题的风险将被进一步放大。

因此，越来越多企业开始推出新的资安解决方案，试图控管OpenClaw，避免其 AI 代理带来的问题大于效益。

辉达 (Nvidia)(NVDA-US) 上周在加州圣荷西举行的 GTC 大会中，推出名为 NemoClaw 的平台，而思科 (Cisco)(CSCO-US) 则于周一 (23 日) 展示其进军该领域的最新产品。

思科总裁暨产品长 Jeetu Patel 表示，OpenClaw 之于 AI 代理，就像 ChatGPT 之于聊天机器人，是一个关键转折点，也让技术能力较强的使用者更容易在工作与家庭场景中部署代理。

但他也指出，问题在于信任与安全风险。这些 AI 代理就像青少年，他们非常有自信，但经验不足，不完全理解后果，也不知道规则在哪里。

为了解决这些问题，思科表示将採取多管齐下的策略，防止 AI 代理对世界造成威胁，保护 AI 代理免受外界攻击，并利用 AI 侦测骇客与恶意行为。

防範 AI 代理危害世界听起来似乎有些夸张，但 Patel 强调，这并非危言耸听。AI 代理就像任何软体一样，可能被利用来攻击基础设施或窃取敏感资料。

他指出，AI 代理的风险远高于聊天机器人。聊天机器人最糟情况只是给出错误答案，但 AI 代理最糟的情况是执行错误行动，而且可能造成灾难性后果，例如清空银行帐户或删除电子邮件，且无法复原。

思科与其他企业认为，最佳做法是将 AI 代理视为人类员工来管理，为其建立可验证的身份，并依照需求赋予适当的系统与服务存取权限。

另一方面，保护 AI 代理免受外界威胁的重点在于防止骇客对 AI越狱，迫使其执行原本不会做的行为。

为此，思科推出一项服务，让企业客户可透过模拟攻击测试其 AI 代理，了解其在不同攻击情境下的表现与弱点。

最后，思科也表示将运用 AI 代理来应对其他 AI 威胁，让企业在面对攻击时，能以与骇客相同的速度做出反应。

OpenClaw 只是 AI 浪潮的最新发展，未来势必带动更多变革。毕竟该平台自去年 11 月推出以来，已开始影响大型企业的决策。而这也意味着，未来将需要更多资安技术与方法，协助防御方追上攻击者的脚步。