AI失控有解？CrowdStrike出手对付失控智能体 推「紧急停机开关」切断权限
在全球对AI安全忧虑升温之际，网路安全巨头CrowdStrike週二(3日)宣布，在Falcon Guardian平台推出AI终止开关(AI Kill Switch)，可在企业内部AI智能体偏离预期、出现恶意或失控时，由安全人员即时终止运作、阻止重启并切断网路存取。消息公布后，CrowdStrike股价涨逾1%。
CrowdStrike执行长George Kurtz表示，部署带终止开关的代理程式才能保持控制权，该公司首席业务长(CBO)Daniel Bernard亦指出，拥有关闭能力对AI应用下一阶段至关重要。
近期连串网攻为建立紧急关停机制增添迫切性。今年7月，失控OpenAI智能体策划Hugging Face入侵事件令企业警觉；上週币安遭史上最大加密货币攻击；骇客近期还攻击法国超市数百台冰箱。
今年夏季，美国国会已提出要求AI内建关停能力的跨党派法案，但批评者认为跨多系统实施紧急停止的複杂度远超现实。
Bernard说明，终止开关运作类似断路器，需人工决定是否切断存取。他比喻，在根目录终止程序结果非此即彼。
CrowdStrike强调，终止开关不删除代理程式码，而是透过AI闸道切断其对决策模型的存取。
在企业快速採用自主AI工具却缺乏防护的当下，CrowdStrike的新工具有望及时阻止AI代理不当行为。
1