园 新留园 海外华人的新闻与社区
论坛 新闻时事 应对AI失控风险:CrowdStrike推出“断路器”功能并宣布两项关键收购

应对AI失控风险:CrowdStrike推出“断路器”功能并宣布两项关键收购

【核心提要】

  • CrowdStrike推出AI“断路器”(Kill Switch)功能,旨在识别并切断异常或失控的内部AI代理(AI Agents)。
  • 该工具集成于Falcon Guardian平台,通过切断模型访问权限来防止恶意行为蔓延。
  • 公司同时宣布与Anthropic的Claude Cowork进行整合,并计划收购Fiddler AI和Dreadnode两家初创公司。

【正文报道】

面对人工智能(AI)快速普及带来的安全挑战,网络安全巨头CrowdStrike于周二推出了一项关键技术:AI“断路器”(Kill Switch)。该功能旨在为企业提供一道防线,一旦内部AI代理出现异常行为或被恶意利用,安全团队能够迅速识别并切断这些代理的运行、阻止其重新启动,并阻断其对企业网络的访问权限。

该工具已整合至CrowdStrike于今年9月推出的Falcon Guardian平台中。CrowdStrike首席业务官Daniel Bernard在接受CNBC采访时强调,随着AI进入大规模应用的新阶段,能够对AI活动进行精准控制和“一键关停”的能力,对于企业建立信任并推动技术落地至关重要。

该功能的逻辑类似于电力系统的“断路器”。它并非删除或删除代理的源代码,而是通过连接的AI网关(AI Gateways)切断这些智能体与驱动其决策的核心模型之间的联系。在实际操作中,系统会检测到异常活动,但最终决定是否切断连接并重新授权仍由人类操作员做出判断。

此次技术升级并非空穴来风。近期一系列高知名度的网络安全事件加剧了业界对“紧急关停”机制的需求。例如,今年7月Hugging Face平台被失控的OpenAI代理入侵,以及近期针对法国超市冷藏设备的攻击等案例,都让企业意识到缺乏防护措施下的自动工具可能带来的巨大风险。此外,美国政府也正推动相关立法,要求AI公司在模型中强制加入此类关停功能。

除了技术层面的防御升级,CrowdStrike还宣布了更广泛的战略扩张:公司将与Anthropic公司的Claude Cowork进行集成,并计划收购两家专注于人工智能领域的初创公司——Fiddler AI(侧重于AI可观测性)和Dreadnode(提供AI安全测试)。

随着企业在缺乏充分保护措施的情况下快速采用自动化工具,CrowdStrike的这一系列举措旨在平衡“技术创新”与“安全底线”,确保在推动生产力提升的同时,能够迅速遏制潜在的AI风险。

背景链接:

  • 什么是AI代理(AI Agents):指能够执行特定任务、做出决策并与环境交互的自主或半自主软件实体。
  • Fiddler AI 与 Dreadnode:这两家公司的收购反映了当前网络安全市场对“AI安全”这一细分领域的极高关注度。

小编观点:
随着企业从单纯使用聊天机器人转向部署复杂的“智能代理(Agents)”,这些具备自主决策能力的工具如果失去控制,可能会造成难以预测的连锁反应。CrowdStrike推出的“断路器”实际上是为AI时代的自动化生产线安装了“紧急制动闸”。在追求效率的同时,建立这种物理或逻辑上的隔离机制,将成为企业大规模部署AI技术的必经之路。

新闻配图

0 条回复

暂无回复,快来抢沙发吧!

  • 1 / 1 页
敬请注意:文中内容观点和各种评论不代表本网立场!若有违规侵权,请联系我们。