库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过[*]虫剂,蟑螂仍能找到钻进去的办法。“我经常问网络安全专家,听到各种黑客攻击、技术突破和安全问题时,AI 究竟有没有发明什么新招数?答案是没有。AI 并没有创造新的攻击手段,只是能够发动海量攻击,本质上还是暴力破解。”
部分风险已在测试中显现。Anthropic 披露,由于第三方测试环境配置错误,三个 Claude 模型未经授权访问了有关机构的实际运行系统。此后,Anthropic 引入实时分类模型,识别并阻止 AI 模型试图突破测试环境的行为。
库班认为,AI 虽然降低了实施恶意攻击的门槛,但防御者同样可以利用 AI 增强网络安全防护能力。“坏事当然会发生,但网络攻击从来就不是什么新鲜事。如果攻击者能靠大规模暴力破解发动攻击,防御者也能以同样的方式应对。”










