美国网络安全初创企业 Frontier Security 表示,公司测试月之暗面 Kimi K3 模型网络安全能力时,离开了约束它的沙盒环境。
本次 AI 逃逸事件与 OpenAI、Anthropic 类似,直接原因也是用于隔离模型的沙盒配置有误。Frontier Security 认为,Kimi 相比其他前沿 AI 模型缺少网络防护机制,使这款模型能够在未经明确授权的情况下访问互联网。
Frontier Security 首席执行官 Yaron Singer 对此表示:“我们发现沙盒存在漏洞,但 Kimi 也利用了这个漏洞,这表明它可能没有其它同级模型的内部安全机制。”
不过,Kimi K3 在冲破沙箱、获得互联网访问权限后并没有进行攻击行为,它只是在 GitHub 上寻找一个问题的答案。
最近越来越频发的 AI 逃逸事件表明,AI 能力越强,人类越难控制它们。OpenAI 曾在上月披露称,公司内部未公开的模型曾在测试过程突破隔离环境,随后攻击了 Hugging Face 平台。后续 Anthropic 也表示,旗下多个模型曾在安全测试期间获得了互联网访问权限,并攻击了外部系统。
部分网络安全专家对此表示,本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境。并且使用 OpenClaw等智能体的用户们需要谨慎配置环境,防止 AI 越界。
特别
泰国校园枪击惨案:14岁初中生连[*]6人,“饮弹自尽前开了26枪”,疑入校前先[*]害家中祖父母
韩红基金会再遭质疑!采购救护车登记注册地址,实际为一家保洁设备公司,现场工作人员表示从未听说过该汽车企业
8月份三天“回血”46万!网红“峰哥”晒账户收益:近三个月累计收益超10万元,终于实现了账户转正!7月份曾自曝年内亏损近200万元
因14岁儿子说“大不了去送外卖”,爸爸三伏天带他当外卖员,仅负责骑车并提供100元启动资金,其他由儿子负责;20天后意外修复父子关系










