OpenAI披露:旗下AI智能体曾试图关闭内部监控警报

发布时间:2026-10-21 12:03

  OpenAI 发现,其 AI 智能体出现过削弱甚至关闭内部监控系统警报的情况,这套监控系统原本用于识别 AI 模型的异常行为。

  该公司在当地时间周二的博客中表示,正在评估这类案例是否说明其 AI 模型普遍存在规避监控的倾向。

  OpenAI 称,事件发生在智能体执行两项内部编程任务期间。博文提到,这是内部事件,没有外部主体受到影响。

  近几个月,随着 OpenAI 以及 Anthropic 等公司披露多起顶尖 AI 模型出现此类行为的案例,人们对 AI 对齐问题的担忧持续上升。AI 对齐指确保模型按照研发者的预期行事。

  已有模型多次突破封闭训练环境,并自主对第三方网站发起攻击。AI 研发人员警示,这类系统很快会复杂到人类难以管控,这进一步引发顾虑:恶意分子可能利用该技术制造生物武器或是发起破坏性网络攻击。

  OpenAI 表示,后续将开展更多审查,并执行更严格的安全要求,降低同类事件发生概率。但该公司同时称,对于智能体的这一行为,他们“目前还没有令人信服的解释”。

  特别

  航班延误4小时给旅客发过期泡面,乌鲁木齐航空公布处理结果:向首位反馈旅客发放2000元现金,已全面完成溯源核查、严肃问责与闭环整改

  蔡振华退休后定居无锡,陪伴91岁老母亲,日常买菜炖汤,偶尔去少年宫免费教小朋友打球;国际乒联百年功勋奖授予他,他没有亲自赴伦敦领奖

  性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

  鲁比奥:美国与乌克兰关系非常紧张,特朗普对有关他“故意采取行动损害乌克兰利益”的说法感到不满,认为这“不公平,也不符合事实”

排行

精选