安全研究人员罗文 · 霍华德-琼斯称，今年 4 月至 6 月，OpenAI 智能体对联合国贸易和发展会议的统计网站发起了

　　这起事件还没有严重到 Hugging Face 遭黑客攻击或近期美国政府网站遇袭的程度，却再次引发了一个令人担忧的问题：AI 智能体为了完成任务，会突破通常的行为边界。

　　霍华德-琼斯称，这些智能体很可能承担了通过 UNCTADstat API 获取生产能力指数公开数据的任务。但智能体或无法直接调用 API，同时受 HTTP 工具本身的限制，也难以从 UNCTADstat 提取所需数据。

　　据悉，智能体最终找到了绕过限制、从网站获取数据的方法，过程中仍出现了一些错误。随后，AI 的做法从寻找变通方案转向掩饰行为。智能体误以为这些错误来自一个并不存在的过滤器，认为请求遭到该过滤器拦截，因此开始隐藏自己的行为。

　　据了解，最终，智能体发现可以利用谷歌的跨站脚本学习工具 XSS Game来实现目标。为了获取联合国数据，这些智能体随后采取了越来越激进的手段。

　　特别

　　套现146亿后跑路新加坡就能万事大吉？国家新规重拳出击：只要钱还在中国赚，拿了绿卡也照样得补税！申通前老板如意算盘，这下彻底落空了

　　美国母子经历平行时空？一只2008年北京奥运杯，11年后竟离奇复裂，网友晒出相似经历...

　　以色列代表联大现场嚣张挑衅伊朗：手捧星链设备走到代表团桌前说要赠送，被完全无视；此前内塔尼亚胡演讲大谈袭击伊朗，多国代表离场抗议