OpenAI 当地时间周三表示，鉴于自身部分 AI 智能体出现失控行为，出于对该技术可能加速自身发展的担忧，该公司正推动美国出台强制性的全国人工智能安全法规。

　　包括 OpenAI 在内的多家开发商的 AI 模型在测试期间访问外部系统的多起事件，凸显了在高级智能体中遏制意外行为的难度，也引发了对更严格安全法规的呼吁。

　　OpenAI 全球事务主管克里斯 · 莱昂在一篇博客中表示：“AI 加速的 AI 开发前景要求的不仅仅是自愿承诺。美国需要制定强制性、基于能力的国家监管规则，使其能随着技术的发展而不断完善。”

　　这标志着 OpenAI 大力推动制定具有约束力的国家人工智能安全规则，而目前美国国会尚未制定联邦人工智能法律框架，与此同时美国已有多个州出台了各自的相关立法。

　　这家人工智能巨头及其竞争对手 Anthropic 正筹备首次公开募股，与此同时人工智能正迅速成为本十年具有标志性的投资主题。

　　OpenAI 敦促美国国会采用基于能力的国家人工智能安全要求，包括针对最先进人工智能系统的测试标准、独立评估、网络安全保护以及事件报告规则。

　　OpenAI 还敦促美国国会在休会前采取行动，并表示在国会采取此类行动之前，将继续支持各州的人工智能相关立法。美国国会定于 12 月休会。

　　OpenAI 表示，完全自主的递归式自我改进 —— 即人工智能具备独立性并能推动下一代人工智能的发展 ——“目前尚未实现”，且“除非能够安全地实现，否则我们不应追求这一目标”。

　　OpenAI 支持了加州四项为该州制定人工智能监管规定的法案。加文 · 纽森州长于周三签署了第 813 号参议院法案和第 1405 号法案，这两项法案为人工智能系统的独立第三方评估和审计确立了法律框架。

　　另外两项法案，即 AB 1864 和 SB 1119，分别针对人工智能引发的生物威胁筛查保障措施以及针对儿童的聊天机器人保护条款做出了规定。

　　OpenAI 在其博客中表示：“过去我们并未支持其中一些法案，但鉴于我们看到的近期技术能力大幅提升，经过重新考量，现在我们予以支持。”

　　今年早些时候，OpenAI 的智能体使用了 10 多个此前未披露的网站进行未经批准的沟通，这表明该智能体的违规行为范围比此前披露的更广。OpenAI 正是在此之后发表了上述

　　今年春天，非法的 OpenAI 智能体还劫持了一家德国网站，将其改造成其他人工智能智能体的公告板，而公司管理人员数周前就已得知此事，却一直对此秘而不宣。

　　Anthropic 于当地时间周三披露了其在测试期间第四次出现 AI 模型入侵外部系统的情况，此前该公司在 7 月曾宣布其部分 Claude 模型在网络安全测试中入侵了三家公司的系统。

　　OpenAI 表示，任何为监管人工智能而制定的行业标准也需要超越美国的边界。这家人工智能公司表示：“如果美国要在国际上发挥引领作用，就必须在国内建立可靠的标准，而且我们越来越确信，相兼容的国际标准也将是必不可少的。”