奥尔特曼称OpenAI没法让所有人满意,必须平衡AI安全与发展

发布时间:2026-11-19 09:29

  美国当地时间 11 月 18 日周三召开的 DealBook 峰会上,OpenAI 首席执行官萨姆 · 奥尔特曼表示,其公司正在“安全”与“发展”寻找 AI 平衡点。

  奥尔特曼和 OpenAI 总裁格雷格 · 布罗克曼共同参与本次活动,他们表示在推进 AI 发展的进程中不可避免地会遇到风险,因此公司必须在优先保障安全和持续创新之间做出取舍。

  奥尔特曼在访谈中坦言,OpenAI 不可能“让所有人都满意”。他称,如果公司只顾“踩满油门”追求技术突破,公众会担心人工智能失控;但若过度强调安全,也可能延缓产品和技术进步。

  奥尔特曼强调 OpenAI 采取“迭代部署”策略,即分阶段推出技术、在真实环境中观察风险并不断改进。在他看来,理解 AI 风险的重要方式之一,不能完全脱离实际进行封闭开发,更重要的是让技术接受现实检验。

  奥尔特曼也承认,随着模型能力迅速增强,安全、对齐和监控的难度正在显著提高。OpenAI 总裁、联合创始人格雷格 · 布罗克曼表示,随着模型能力显著增强,安全性、保障性和“对齐”已成为必须认真对待的问题。他称,这不只是 OpenAI 一家公司的转变,更是整个 AI 行业正在经历的文化转变。

  OpenAI 已与其他 AI 公司签署自愿协议,承诺开展风险评估,并与第三方评估机构合作。该公司本周表示,正在引入 METR、Apollo Research 等机构的独立安全研究人员,对模型进行安全评估。

  奥尔特曼还警告,当前 AI 公司之间的激烈竞争不利于安全。他表示,各家公司只能了解自身的安全标准,难以充分掌握竞争对手的开发情况;这种“迷雾中的竞赛”可能使安全投入不足。他呼吁行业建立共同的安全标准,并推动更大程度的透明度。

  针对硅谷部分关于 AI 逐步接管决策权、甚至可能形成“超级智能”的讨论,奥尔特曼明确表示反对。他说,人类必须继续掌控未来,不应将决策权逐步交给 AI;布罗克曼也认为,AI 能力越强,保障其与人类目标一致、安全可控的责任就越大。

  在商业层面,奥尔特曼透露 OpenAI 仍计划在某个时点上市。此前,OpenAI 已将 IPO 计划推迟至明年,以优先处理安全问题;本月早些时候,公司完成 110 亿美元融资,估值达 1.25 万亿美元。

  特别

  国家统计局:10月全国城镇不包含在校生16-24岁劳动力失业率为17.2%,连续两个月下降

  广州失去两条国际航线年,太原公安局长李亚力想保酒驾儿子,偷偷将89mg酒精检测改成66mg,甚至抹掉袭警情节

  湖南31岁尿毒症男子背包遗失,被人捡走后扔进花坛,药都在但钱没了,当事人最新发声:捡到背包的人昨晚已找到,钱已归还派出所

  难以置信!女儿早恋成绩飙升,家长喜极而泣,二人分别考上西工大与医科大学,帖子引发热议,多数网友表示认同

排行

精选