OpenAI与Google DeepMind的现任和前任研究人员警告称，企业在构建可自我改进、可能超越人类控制能力的AI系统时，为保护世界免受潜在灾难性后果所做的工作远远不够。

　　Anthropic计划在首次公开募股文件中提醒潜在投资者，先进AI可能对人类构成“灾难性或生存性风险”。这一表述出现在该公司招股书中，属于一家试图从同类技术中获利的企业所发出的极为罕见警告。

　　一些AI研究人员认为世界尚未准备好迎接未来几代AI模型，尤其是当模型具备递归自我改进能力时——即在几乎没有人类参与的情况下持续学习和获得新能力。

　　Campbell表示，2024年离开OpenAI之前，她发现该组织变得更加孤立，越来越难影响技术方向。

　　Anthropic 首席执行官Dario Amodei本月发表，呼吁AI行业慢下来，以“控制前沿节奏”，OpenAI 首席执行官 Sam Altman也表达了类似观点。包括OpenAI首席科学家和Anthropic联合创始人在内的几位知名AI研究人员本周发表论文，敦促政策制定者研究行业如何构建具有递归自我改进能力的模型。

　　这两家公司本月都推出了新模型以争夺客户，尽管OpenAI周一表示，它已推迟发布一款更强大的模型。

　　Irving表示：“他们所谓的‘控制前沿节奏’，就是‘不要加速太多’。如果你在做非常危险的事情，就应该慢下来。AI公司夸大了这纯粹是一个协调问题的程度。它们完全可以单方面停止。”

　　前OpenAI治理研究员Daniel Kokotajlo表示，自Hugging Face被入侵事件以来，许多前同事联系他，私下表达了他们的担忧。

　　Kokotajlo现在是研究组织AI Futures Project的执行董事。他表示，实验室高管“说服自己，他们是好人，如果他们单方面停止，情况会更糟”。

　　特别

　　华中科技大学副教授杨汉文去世，享年62岁，55岁时患癌仍牵挂课堂，生前因“30年不评职称”为大众熟悉，称最有成就感的事是看学生有成就

　　柬埔寨反贪局披露中国籍电诈头目张建强资金链：涉2.5亿美元，通过25岁本地兑换商洗钱，并向乡长、移民警察转款行贿

　　历时三月等待，厦门钨业“A拆北”终以“时间”换来“空间”！揭秘北交所上市申报“钉子户”——金龙稀土缘何突围成功并终获受理