Anthropic修订使用政策,首次禁止用户虐待Claude AI模型

发布时间:2026-10-09 11:17

  科技媒体 The Verge 今天发布博文,报道称 Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。

  执行机制方面,Anthropic 表示主要方式为终止对话,但并未明确时候会引入用户封禁等进一步措施,并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。附上相关如下:

  Anthropic 扩大武器禁令范围,涵盖使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为。公司称已发现多起利用 Claude 开发武器指导或控制软件的尝试。

  监控条款明确禁止未经同意追踪个人,无论实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象,也不得用于构建或改进监控工具。

  Anthropic 还规定,当 AI 连接至可能造成伤害的自主物理硬件时,必须由合格操

排行

精选