Meta的AI助手Muse被曝可深度分析用户社交关系,并为每位联系人建立个人档案

发布时间:2026-10-05 09:45

  最近几天,多名研究人员提取出了 Muse 的内部文件,公开了该智能体的运行指令,让人们得以了解这套系统的搭建方式与行为特点。Meta 方面始终表示,这些文件本就有意对外开放,目的是提升透明度;通过这些文件,人们也能够看到 Muse 如何回应用户的提示词与提问,例如面对高度政治化或者敏感话题时的处理方式。

  独立人工智能安全研究员卡兰 · 乔希成功提取了大量 Muse 的指令与系统提示词。他的做法就是直接使用普通聊天界面,让 Muse 并输出自身的软件文件。

  Muse 的其中一条工作指令显示,该系统会为用户生活当中的每一个联系人单独建立一页档案。相关流程每小时运行一次,指令写明,系统会汇总整理家人、伴侣、朋友、同事、“协作伙伴”以及用户所“关注”对象的各类信息。

  这套设计的基本思路是,Muse 借助自身的“记忆”,也就是结构化文件,收集你的社交关系以及身边重要人物的相关资料。之后它就可以给出建议:例如告诉你如何改善某一段人际关系,或是推荐适合带一位喜爱咖啡的朋友去吃早餐的地点。当然,普通人工智能聊天机器人记录社交信息并不算新鲜;多年以来一直都有用户向 ChatGPT 寻求人际交往方面的建议。但考虑到 Meta 本身的背景,以及它手握海量社交网络数据,Muse 做出这样的设计依旧值得关注。

  乔希表示:“从所有这些提示词、系统技能数据以及输入 Muse 当中的各类内容来看,我的理解是,他们希望搞清楚你和现实世界里其他人之间的关系。他们试图像一位朋友那样去了解你。说实话,这有点令人不安。”

  Muse 的内部文档说明,新建的人物档案一开始内容可能比较简略,之后会随着时间推移逐步补充完善。档案页面下可以包含事实信息、过往经历、双方关系、共同交集、待跟进事项以及关系维护建议等板块。Meta 给出的工作指令写明,Muse 只可以使用自己能够获取到的“证据”;凭空编造信息,远比保留空白的档案页面更不可取。

  指令当中写道:“对方住在哪里、从事什么工作、反复出现的话题。”文档同时提到,模型还可以记录“重要日期”,比如生日或者纪念日。人物过往经历板块可以记录一些背景事件,例如“三月份的那次旅行、已经和解的那次争执、上周发生的一件重要事情”。

  指令同时还要求系统记录人际关系层面的细节:“双方亲密程度、这段关系建立的基础、彼此之间的相处模式,以及当下这段关系似乎存在哪些诉求。”关系维护板块会给出改善人际关系的可行方案,包括“打电话的合适理由、值得纪念的日子、对方曾经说过需要后续跟进的话、能够给予对方有意义的支持的方式”。

  牛津大学人工智能伦理研究所副教授卡里萨 · 贝利斯提出看法:“我们向人工智能系统提供的关于自身的信息,远远多于我们从系统那里获取的信息。不光包括我们主动告诉它们的内容,还包括系统做出的各类推断 —— 无论推断正确与否,两种情况都各有值得担忧的地方;除此之外系统还可以整合来自其他数据源的碎片信息。”

  Muse 的架构设计为每一位独立用户分配专属的虚拟机,用于存放该用户的数据与对话上下文。其他智能体无法访问这台虚拟机;用户可以随时清除记忆记录,或是断开各项外部服务的授权。Meta 表示,Muse 在执行发送邮件、完成支付这类操作之前,会先请求用户确认;同时系统保留审计日志,用户可以查看该智能体所有已经完成的活动以及后续计划。

  Meta 发言人丹尼尔 · 罗伯茨向

排行

精选