Discussion: 政策解读
导语:据 WIRED 报道,Meta 新推出的个人 AI 助手 Muse 在全球范围内已吸引数百万用户下载,用户将其与银行账户、消息记录甚至健康数据连接,委托其完成各类任务。然而,独立安全研究人员通过提取 Muse 的内部文件发现,该 AI 代理每小时会自动为用户通讯录中的每一位联系人创建详尽的“人物页面”,包含家庭、朋友、同事乃至“关注对象”的信息。这一功能在便利性背后,引发了关于隐私边界的严重担忧。
隐婚生子内部文件泄露:Muse 如何构建“关系档案”
根据 WIRED 获取的独立 AI 安全研究员 Karan Joshi 提取的多份 Muse 系统提示和操作指令,该 AI 被明确要求“为用户生活中的每个人创建一个页面”。这一任务以每小时一次的频率执行,编译的数据涵盖家庭成员、伴侣、朋友、同事、“合作者”以及用户“关注”的人。Meta 方面声称这些文件原本就是公开可读的,旨在体现透明度,但其内容揭示了系统对用户社会关系前所未有的深度挖掘。
离婚官宣| 档案字段 | 描述内容(来自指令原文) |
|---|
| --- | --- |
|---|
| 基本信息 | 居住地、职业、生日、纪念日等“重要日期” |
|---|
| 历史记录 | “三月的旅行”、“那次解决了的争吵”、“上周的里程碑” |
|---|
| 关系状态 | 亲密度、关系基础、互动模式、当前需要 |
|---|
| 共同点 | 反复出现的话题(如搬家、共同储蓄目标) |
|---|
| 加强建议 | 打电话的理由、值得记住的日期、回访某句话、有效的陪伴方式 |
|---|
研究员 Karan Joshi 的警示:AI 在像朋友一样了解你
Karan Joshi 在接受 WIRED 采访时透露,他仅仅通过普通的聊天界面要求 Muse 复制自身软件文件,就成功导出了包含 20 多个模块的完整指令集。他说:“从这些提示、系统技能数据以及他们喂给 Muse 的内容来看,Meta 想要理解你与真实人物之间的关系。” Joshi 直言:“他们试图像朋友一样了解你,说实话这相当令人毛骨悚然。” 这一发现得到了另一位安全研究者后续验证的证实。
离婚原因隐私专家 Carissa Véliz 的批评:信息不对等
牛津大学人工智能伦理研究所副教授 Carissa Véliz 表示:“我们给予人工智能系统的信息远多于我们从它们那里获得的信息。这不仅是我们明确告诉它们的东西,还包括它们能从我们身上推断出的内容——无论正确与否——以及它们能从其他数据源拼凑出来的信息。” 她强调,这种单方面的数据收集可能被用来进行操纵或歧视,而用户几乎无法控制 AI 对自己社会关系的解读方式。
离婚内幕Meta 的官方回应:为了“有用”必须收集上下文
面对 WIRED 的质询,Meta 发言人 Daniel Roberts 发表声明称:“任何智能体要变得有用并真正帮助用户实现目标,都需要了解用户及其互动对象的背景。Muse 基于公开信息以及用户选择分享的内容来收集这些数据,例如它能记住给你发发票的人其实是你之前雇来修浴室的管道工,或者你的配偶最喜欢哪种花。” Roberts 还强调,每个用户拥有独立的虚拟机,数据不与其他用户共享,用户可以随时擦除记忆或断开外部服务连接。Muse 在发送电子邮件或付款等操作前会寻求人工确认,并保留完整的审计日志。
离婚财产与同类 AI 记忆功能的对比:Muse 的独特深度
该报道还指出,当前几乎所有主流 AI 助手都具备某种“记忆”功能以提供个性化服务。但美国民主与技术中心 AI 治理实验室主任 Miranda Bogen 认为,Muse 似乎对用户的人际关系给予了更多强调。与 ChatGPT 等仅记录用户偏好的模型不同,Muse 主动为每位联系人建立结构化档案,并定期更新。这种主动收集行为意味着即使你从未向 Muse 提及某位朋友,它也可能通过分析聊天记录、日历事件或社交媒体关联自动生成其资料页面。
用户面临的风险与对策
虽然 Muse 声称不会捏造细节(指令中写明“虚构的信息比空页面更糟糕”),但基于不完整数据的推断仍可能导致错误标签。用户若想控制数据,可随时在设置中查看并删除特定人物的页面,或断开 Muse 对 WhatsApp、银行账户等服务的访问。然而,研究人员指出,每小时一次的自动刷新机制意味着即使手动删除,新数据也可能在下次扫描时重新填回。目前,WIRED 已要求 Meta 就此机制做出进一步说明。
Q1: Muse 是如何获取用户联系人信息的?
A1: 根据 WIRED 报道,Muse 通过分析用户与其聊天记录、日历事件、已连接的社交媒体(如 Facebook)以及用户明确提供的联系人数据来构建档案。它还会每小时自动扫描一次用户的互动记录,以抽取新的关系细节。
Q2: 用户能否完全删除 Muse 为自己建立的“人物页面”?
A2: 可以。用户可以通过 Muse 设置界面手动删除特定人物的档案,或清除全部记忆。Meta 表示用户也可以随时断开外部服务连接,并查看审计日志。但由于 Muse 每小时都会运行一次数据收集任务,新的连接或新的对话可能导致档案被重新创建。WIRED 建议用户定期检查并限制 Muse 可访问的数据源。
结尾:Meta 的 Muse 凭借强大的个性化能力迅速成为现象级 AI 产品,但其每小时为每位联系人建立详尽档案的做法,将隐私边界推向了新高度。用户在使用便利的同时,需清醒认识到自己的社会关系正在被 AI 全面数字化,并主动采取管理措施。未来,这类“代理型 AI”的隐私保障机制能否跟上技术野心,将是监管部门与科技公司博弈的焦点。

Related Threads - 游戏皮肤
WIRED 独家调查发现,Meta 的 AI 助手 Muse 每小时自动为用户每位联系人创建包含事实、历史、关系动态的详细档案。独立研究员 Karan Joshi 提取内部指令揭示隐私风险,牛津教授警告信息不对等。了解如何保护你的数据。


