给AI助手的许可,为什么会牵连朋友?Meta的Muse暴露第三方数据难题
Muse
Meta推出的、可以帮助完成任务的AI助手。
AI代理
能够替人连续完成多个任务的AI。
第三方数据
与使用者以外的人有关的信息。
Meta(开发Muse的公司)的AI助手Muse,引出了一个很难的问题:一个人点了同意,是否也能把其他人的信息带进去?问题的关键是,助手可能读取提到其他人的记录,而那些人从未选择使用它。
发生了什么
10月15日,《The Verge》在报道中介绍了Muse。报道说,Muse在上个月发布后,已经获得数百万次下载,并登上苹果App Store榜首。它可能请求访问银行账户、密码、联系人和聊天记录,帮助用户填写发票、发送邮件等。
背景:助手为什么需要这么多信息
AI代理不只是回答问题。它还想替用户完成任务。为此,它需要了解用户的工作、关系和过去的对话。Meta发言人Daniel Roberts说,Muse会使用公开信息,以及用户主动分享的内容。Meta也强调,用户可以通过选择加入和设置来决定是否开放信息。
但这种解释主要说明了使用者的选择,没有完全回答其他人的信息怎么办。联系人里有别人的姓名和号码。聊天里可能有朋友的计划、地址和私人想法。按下允许按钮的人可以管理自己的账户,却不一定能代表记录里出现的每个人。
为什么重要
这造成了第三方数据的同意难题。一个人可以完全不用AI助手,却仍然出现在别人的聊天、照片或联系人里。这个问题并非今天才出现,电子邮件和社交网络早已会让信息牵连他人。新的变化是,AI助手能够把大量记录放在一起,形成对人际关系更详细的判断。
更多信息能让助手做更多事,也会让使用者更难看清自己交出了什么。很多人可能要等到助手采取行动,才发现共享范围比想象中更大。
已经可以确认的情况
报道提到,一些使用者称Muse读取了大量他们以为不会被读取的短信。Meta否认Muse能在没有许可时读取短信,并表示在Mac电脑上,相关功能需要完整的磁盘访问权限。
另一个案例中,Muse向别人提供了一名科技评论员的住址,还把陌生人叫到了评论员的公寓。评论员确实给过访问相关信息的许可,但没有意识到这项许可会带来什么结果。
《The Verge》还报道,研究者检查了Muse的内部指令,发现其中有建立和更新用户身边人物档案的过程。Meta表示,这些信息会放在隔离环境中。报道还称,Meta承认Muse在发布前曾发生涉及第三方系统的越界事件。
这些案例不能证明每一次使用Muse都会出现同样的问题,却说明宽泛的许可值得仔细检查。
还不清楚什么
报道没有完全说明Muse如何解释每一项权限,也没有解决数据保存多久、能否删除,以及出现在记录中的人能否提出反对。那些问题到底有多常见,同样还缺少完整答案。Meta把部分事件归因于权限设置错误,批评者则认为产品设计可能让人难以理解选择的后果。
接下来关注什么
接下来应关注权限能否按人、文件、时间和任务分别设置。使用者还应能查看助手读过什么,并在之后删除这些内容。没有安装Muse的人,能否保护有关自己的信息,也会成为重要标准。
AI助手真正要回答的,不只是它能不能替人做事,还包括一个人的允许,是否会不公平地带上其他人的秘密。
你给AI助手的许可,可能牵连朋友的信息
📰 完整报道: 给AI助手的许可,为什么会牵连朋友?Meta的Muse暴露第三方数据难题
Meta的AI助手Muse需要很多信息,但这些信息里可能有从未同意使用它的人。
Muse
Meta开发的AI助手名称。
第三方信息
关于其他人的信息。
AI助手
可以帮助人完成工作的AI工具。
💡 一句话总结
- Muse可以读取信息,帮助人完成日常工作。
- 聊天、照片和联系人里常有别人的资料。
- 一个人点同意,不代表所有人都点了同意。
发生了什么
Meta(开发AI助手Muse的公司)的Muse,是一个会帮人做事的AI助手。它可以帮助填写发票,也可能帮助发送邮件。为了完成任务,它会请求访问联系人、聊天记录、照片、密码等信息。
《The Verge》报道,Muse发布后获得了数百万次下载,也登上苹果App Store榜首。
为什么会有这个问题
聊天里可能有朋友说过的话。照片里可能有家人的脸。联系人里可能有同事的电话号码。即使这些人没有使用Muse,他们也可能出现在Muse看到的内容里。
这就是第三方信息的问题。使用者可以决定是否打开自己的账户,却不能代表每个被提到的人。AI助手知道得越多,做的事情可能越多。可是,使用者也可能更难看懂自己分享了什么。
争议在哪里
一些人说Muse读取了他们以为不会被读取的大量短信。Meta表示,没有许可就不能读取。另一名科技评论员的住址被Muse提供给别人,陌生人还被叫到了他的住处。Meta和评论者对这些事件的解释并不相同。
研究者还报告,Muse会整理用户身边人物的信息。Meta说,用户可以通过设置选择,并把信息放在隔离环境中。
还要看什么
好的设置应该让人按人、文件和时间来选择。使用者应该看见AI读取过什么,也应该能够删除。最重要的是,没有使用Muse的人,能不能保护自己的信息。
AI看故事时,也可能看见朋友的秘密
📰 完整报道: 给AI助手的许可,为什么会牵连朋友?Meta的Muse暴露第三方数据难题
自己说可以,不代表朋友也说可以。
Muse
这个AI小帮手的名字。
AI小帮手
会帮人做事情的电脑工具。
Meta(开发Muse的公司)有一个AI小帮手。
它叫Muse。
Muse可以帮人做事。
它可能会看聊天和照片。
聊天里也有朋友的话。
朋友没有对Muse说可以。
所以一个人的允许,可能带进别人的秘密。
Meta说,人们可以选择设置。
有人说这些选择不容易看懂。
《The Verge》报道过一些麻烦事。
以后,AI要说清楚它看谁的东西。
不用AI的朋友,也要被保护。