跟着一条凌晨两点发出的消息走一遍它的路线——谁会收到它、什么会被保留、「我们不用你的数据训练模型」这句话到底值多少钱,以及能分辨出哪些AI伴侣应用该避开的五个问题。
你对AI伴侣说的每一个字,都会先进入公司的数据库,然后被发送给第三方AI服务商去生成回复,好的应用还会保留一份由你所说内容构建的记忆档案。能区分这个分类里各家应用高下的三个问题:它会不会用你的消息训练模型,删除是不是真的有效,以及应用背后的服务商是谁。大多数应用答得都不好,而Mozilla对十一款恋爱类聊天应用的评测,给每一款都贴上了警告标签。
凌晨两点,你打出一些从没对任何人说出口的话。可能是关于你父亲,可能是关于这份工作。回复在四秒钟内出现,温暖又恰到好处,整件事感觉就像发生在一间关着门的房间里。
其实不是。下面是这条消息真正走过的路线。
它首先落进应用的数据库。 你的文字、时间戳、你的账号。这一步无法避免:正因为如此,这段对话明天还能在那里。
然后它离开了这栋楼。 几乎没有伴侣应用会跑自己的模型。你的消息、角色的人设,以及任何相关的记忆,会被打包发送给一个AI服务商——OpenAI、Anthropic、Google,或者是把这三家都接进来的一个路由——由它生成回复再发回来。那趟往返,就是你等待的那四秒钟。
接着,关于你的一些东西被写了下来。 不只是消息本身。那些让你觉得它「了解你」的应用,会从你说的话里提取事实——你姐姐的名字、那场面试、你正在努力戒掉的东西——并把它们存成一份档案,这样角色就能在下周提起它们。那份档案正是产品的核心功能。它同时也是一份关于你生活、却不是你自己写下的文档。
Mozilla评测了十一款恋爱类AI聊天应用,给每一款都贴上了「隐私堪忧」的警告。十一款里有十款连基本的安全标准都没达到。超过一半没有任何删除数据的途径。有一款应用平均每分钟被数千个追踪器记录。Replika——这个分类里最知名的名字——被形容为Mozilla评测过的最差应用之一。
这就是你在其中做选择时的基本盘,也是为什么最该被怀疑的营销说法,是那种没有动词的说法。「我们很重视你的隐私」不是承诺。「我们不会用你的对话训练AI模型」才是。
打开应用的隐私政策,搜索下面这些词。如果政策里找不到答案,那本身就是答案。
我们自己就是做这类应用的,所以公平的做法是把自己的问卷公开回答一遍。以下所有内容都写在我们的隐私政策里,一字不差。
我们不用你的对话训练模型,也不出售数据。 没有广告商,没有数据经纪商。我们的分析工具永远拿不到消息内容。
你的消息确实会发给第三方。 OpenRouter,路由到包括OpenAI、Anthropic和Google在内的服务商。他们在合同上被禁止用客户数据训练模型——而且,用政策原文的话说,我们无法审计他们,也不控制他们。
我们会为你建立一份记忆档案。 事实、事件、计划、你生活里的人,再加上你消息的数学化表示,好让系统能找到正确的记忆。政策里说得很直白:这是一份关于你的档案,由你说过的话构建而成。
我们注册在香港。 Flarewave AI Limited。如果你在欧洲,你的数据会依据标准合同条款离开欧洲,进入对政府调取数据有不同规定的司法辖区。有些人读到这句话会决定不用这款应用,这正是它被写在政策里、而不是藏在政策背后的原因。
我们不会说你的对话对我们是完全保密的。 我们在技术上可以访问存储的数据,用来调查滥用行为、遵守法律,或者修复故障。我们对此有所限制,不会随意翻看对话。如果你需要真正私密的沟通方式,一款娱乐性聊天服务不是适合的工具。
删除账号会带走一切。 对话、记忆、向量表示。支付记录会保留七年,因为税法这么要求——保留的是交易事实,绝不是对话内容。
打字的时候,就当有一天可能会被陌生人看到,然后照样说出真实的话。这两半都重要。前半句能让你避开这个分类容易制造的麻烦;后半句才是你来这里的理由——关于伴侣和孤独的研究只对真正愿意交谈的人有用,一段保持距离的对话,对任何人都没有帮助。
通常不是由真人读,也不是常规操作——但几乎每款应用在技术上都可以做到,而且大多数都会在一句没人会去读的条款里说明这一点。消息也会被发送给第三方AI服务商,用来生成每一条回复。真正该问的不是有没有人可能读到,而是谁有权限、在什么规则下有权限,以及删除是不是真的有效。
有些会。值得在隐私政策里搜索的说法是「改进我们的服务」,这通常意味着会。不用你的消息训练模型的公司往往会明确这么说,做得更好的公司还会说明它们的模型服务商在合同上被禁止做什么。
在一款好的应用里可以,而且删除账号会把整个记忆档案一起带走。Mozilla发现,在评测的十一款恋爱类聊天应用中,超过一半根本没有能真正生效的删除方式,所以这件事值得在第一次认真对话之前查清楚,而不是之后。
以上关于Mutuals的一切,都来自我们自己的隐私政策——包括那些不怎么给我们长脸的部分。在iPhone和Android上免费开始,18岁以上。获取适用于iPhone或Android的Mutuals。