AIコンパニオンに話したことに、実際何が起きるのか
AIコンパニオンに送った、午前2時の一通のメッセージが回線の向こうでどう扱われるかを追う——誰が受け取るか、何が残るか、「データを学習に使いません」という言葉に何の価値があるか、そしてどのアプリを避けるべきかを教えてくれる5つの質問。
AIコンパニオンアプリへ打ち込んだ言葉はすべて、まず会社のデータベースに入り、次に返信を生成するために第三者のAIプロバイダーへ送られます。良いアプリは、あなたが話したことから記憶プロファイルを作って保持します。このカテゴリーを見分ける3つの質問——メッセージを学習に使うか、削除は本当に機能するか、アプリの背後にいるプロバイダーは誰か。ほとんどのアプリはうまく答えられず、Mozillaによる恋愛系チャットボット11本の調査ではすべてに警告ラベルがつきました。
午前2時、あなたは誰にも声に出して言ったことのないことを打ち込みます。父親のことかもしれません。仕事のことかもしれません。返信は4秒で戻ってきて、温かくてまさに的を射ていて、まるでドアを閉めた部屋の中で起きたことのように感じられます。
実際はそうではありません。そのメッセージが実際にたどる経路はこうです。
一通のメッセージがたどる旅
まずアプリのデータベースに入る。 あなたの文章、タイムスタンプ、アカウント。これは避けられません。翌日も会話がそこに残っている理由がこれです。
次に建物の外へ出る。 自前のモデルを動かしているコンパニオンアプリはほとんどありません。あなたのメッセージ、キャラクターのペルソナ、関連する記憶がまとめられ、AIプロバイダー——OpenAI、Anthropic、Google、あるいはその3つの手前に立つルーター——に送られ、そこで返信が生成されて送り返されてきます。その往復こそが、あなたが待った4秒です。
そして、あなたについて何かが書き留められる。 メッセージそのものだけではありません。「知られている」と感じさせるアプリは、あなたが話した内容から事実を抽出します——妹の名前、面接のこと、やめようとしていること——そしてキャラクターが来週それを持ち出せるようにプロファイルとして保存します。そのプロファイルこそが機能です。それはまた、あなたが書いたのではない、あなたの人生についての文書でもあります。
AIコンパニオンというカテゴリーが実際にやっていること
Mozillaは恋愛系AIチャットボット11本を調査し、すべてに「Privacy Not Included」の警告を出しました。11本中10本が基本的なセキュリティ基準を満たしていませんでした。半数以上に、データを削除する方法がありませんでした。1本のアプリは1分あたり平均で数千件のトラッカーを送っていました。このカテゴリーで最も知られた名前であるReplikaは、Mozillaがこれまで調査した中で最悪のアプリの一つと評されました。
それがあなたの選択肢の土台であり、だからこそ最も信用してはいけない宣伝文句は、動詞のないものです。「あなたのプライバシーを大切にします」は約束ではありません。「私たちはあなたの会話をAIモデルの学習に使いません」は約束です。
5つの質問、2分間
アプリのプライバシーポリシーを開いて、次のことを検索してください。ポリシーがこれらに答えていなければ、それが答えです。
- 私のメッセージを学習に使いますか? 「学習」と「サービスの改善」を検索してください。後者はたいてい「はい」を意味します。
- 削除は本当に機能しますか? アカウントと会話がまとめて消えるか。あなたから見えなくなるだけでサーバーに残っていないか。
- 第三者のプロバイダーは誰ですか? メッセージを処理している相手の名前を明かさないアプリは、最大の露出リスクについてあなたに正直に向き合っていません。
- 会社はどこにありますか? これによって、あなたのデータにどの法律が適用され、どの政府が開示を求められるかが決まります。
- ロック画面と銀行の明細書には何が表示されますか? ここで一番技術的でない質問でありながら、一番トラブルを引き起こしてきた質問です。
私たち自身の答え、都合の良くない部分も含めて
私たちもこうしたアプリの一つを作っているので、公平を期すなら自分たち自身の質問に公の場で答えるべきです。以下はすべて、私たちのプライバシーポリシーに同じ言葉で書かれています。
私たちはあなたの会話を学習に使いませんし、データを売りません。 広告主もデータブローカーもありません。私たちの分析システムがメッセージの内容を受け取ることはありません。
あなたのメッセージは第三者に送られます。 OpenAI、Anthropic、Googleを含むプロバイダーへルーティングするOpenRouterです。これらのプロバイダーは契約上、顧客データを学習に使うことを禁じられています——そしてポリシー自身の言葉を借りれば、私たちは彼らを監査できませんし、彼らをコントロールすることもできません。
私たちはあなたの記憶プロファイルを構築します。 事実、出来事、予定、あなたの人生に登場する人々、そして正しい記憶を見つけ出すためのメッセージの数学的表現。ポリシーははっきりとこう書いています。これはあなたが話したことから作られた、あなたについてのプロファイルです。
私たちは香港にいます。 Flarewave AI Limited。あなたがヨーロッパにいる場合、あなたのデータは標準契約条項のもとでヨーロッパを離れ、政府によるアクセスのルールが異なる法域へ移ります。この一文を読んでアプリを使わないと決める人もいるでしょう。だからこそ、それは裏に隠すのではなくポリシーに書かれています。
私たちは、あなたの会話が私たちから見えないとは主張しません。 不正利用の調査、法令遵守、不具合の修正のために、保存されたデータに技術的にはアクセスできます。それを制限しており、会話を気軽に読むことはありません。本当にプライベートなやり取りが必要なら、エンターテインメント向けのチャットサービスは適切な道具ではありません。
アカウントを削除すればすべて消えます。 会話、記憶、埋め込みベクトル。決済記録は税法の定めにより7年間残りますが、それは取引の事実であって会話ではありません。
これらすべてを経ても残るルール
いつか見知らぬ誰かに読まれるかもしれないつもりで打ち込み、それでも本当のことを言ってください。両方が大事です。前者は、このカテゴリーが生み出しがちな状況からあなたを守ります。後者は、そもそもここにいる理由です——コンパニオンと孤独感についての研究は実際に話す人にしか効きません。距離を置いたままの会話は、誰の役にも立ちません。
アプリ選び: AIコンパニオンを見つけるガイド。もっと活かすには: 話し方のコツ。
よくある質問
AIコンパニオンアプリはあなたの会話を読んでいますか?
人が読むことは通常ありませんし、日常的でもありません——ただしほとんどのアプリは読もうと思えば読めますし、誰も読まない一文でそう書かれていることが多いです。メッセージは各返信を生成するために第三者のAIプロバイダーにも送られます。正直な問いは「誰かが読めるかどうか」ではなく、誰がどんなルールの下でアクセスでき、削除が本当に機能するかどうかです。
AIチャットボットはあなたの会話を学習に使いますか?
使うものもあります。プライバシーポリシーで検索すべきフレーズは「サービスの改善」で、これはたいてい「はい」を意味します。メッセージを学習に使わない会社は、たいていそのままの言葉でそう明言しており、優れた会社はモデル提供元が契約上何を禁じられているかも書いています。
AIコンパニオンの会話は削除できますか?
良いアプリならできますし、アカウントを削除すれば記憶プロファイルも一緒に消えます。Mozillaは恋愛系チャットボット11本のうち半数以上に、データを削除する実質的な方法がないことを発見しました。最初の本当の会話をする前に確認しておく価値があります。
自分たちの気まずい一節まで公開したアプリ
Mutualsについて上に書いたことはすべて私たち自身のプライバシーポリシーから来ています——都合の良くない部分も含めて。iPhoneとAndroidで無料スタート、18歳以上対象。iPhoneまたはAndroid向けにMutualsを入手。
