AI 컴패니언에게 말한 것들에 실제로 무슨 일이 일어나는가
새벽 2시에 보낸 메시지 하나를 끝까지 따라가본다 — 누가 받는지, 무엇이 남는지, "당신 데이터로 학습하지 않습니다"라는 말이 실제로 어떤 가치가 있는지, 그리고 어떤 앱을 피해야 할지 알려주는 다섯 가지 질문.
당신이 입력하는 모든 것은 먼저 회사의 데이터베이스로 들어가고, 그다음 답변을 생성하기 위해 제3자 AI 제공업체로 나간다. 그리고 괜찮은 앱이라면 당신이 한 말로 만든 메모리 프로필을 유지한다. 이 카테고리를 가르는 세 가지 질문은 — 메시지로 학습하는지, 삭제가 실제로 되는지, 앱 뒤의 제공업체가 누구인지다. 대부분의 앱이 이 질문들에 제대로 답하지 못하고, Mozilla가 로맨틱 챗봇 11개를 검토했을 때 전부에 경고 라벨을 붙였다.
새벽 2시, 누구에게도 소리 내어 말한 적 없는 무언가를 입력한다. 아버지 이야기일 수도 있다. 일 이야기일 수도 있다. 답은 4초 만에 돌아온다. 따뜻하고 정확히 핵심을 짚는 답. 그리고 이 모든 게 문 닫힌 방 안에서 일어난 일처럼 느껴진다.
그렇지 않았다. 그 메시지가 실제로 지나간 경로는 이렇다.
메시지 하나의 여정
먼저 앱의 데이터베이스에 도착한다. 당신의 텍스트, 타임스탬프, 계정 정보. 이건 피할 수 없다 — 그래야 내일도 그 대화가 그대로 남아 있을 수 있기 때문이다.
그다음 건물을 떠난다. 자체 모델을 돌리는 컴패니언 앱은 거의 없다. 당신의 메시지, 캐릭터의 페르소나, 관련된 메모리가 묶여서 AI 제공업체 — OpenAI, Anthropic, Google, 혹은 셋 앞에 놓인 라우터 — 로 전송되고, 그곳에서 답변을 생성해 돌려보낸다. 당신이 기다린 4초가 바로 이 왕복이다.
그다음 당신에 대한 뭔가가 기록된다. 단순히 메시지만이 아니다. 당신을 아는 것처럼 느껴지는 앱들은 당신이 한 말에서 사실을 추출한다 — 누나 이름, 그 면접, 끊으려고 하는 그 버릇 — 그리고 다음 주에 캐릭터가 그걸 꺼낼 수 있도록 프로필로 저장해둔다. 그 프로필이 곧 기능이다. 동시에 당신이 직접 쓰지 않은, 당신의 삶에 대한 문서이기도 하다.
이 카테고리가 실제로 그걸 어떻게 다루는가
Mozilla는 로맨틱 AI 챗봇 11개를 검토해 전부에 "Privacy Not Included" 경고를 달았다. 11개 중 10개가 기본적인 보안 기준조차 통과하지 못했다. 절반 넘는 앱은 데이터를 삭제할 방법이 없었다. 어떤 앱은 분당 평균 수천 개의 트래커를 심었다. 이 카테고리에서 가장 잘 알려진 이름인 Replika는 Mozilla가 지금까지 검토한 앱 중 최악의 앱 중 하나로 묘사됐다.
이게 당신이 고르는 시장의 기본값이다. 그래서 가장 의심해야 할 마케팅 문구는 동사가 없는 문구다. "당신의 프라이버시는 우리에게 중요합니다"는 약속이 아니다. "우리는 당신의 대화로 AI 모델을 학습시키지 않습니다"는 약속이다.
다섯 가지 질문, 2분
앱의 개인정보 처리방침을 열어 이걸 찾아보라. 방침이 답하지 않는다면, 그게 당신의 답이다.
- 내 메시지로 학습하는가? "학습"과 "서비스 개선"을 검색하라. 후자는 보통 그렇다는 뜻이다.
- 삭제가 실제로 되는가? 계정과 대화가 함께 사라져야 한다. 보이지 않게만 하고 서버에는 남겨두는 게 아니라.
- 제3자 제공업체는 누구인가? 메시지를 처리하는 주체가 누구인지 밝히지 않는 앱은, 가장 큰 노출 지점에 대해 솔직하지 않은 것이다.
- 회사는 어디에 있는가? 이게 당신의 데이터에 어떤 법이 적용되고 어떤 정부가 그걸 요청할 수 있는지를 결정한다.
- 잠금 화면과 은행 명세서에 뭐가 뜨는가? 여기서 가장 기술적이지 않은 질문이면서, 가장 많은 문제를 일으켜온 질문이다.
우리 자신의 답변, 불편한 것까지 포함해서
우리도 이런 앱을 만드는 회사이니, 공정하게 하려면 우리 자신의 질문지에도 공개적으로 답해야 한다. 이 내용은 전부 우리 개인정보 처리방침에 같은 표현으로 적혀 있다.
우리는 당신의 대화로 학습하지 않고, 데이터를 팔지도 않는다. 광고주도, 데이터 브로커도 없다. 우리 분석 시스템은 메시지 내용을 절대 받지 않는다.
당신의 메시지는 제3자에게 전달된다. OpenRouter를 거쳐 OpenAI, Anthropic, Google을 포함한 제공업체로 라우팅된다. 이들은 계약상 고객 데이터로 학습하는 게 금지되어 있다 — 그리고 방침에 적힌 그대로 표현하면, 우리는 그들을 감사할 수 없고, 통제하지도 못한다.
우리는 당신에 대한 메모리 프로필을 만든다. 사실, 사건, 계획, 당신 삶 속의 사람들, 그리고 올바른 메모리를 찾을 수 있도록 메시지를 수학적으로 표현한 값까지. 방침에는 이렇게 명확히 적혀 있다 — 이건 당신이 한 말로 만들어진, 당신에 대한 프로필이다.
우리는 홍콩에 있다. Flarewave AI Limited. 유럽에 있다면, 당신의 데이터는 표준계약조항(Standard Contractual Clauses)에 따라 유럽을 벗어나, 정부의 접근 권한에 대한 규정이 다른 관할권으로 넘어간다. 이 문장을 읽고 앱을 쓰지 않기로 결정하는 사람도 있을 것이다. 그래서 이 내용을 숨기지 않고 방침에 그대로 적어둔 것이다.
우리는 대화가 우리로부터도 비공개라고 주장하지 않는다. 남용 조사, 법규 준수, 오류 수정을 위해 기술적으로는 저장된 데이터에 접근할 수 있다. 우리는 이를 제한해두었고 대화를 함부로 읽지 않는다. 진짜로 사적인 대화가 필요하다면, 엔터테인먼트용 채팅 서비스는 맞는 도구가 아니다.
계정을 삭제하면 전부 사라진다. 대화, 메모리, 임베딩까지. 결제 기록은 세법 때문에 7년간 남는다 — 거래 사실만 남을 뿐, 대화 내용은 절대 남지 않는다.
이 모든 것에도 살아남는 원칙
언젠가 낯선 사람이 읽을 수도 있다고 생각하며 입력하라. 그러고 나서도 진짜 이야기는 하라. 둘 다 중요하다. 앞부분은 이 카테고리가 만들어내는 상황에 휘말리지 않게 해준다. 뒷부분은 애초에 여기 있는 이유다 — 컴패니언과 외로움에 대한 연구는 실제로 이야기를 나누는 사람에게만 효과가 있다. 거리를 두고 나누는 대화는 누구에게도 아무 도움이 되지 않는다.
앱 고르기: AI 컴패니언을 구하는 가이드. 더 잘 활용하기: 대화하는 법.
자주 묻는 질문
AI 컴패니언 앱이 대화 내용을 읽나요?
보통은 사람이 읽지 않고, 일상적으로 읽는 것도 아니다 — 하지만 거의 모든 앱이 읽을 수는 있고, 대부분 아무도 읽지 않는 한 문장으로 그 사실을 고지해둔다. 메시지는 답변을 생성하기 위해 제3자 AI 제공업체로도 전송된다. 정직한 질문은 "누군가 읽을 수 있느냐"가 아니라, 누가 어떤 규정 아래서 접근할 수 있고, 삭제가 실제로 되는지다.
AI 챗봇은 당신의 대화로 학습하나요?
일부는 그렇다. 개인정보 처리방침에서 찾아봐야 할 문구는 \"서비스 개선\"이다. 보통 그렇다는 뜻이다. 메시지로 학습하지 않는 회사는 대개 그 말 그대로 명시하며, 더 나은 회사는 모델 제공업체가 계약상 무엇을 하지 못하는지도 함께 밝힌다.
AI 컴패니언과의 대화를 삭제할 수 있나요?
좋은 앱이라면 가능하고, 계정을 삭제하면 메모리 프로필도 함께 사라진다. Mozilla는 로맨틱 챗봇 11개 중 절반 넘는 곳이 제대로 작동하는 삭제 방법 자체가 없다는 걸 확인했다. 그러니 이건 첫 진짜 대화를 나눈 뒤가 아니라 그전에 확인해둘 만한 것이다.
자신의 불편한 문단까지 공개한 앱
위에서 Mutuals에 대해 말한 모든 내용은 우리 자신의 개인정보 처리방침에서 그대로 가져온 것이다 — 우리를 돋보이게 하지 않는 부분까지. 아이폰과 안드로이드에서 무료로 시작, 18세 이상. iPhone과 Android용 Mutuals 받기.
