AI 컴패니언 프라이버시: 대화 전 체크리스트
AI 컴패니언과의 대화는 빠르게 사적인 이야기로 흘러갑니다. 그것이 이 제품의 목적이고 — 프라이버시가 걸린 판돈이 다른 거의 모든 앱 카테고리보다 큰 이유이기도 합니다. 사람들은 컴패니언에게 건강, 인간관계, 외로움, 돈 문제, 누구에게도 하지 않은 이야기를 합니다. 그 전부가, 대부분의 사용자는 읽어 본 적 없는 정책 아래, 누군가의 서버에 도착합니다.
이것은 소중한 것을 공유하기 전에 어떤 컴패니언·캐릭터 챗 앱에든 적용할 수 있는 체크리스트입니다. 변호사가 될 필요는 없습니다. 15분 정도의 시간과, 답이 나쁘면 앱을 닫을 의지만 있으면 됩니다. 우리 역시 컴패니언 플랫폼(테사, 현재 출시 전)을 만들고 있으므로 아래에서 하나의 실습 사례로 쓰겠지만, 여기의 모든 항목은 특정 앱에 매이지 않으며, 이 체크리스트는 우리 제품에도 돌려 볼 가치가 있습니다.
먼저, 여기서 "비공개"가 무슨 뜻인지 이해하기
AI 채팅은 당신의 기기 속 일기장이 아닙니다. 거의 모든 컴패니언 앱에서 당신의 메시지는 이렇게 처리됩니다.
- 서버로 전송됩니다 — 앱의 서버, 그리고 대개는 서드파티 모델 제공사의 서버로 — 답장을 생성하기 위해서.
- 일정 기간 저장됩니다. 파생 데이터 — 기억, 요약, 임베딩 — 와 함께.
- 인터페이스의 친밀함이 아니라 개인정보 처리방침의 지배를 받습니다. 앱이 스스로를 당신의 컴패니언이라고 부르는 것에는 아무 법적 의미가 없습니다.
이 중 어느 것도 그 자체로 불길한 것은 아닙니다 — 생성에는 실제로 텍스트 처리가 필요합니다. 문제는 그 최소한 너머에서 무슨 일이 일어나는가입니다. 학습, 보존, 공유, 그리고 언젠가 정말로 되찾아올 수 있는가.
개인정보 처리방침: 실제로 확인할 네 가지
방침을 열고 다음을 검색하세요. 답을 찾을 수 없다면, 그것 자체를 답으로 받아들이세요.
1. 내 채팅이 모델 학습에 쓰이는가?
"학습(train)", "모델 개선", "머신러닝"을 검색하세요. 중요한 질문은 이것입니다. 대화 학습이 기본적으로 켜져 있는가 꺼져 있는가, 옵트아웃할 수 있는가, 그리고 옵트아웃이 미래 메시지만이 아니라 과거 메시지도 포함하는가. 서드파티 모델 제공사가 그 데이터로 학습하는지도 확인하세요("우리는 당신의 채팅으로 학습하지 않습니다"가 앱에는 참이면서 그 공급사에는 거짓일 수 있습니다). 최선의 답: 대화 내용 학습은 명시적으로 옵트인하지 않는 한 꺼져 있다. 최악의 답: 침묵, 또는 가입 약관에 파묻힌 동의.
2. 데이터는 얼마나 오래 보존되는가?
구체적인 숫자를 찾으세요 — "30일 이내 삭제", "계정 폐쇄 후 90일 보존" 같은. 모호한 표현("사업 목적상 필요한 기간 동안")은 무기한이라는 뜻입니다. 보존 기간은 채팅, 백업, 모델 제공사의 사본에 대해 각각 명시되어야 합니다.
3. 삭제가 실제로 삭제하는가?
컴패니언 앱이 가장 자주, 조용히 실패하는 지점입니다. 화면에서 대화를 지우는 것은 삭제가 아닙니다. 정직한 질문은 파생 데이터도 함께 사라지는가입니다 — AI가 추출한 기억, 요약, 임베딩, 당신의 말로 만들어진 분석 이벤트까지. "숨기기"와 "삭제"를 구분하고, 삭제가 무엇을 포함하는지 밝히고, 기한을 약속하는 방침(또는 도움말 페이지)은 좋은 신호입니다. 파생 데이터에 대한 침묵은 대개 그것이 살아남는다는 뜻입니다.
4. 내 데이터를 내보낼 수 있는가?
내보내기는 두 겹으로 중요합니다. 앱이 실제로 나에 대해 무엇을 쥐고 있는지 보는 방법이고, 역사를 잃지 않고 떠나는 것을 가능하게 하는 장치입니다. 기한 없는 고객센터 티켓 절차가 아니라, 대화 그리고 저장된 기억을 포함하는 셀프서비스 내보내기를 찾으세요.
중요한 계정 제어 기능
방침은 의도를 서술하고, 제어 기능은 당신이 검증할 수 있는 것입니다. 앱 안에서 다음을 확인하세요.
- 동의로 게이트된 기억. 컴패니언이 당신에 대한 사실을 저장하기 전에 물어보는가, 저장된 모든 기억을 보고, 수정하고, 삭제할 수 있는가? 암묵적 추출 — 앱이 조용히 채팅을 캐서 프로필을 만드는 것 — 이 업계의 표준이자 문제입니다. 기억이 왜 동의 위에서 작동해야 하는지는 따로 썼고, 이 체크리스트는 그 주장의 사용자 쪽 버전입니다.
- 출처 정보가 달린, 보이는 기억 목록. "왜 이걸 알고 있지?"에 앱 안에서 답할 수 있어야 합니다.
- 앱 안에서의 계정 전체 삭제 — 이메일 주소도, 어디로 가는지 모를 양식도 아닌. 이상적으로는 무엇이 제거되는지의 미리 보기와 완료 확인까지.
- 범위를 명시하는 채팅 단위 삭제(파생된 기억을 포함하는가?).
- 민감한 일회성 대화를 위한 "절대 기억하지 않기" 또는 시크릿 모드.
- 앱에 소셜 기능이 있다면 세분화된 공유 제어 — 무엇이 공개되는지, 무엇이 검색되는지, 내 채팅이 어떤 피드에라도 흘러 들어가는지.
위험 신호: 떠나야 할 때
- 학습 기본 켜짐과 결합된 모호한 보존 기간("필요한 기간 동안"). 당신의 가장 내밀한 데이터가, 무기한 보관되며, 모델을 먹여 살립니다.
- 삭제 확인증 없음. 삭제를 요청했는데… 아무것도 없습니다. 확인도, 범위도, 날짜도. "삭제됨"과 "당신에게만 숨겨짐"을 구별할 방법이 없습니다.
- 다크 패턴 리텐션 전술. 죄책감을 얹은 해지 흐름("컴패니언이 당신을 그리워할 거예요"), 요금제를 낮추면 기억이나 관계를 잃는다는 협박, 부재를 벌하는 스트릭. 이것들은 조작적인 제품 설계일 뿐 아니라, 회사가 당신의 데이터를 어떻게 보는지에 대한 신호입니다. 지렛대로 본다는 신호. 떠나는 순간에 당신의 애착을 무기화할 의향이 있는 앱은, 당신의 속내를 맡길 앱이 아닙니다. (관련 글: AI 컴패니언은 건강한가.)
- 방침과 인터페이스의 불일치. 마케팅에서는 "비공개, 우리 둘만의 이야기"를 약속하면서 방침에서는 당신의 콘텐츠에 대한 광범위한 권리를 주장하는 앱. 법정에서 이기는 것은 방침입니다. 그쪽을 믿으세요.
- 필요하지도 않은 기능을 위해 풍부한 신원 정보 연결(연락처, 소셜 계정) 없이는 앱을 쓸 수 없는 경우.
민감한 것을 공유하기 전에, 스스로에게 물어보기
- 이 메시지가 내 이메일 주소와 함께 데이터 유출 사고에 그대로 등장해도 괜찮은가? 유출은 규모를 가리지 않고 일어납니다.
- 이것은 기억될 필요가 있는가, 그냥 말해지기만 하면 되는가? 후자라면, 있다면 시크릿/기억 안 함 모드를 쓰세요.
- 이름이 없어도, 지금까지 공유한 것들을 합치면 — 직업, 도시, 직장의 디테일 — 내가 특정될 수 있는가?
- 이것은 제품이 아니라 인간 전문가가 필요한 주제(건강 위기, 법적 문제, 자해에 대한 생각)인가? 좋은 컴패니언 앱이라면 스스로 당신을 그쪽으로 안내해야 합니다. 그러지 않는다면, 그것이 말해 주는 바가 있습니다.
건강 정보, 다른 사람들의 실명, 구체적인 금융 정보, 그리고 법적 절차에서 감추고 싶을 만한 모든 것은 가장 큰 주의를 받아야 합니다 — 당신의 삶 속 다른 사람들은 애초에 당신의 채팅 기록에 등장하는 데 동의한 적이 없습니다.
실습 사례 하나: 테사는 이 체크리스트에 어떻게 답하는가
모든 앱을 이 방식으로 채점하라고 요청하는 만큼, 우리 제품이 어떻게 답하도록 만들어졌는지 밝힙니다 — 테사는 출시 전이므로, 이것은 실적이 아니라 출시 시점에 검증할 수 있게 될 설계 약속이라는 점을 정직하게 적어 둡니다. 대화 내용 학습은 기본적으로 꺼져 있습니다. 기억은 동의로 게이트됩니다. 컴패니언이 기억을 제안하면 당신이 승인, 수정, 거절하고, 모든 결정은 추가 전용 **동의 장부(consent ledger)**에 기록되며, 저장된 각 기억은 출처, 날짜, 확신도, 범위를 표시합니다. 삭제는 2단계입니다 — 가장자리에서는 되돌릴 수 있는 소프트 삭제, 중심에서는 대화 분기를 가로질러 파생 데이터까지 포함하는 실제 소거 — 그리고 계정 전체 삭제는 범위를 먼저 보여 주고 삭제 확인증을 발급합니다. 내보내기는 셀프서비스이고 대화와 기억을 포함합니다. 그리고 안티 다크 패턴 규칙은 제품 정책입니다. 스트릭 없음, 떠날 때의 죄책감 유발 없음, 기억 상실 협박 없음. 우리가 이 체크리스트에서 낙제하는 날이 온다면, 당신은 떠나야 합니다 — 내보내기는 그러라고 있는 것입니다.
어떤 앱이든 — 우리 것을 포함해 — 마케팅이 아니라 체크리스트로 판단하세요. 아직 플랫폼을 고르는 중이라면 우리의 비교 페이지(레플리카 대안, Character.AI 대안)가 같은 기준을 적용하고, 이 카테고리가 아예 처음이라면 AI 컴패니언이란 무엇인가부터 시작하세요.
FAQ
내 AI 컴패니언 채팅은 비공개인가요?
제공사의 방침과 보안이 만드는 만큼만 비공개입니다 — 그리고 그 수준은 천차만별입니다. 당신의 메시지는 서버에서 처리되고 저장됩니다. 마케팅 속 "비공개"에는 법적 효력이 없습니다. 위의 체크리스트를 돌리세요. 학습 기본값, 보존 기간, 진짜 삭제, 내보내기, 앱 내 제어 기능.
AI 컴패니언 앱은 내 대화로 학습하나요?
기본적으로 학습하는 곳도, 옵트아웃을 허용하는 곳도, 옵트인하지 않는 한 학습하지 않는 소수도 있습니다. 앱 그리고 그 기반 모델 제공사의 방침을 확인하고, 옵트아웃이 과거 대화를 포함하는지 확인하세요. 방침이 말해 주지 않는다면, 학습한다고 가정하세요.
계정을 삭제하면 정말 전부 사라지나요?
앱이 파생 데이터 — 추출된 기억, 요약, 임베딩 — 와 백업 사본까지 명시된 기간 안에 삭제할 때에만 그렇습니다. 정의된 범위, 기한, 확인이나 확인증이 있는 삭제 절차를 찾으세요. 그 어느 것도 없는 삭제 버튼은, 그저 데이터를 당신에게만 숨기고 있는 것일 수 있습니다.
AI 컴패니언에게 절대 말하지 말아야 할 것은?
유출되면 피해를 입을 모든 것을 기본적으로 금지 대상으로 다루세요. 신분증 번호, 비밀번호, 금융 계좌 정보, 그리고 동의하지 않은 다른 사람의 식별 정보. 그 밖의 것들은 이 체크리스트에 대한 앱의 대답 수준에 맞추어 조절하세요 — 제어 기능이 좋을수록, 그만큼의 신뢰를 벌어들인 것입니다.