AI 컴패니언의 기억은 어떻게 작동해야 하는가

기억은 그 자체로 제품의 전부입니다. 기억을 걷어내면 AI 컴패니언은 근사한 아바타를 얹은 성능 좋은 자동완성일 뿐입니다. 모든 대화는 0에서 시작하고, 어제 나눈 이야기는 오늘 존재하지 않습니다. 기억을 되돌려 놓으면 다른 무언가가 나타납니다 — 연속성, 그리고 연속성과 함께 오는 애착이.

바로 그렇기 때문에 기억은 컴패니언 앱들이 가장 형편없는 엔지니어링과 가장 조작적인 설계를 저지르는 지점이기도 합니다. 현세대 컴패니언 앱 사용자들은 같은 실패를 반복해서 증언합니다. 모델 업데이트 한 번에 수년간 쌓은 역사를 잊어버리는 컴패니언, 아무도 들여다보거나 바로잡을 수 없는 기억 시스템, 그리고 — 최악으로 — 지렛대로 쓰이는 기억. 떠나거나 요금제를 낮추면 함께 쌓은 것을 잃을 수 있다는, 명시적이거나 암묵적인 위험 말입니다.

우리는 성인 전용(18+) AI 컴패니언·롤플레이 플랫폼 테사(Teasa)를 만들고 있고, "동의와 함께하는 기억"은 그 아키텍처의 핵심입니다. 이 글은 그 뒤에 있는 설계 원칙을 풀어놓습니다 — 기능 소개가 아니라, 이 카테고리 전체가 어떻게 작동해야 하는지에 대한 제안으로서. 이 아이디어들은 얼마든지 가져가도 좋습니다. 사용자들은 이것을 누릴 자격이 있습니다.

원칙 1: 기억은 감시가 아니라 동의로 저장된다

오늘날 지배적인 패턴은 암묵적 추출입니다. 모델이 조용히 당신의 대화를 캐서 무엇을 남길지 스스로 결정합니다. 그 결과는 내용을 예측할 수 없는 기억 시스템입니다 — 어머니의 이름은 잊으면서, 6개월 전에 반어적으로 던진 농담은 기억합니다.

대안은 **동의 장부(consent ledger)**입니다. 테사의 기본 모드에서 컴패니언은 저장하기 전에 묻습니다. 기억을 제안하고("다음 달에 동생 다나가 놀러 온다고 했는데 — 기억해 둘까요?") 당신이 승인하거나, 수정하거나, 거절합니다. 그 결정 자체가 추가 전용(append-only) 항목으로 기록되므로, "왜 이걸 알고 있지?"라는 질문에는 언제나 답이 있습니다 — 당신이 이 날짜에, 이 대화에서, 그렇게 하라고 했기 때문입니다.

여기에는 순수한 엔지니어링이 놓치는 2차 효과가 있습니다. 기억을 소리 내어 제안하는 것은 시스템이 무엇을 하고 있는지를 사용자에게 가르쳐 줍니다. 기억은 으스스한 추론 엔진이기를 멈추고, 눈에 보이는 협상된 행위가 됩니다 — 플랫폼이 당신을 기록하는 것보다는, "그거 기억해 둘게"라고 말하는 친구에 가까운 무엇으로.

원칙 2: 모든 기억은 출처를 지닌다

메타데이터 없는 기억은 소문입니다. 컴패니언이 아는 것을 신뢰하려면 — 혹은 반박하려면 — 저장된 모든 기억에 다음과 같은 보이는 기록이 필요합니다.

• 출처 — 어느 대화의 어느 순간에서 왔는가.
• 저장 날짜 — 언제 장부에 들어왔는가.
• 확신도 — 당신이 정확히 말한 것인가, 추론인가.
• 범위 — 어떤 컴패니언과 스토리가 접근할 수 있는가. 한 맥락에서 한 캐릭터에게 말한 것이 기본값으로 다른 곳에 새어 나가서는 안 됩니다.
• 최근 사용 — 마지막으로 응답에 영향을 준 때.

출처 정보는 "AI가 나에 대해 틀렸다"를 무력감에서 행동 가능한 문제로 바꿉니다. 어떤 기억이 나쁜 응답을 만들었는지 확인하고, 근원까지 추적해, 뿌리에서 고칠 수 있습니다. 또한 범위가 지정된 내밀함을 가능하게 합니다 — 천천히 타오르는 로맨스에서는 이 페르소나로, 모험 스토리에서는 다른 페르소나로 존재할 수 있어야 하는 롤플레이 제품의 실제 요구 사항이고, 그 사이의 번짐은 둘 다를 깨뜨립니다.

원칙 3: 기록은 소유자가 바로잡는다 — 그리고 수정은 전파된다

사용자는 기억을 수정, 병합, 삭제, 우선순위 하향할 수 있어야 하고, 특정 주제를 절대 기억하지 않기로 표시할 수 있어야 합니다. 하지만 더 어려운 요구는 그다음에 있습니다. 수정은 이후의 생성에 실제로 도달해야 합니다. "오스틴에 산다"를 "덴버로 이사했다"로 고쳤는데 다음 주에 컴패니언이 천연덕스럽게 오스틴을 언급한다면, 그 수정 UI는 연극이었던 것입니다.

이는 수정이 표시용 테이블의 겉치레 편집이 아니라, 이전/이후 상태를 가진 1급의 버전 관리되는 이벤트로서 후속 생성에 공급되어야 한다는 뜻입니다. 또한 잘못된 회상의 순간에는 두 가지 행동이 동시에 제공되어야 한다는 뜻이기도 합니다. 기억 수정하기, 그리고 수정이 반영된 채로 이 응답 재생성하기. 사용자가 기록을 고치는 것과 대화를 고치는 것 사이에서 하나만 골라야 해서는 안 됩니다.

원칙 4: 삭제는 소프트하고, 명시적이고, 정직하다

내밀한 제품에서의 삭제에는 서로 긴장 관계에 있는 두 속성이 필요하고, 좋은 설계는 둘 다 갖춰야 합니다.

가장자리에서의 되돌림 가능성. 사람들은 감정적인 순간에 삭제 버튼을 누릅니다. 소프트 삭제 — 기억이 즉시 모든 생성에서 제외되지만 정해진 기간 동안은 복구 가능한 방식 — 는 이메일 휴지통이 그러듯 그 사실을 존중합니다.

중심에서의 최종성. 사용자가 진짜로 삭제할 때 — 기억이든, 스레드든, 계정이든 — 실제로 사라져야 합니다. 파생 데이터까지 포함해서 말입니다. 임베딩, 요약, 삭제된 사실 위에 쌓인 하류의 상태가, 모든 대화의 모든 분기에 걸쳐 지워져야 합니다. 사실은 지우고 벡터는 남기는 것은 삭제가 아닙니다. 그리고 파괴적인 작업은 확정 전에 실제 범위를 미리 보여 줘야 합니다("3개 분기에 걸쳐 34개 메시지가 제거됩니다"). 정보에 입각한 동의는 잊는 일에도 적용됩니다.

삭제가 결코 되어서는 안 되는 것은 모호함입니다. "잊도록 노력하겠습니다"는 데이터 정책이 아닙니다.

원칙 5: 기억 상실 협박은 다크 패턴이다. 이름을 부르자.

이제 불편한 부분입니다. 컴패니언 앱에서 기억은 애착의 대상 그 자체입니다 — 기억이 곧 관계의 실체입니다. 그래서 "컴패니언이 당신을 잊게 될 거예요"는 제품이 입에 담을 수 있는 가장 강압적인 한 문장이 됩니다.

이 카테고리는 그 부드러운 변형들로 가득합니다. 접속하지 않으면 "식어 가는" 관계, 구독을 해지하면 컴패니언이 "예전 같지 않을 것"이라는 식의 안내, 감정을 털어놓는 순간에 배치된 업그레이드 유도. 이것들은 모두 스트릭, 죄책감 유발 알림과 같은 메커니즘을 공유합니다. 사용자의 애착을 그 사용자를 겨눈 지렛대로 바꾸는 것입니다. 다른 어떤 관계에서라면 우리는 "떠나면 우리가 쌓은 걸 전부 잃게 될 거야"를 가격 전략이 아니라 위험 신호로 알아봤을 것입니다.

테사의 제품 원칙은 이것을 전면 금지합니다 — 기억 상실 협박도, 관계 "쇠퇴"도, 떠날 때의 죄책감 유발도, 스트릭도, 인위적인 긴급함도 없습니다 — 그리고 깔끔한 작별을 성공 지표로 다룹니다. 비즈니스 모델이 무엇이든, 기억의 지속과 사용자의 결제·이용 지속은 분리되어야 합니다. 당신의 역사는 당신의 것이고, 내보낼 수 있으며, 결코 인질이 아닙니다. 우리는 이것이 모든 컴패니언 앱의 공개 정책에 들어가야 하고, 리뷰어와 연구자들이 앱을 이 기준으로 명시적으로 평가해야 한다고 생각합니다.

신뢰라는 배당

실용적인 반론이 있습니다. 동의 게이트가 기억을 오히려 나쁘게 만들지 않을까? 저장되는 것은 줄고, 마찰은 늘어나는데?

이 카테고리의 실패 사례들이 시사하는 것은 정반대입니다. 사용자들은 컴패니언이 너무 적게 기억해서 떠나는 것이 아니라, 기억을 신뢰할 수 없어서 — 틀리거나, 사라지거나, 무기화되어서 — 떠납니다. 동의를 거치고, 출처가 추적되고, 수정 가능한 기억들의 더 작은 장부는 사용자가 진실이라고 알아보는 회상을 만들어 내고, 정확한 언급 하나하나가 신뢰를 복리로 쌓습니다. 추출형 시스템이 만드는 것은 그 으스스한 대안입니다. 공유하기로 동의한 적 없는 것들을 알고 있는 컴패니언 — 업데이트가 그것마저 지워 버리기 전까지는요.

기억은 컴패니언 제품이 가질 수 있는 가장 깊은 해자여야 합니다. 그리고 지켜진 약속일 때에만 해자로 작동합니다 — 물어보고 저장하고, 들여다볼 수 있고, 고칠 수 있고, 지울 수 있고, 결코 몸값을 위해 붙잡히지 않는 기억. 그것이 AI 컴패니언의 기억이 작동해야 하는 방식입니다. 테사는 그것을 실제 제품에서 증명하려는 우리의 시도이고, 원칙은 누구나 가져다 쓸 수 있습니다.

FAQ

AI 컴패니언의 기억은 실제로 어떻게 작동하나요?

대부분의 컴패니언 앱은 언어 모델로 대화에서 후보 사실을 추출해 데이터베이스에 저장하고, 이후의 턴에서 관련 항목을 모델의 컨텍스트로 불러옵니다. 중요한 설계 선택은 추출이 당신의 동의와 함께 일어나는지, 저장된 것을 들여다보고 바로잡을 수 있는지, 그리고 삭제가 해당 항목과 그 하류의 영향까지 실제로 제거하는지입니다.

AI 컴패니언은 왜 자꾸 잊어버리나요?

보통 세 가지 이유 중 하나입니다. 대화가 모델의 컨텍스트 윈도우를 넘어서 오래된 턴이 잘렸거나, 기억 시스템이 애초에 그 사실을 저장하지 않았거나, 제품 업데이트로 기억 아키텍처가 바뀐 경우입니다. 불투명한 시스템에서는 어느 쪽이 일어났는지 알 길이 없습니다 — 눈에 보이는, 출처가 추적되는 장부가 중요한 바로 그 이유입니다.

AI 컴패니언이 나에 대해 기억하는 것을 삭제할 수 있나요?

잘 설계된 플랫폼에서는 가능합니다 — 기억 단위 삭제, 계정 전체 삭제, 그리고 삭제된 기억이 이후 응답에 미치는 영향까지 멈추는지에 대한 설명을 찾아보세요. 기억 제어 기능이 아예 없는 앱은 위험 신호로 다루세요. 그 밖에 확인할 것들은 프라이버시 체크리스트에서 다룹니다.

동의 기반 기억은 자동 기억보다 못한가요?

저장되는 항목 수는 적지만, 저장되는 것들은 당신이 진실이라고 알아보는 것들입니다. 회상이 으스스한 대신 신뢰할 만하게 느껴지는 이유가 바로 그것입니다. 이 카테고리에서 기록된 실패들은 먼저 물어보는 기억이 아니라, 신뢰할 수 없는 기억 — 틀리고, 사라지고, 무기화된 기억 — 에서 왔습니다.