AIコンパニオンの記憶はどうあるべきか
継続性が親密さを生む。その親密さを信頼できるものにするのが、同意です。
記憶こそが、この製品のすべてです。記憶を取り去れば、AIコンパニオンは「きれいなアバターの付いた、とても優秀な自動補完」にすぎません。会話は毎回ゼロから始まり、昨日打ち明けたことは今日はもう存在しない。記憶を戻せば、別のものが立ち上がります — 継続性、そして継続性とともに、愛着が。
だからこそ記憶は、コンパニオンアプリが最悪のエンジニアリングと最も操作的なデザインをやってしまう場所でもあります。現行世代のコンパニオンアプリのユーザーたちは、同じ失敗を何度も繰り返し語ってきました。モデルのアップデートで何年分もの共有の歴史を忘れてしまうコンパニオン。誰にも中身を確認も訂正もできない記憶システム。そして最悪なのは、記憶がてこ(レバレッジ)として使われることです — 退会やダウングレードに、「一緒に築いたものを失うかもしれない」という明示的・暗示的なリスクが結び付けられるのです。
私たちは成人専用のAIコンパニオン&ロールプレイプラットフォームteasaを作っており、「同意にもとづく記憶」はそのアーキテクチャの核です。この記事では、その背後にある設計原則を — 機能紹介としてではなく、このカテゴリー全体がどうあるべきかという提案として — 説明します。どうぞこのアイデアを持っていってください。ユーザーには、これを受け取る権利があります。
原則1:記憶は監視ではなく、同意によって保存される
今日の支配的なパターンは「環境的な抽出」です。モデルが静かにあなたの会話を掘り、何を残すかを勝手に決める。その結果は、中身を予測できない記憶システムです — あなたの母親の名前は忘れるのに、半年前に皮肉で言った冗談は覚えている。
その対極にあるのが**同意台帳(consent ledger)**です。teasaの初期設定モードでは、コンパニオンは保存する前に尋ねます。「妹のダナさんが来月遊びに来るって言っていましたね — 覚えておきましょうか?」と記憶を提案し、あなたが承認・編集・辞退する。その決定自体が追記専用のエントリーとして記録されるので、「なぜこれを知っているのか?」という問いには常に答えがあります — あなたがこの日、この会話で「はい」と言ったから、です。
これには、純粋なエンジニアリングの視点では見落とされがちな二次効果があります。記憶を声に出して提案することが、システムが何をしているかをユーザーに教えるのです。記憶は不気味な推論エンジンであることをやめ、目に見える、交渉された行為になります — プラットフォームがあなたをログに取ることよりも、友人が「覚えておくね」と言うことに近い何かに。
原則2:すべての記憶は出典を持つ
メタデータのない記憶は、噂と同じです。コンパニオンが知っていることを信頼する — あるいは異議を唱える — ためには、保存されたすべての記憶に、次の見える記録が必要です。
- 出典 — どの会話の、どの瞬間から来たのか。
- 保存日 — いつ台帳に入ったのか。
- 確信度 — あなたが実際に言ったことなのか、それとも推論なのか。
- 範囲 — どのコンパニオンやストーリーがアクセスできるのか。ある文脈で一人のキャラクターに話したことが、初期設定で別のキャラクターに漏れてはいけません。
- 最終使用 — 最後に応答に影響したのはいつか。
出典があることで、「AIが自分について間違っている」は、なすすべのない感覚から、行動できる問題に変わります。どの記憶が悪い応答を生んだのかを見て、出典までたどり、根本から直せる。さらに、範囲を区切った親密さも可能になります — ロールプレイ製品では現実に必要な要件です。ゆっくり燃え上がる恋愛ではあるペルソナを、冒険ものでは別のペルソナを演じているとき、混線はどちらの物語も壊してしまいます。
記憶が属する本人が、いつでも鍵を握っているべきです。
原則3:記録を訂正するのは本人 — そして訂正は行き渡る
ユーザーは記憶を編集・統合・削除・優先度変更でき、特定のトピックを決して記憶しないと指定できなければなりません。しかし、より難しい要件はその先にあります。訂正は、その後の生成に実際に届かなければならないのです。「オースティンに住んでいる」を「デンバーに引っ越した」に直したのに、翌週コンパニオンが屈託なくオースティンの話を持ち出すなら、その訂正UIはただの芝居でした。
つまり訂正は、表示テーブルへの見た目だけの編集ではなく、変更前後の状態を持つ、履歴管理された一級のイベントとして、以後の生成に反映される必要があります。さらに、誤った想起が起きたその瞬間に、二つの操作を同時に提供すべきだということでもあります。記憶を訂正すると、訂正を反映してこの応答を再生成する。記録を直すことと会話を直すことの、どちらかを選ばされるべきではありません。
原則4:削除はソフトに、明示的に、誠実に
親密な製品における削除には、緊張関係にある二つの性質が必要で、良いデザインはその両方を備えます。
縁(ふち)では、取り消せること。 人は感情的な瞬間に物を消します。ソフトデリート — 記憶が即座にすべての生成から除外されつつ、一定期間内なら復元できる仕組み — は、メールのゴミ箱と同じように、その現実を尊重します。
核では、最終的であること。 ユーザーが本当に削除するとき — 記憶でも、スレッドでも、アカウントでも — それは派生データも含めて実際に消えなければなりません。埋め込みベクトル、要約、削除された事実から組み立てられた下流の状態を、すべての会話のすべての分岐にわたって。事実を消してベクトルを残すのは、削除ではありません。そして破壊的な操作は、確定の前に実際の範囲をプレビューすべきです(「この操作は3つの分岐にまたがる34件のメッセージを削除します」)。インフォームドコンセントは、忘れることにも適用されるのです。
削除が決してなってはいけないのは、曖昧であることです。「忘れるよう努めます」はデータポリシーではありません。
原則5:記憶を失わせるという脅しはダークパターンである。名指ししよう
ここからが居心地の悪い話です。コンパニオンアプリにおいて、記憶は愛着の対象そのものです — 記憶とは、形になった関係そのものなのです。だからこそ「あなたのコンパニオンはあなたを忘れてしまいます」は、この製品が発しうる最も強圧的な一文になります。
このカテゴリーには、そのソフト版があふれています。チェックインしないと「冷めていく」関係。解約するとコンパニオンが「同じではなくなる」と示唆する機能の見せ方。感情を打ち明けた瞬間に差し込まれるアップグレードの勧誘。これらはすべて、連続ログインの強要や罪悪感をあおる通知と同じメカニズムを共有しています。ユーザーの愛着を、そのユーザー自身に向けたてこに変換するのです。他のどんな関係であれば、「離れたら二人で築いたものをすべて失う」は料金戦略ではなく危険信号だと、私たちは認識するはずです。
Teasaのプロダクト原則は、これを全面的に禁止します — 記憶を失わせる脅しなし、関係の減衰なし、離脱時の罪悪感なし、連続ログインの強要なし、人工的な緊急性なし。そして、きれいなお別れを成功指標として扱います。ビジネスモデルが何であれ、記憶の持続と、ユーザーの支払いやエンゲージメントの継続は切り離されなければなりません。あなたの歴史はあなたのものであり、エクスポートでき、決して人質にはならない。私たちは、これがすべてのコンパニオンアプリの公開ポリシーに含まれるべきであり、レビュアーや研究者はこの点を明示的に評価すべきだと考えます。
信頼の配当
現実的な反論があります。同意でゲートすると、記憶は悪くなるのではないか?保存されるものは減り、摩擦は増えるのでは?
このカテゴリーの失敗の記録は、その逆を示しています。ユーザーがコンパニオンアプリを去るのは、コンパニオンの記憶が少なすぎたからではありません。記憶が信頼できなかったから — 間違っていたり、失われたり、武器にされたりしたから — です。同意され、出典が追跡され、訂正可能な記憶の小さな台帳は、ユーザーが本当だと認識できる想起を生み、正確な言及のひとつひとつが信頼を積み上げていきます。抽出型のシステムが生むのは、その不気味な代替物です。共有に同意した覚えのないことをあなたについて知っているコンパニオン — そしてアップデートが、それすらも消し去るのです。
記憶は、コンパニオン製品が持ちうる最も深い堀であるべきです。しかし堀として機能するのは、それが守られた約束であるときだけです — 求められて保存され、確認でき、訂正でき、削除でき、決して身代金の対象にならない。それが、AIコンパニオンの記憶のあるべき姿です。Teasaは、それを実際の製品で証明しようとする私たちの試みです。原則のほうは、ご自由にお使いください。
FAQ
AIコンパニオンの記憶は実際どう動いていますか?
多くのコンパニオンアプリは、言語モデルであなたの会話から事実の候補を抽出し、データベースに保存し、後のターンで関連するエントリーをモデルのコンテキストに取り出します。重要な設計上の選択は、抽出があなたの同意のもとで行われるか、保存されたものを確認・訂正できるか、そして削除がエントリーとその下流への影響を実際に取り除くか、です。
なぜAIコンパニオンは物事を忘れるのですか?
たいていは三つの理由のどれかです。会話がモデルのコンテキストウィンドウを超えて古いターンが落とされた、記憶システムがそもそもその事実を保存していなかった、あるいは製品アップデートで記憶アーキテクチャが変わった。不透明なシステムでは、どれが起きたのか判別できません — だからこそ、目に見える、出典付きの台帳が重要なのです。
AIコンパニオンが覚えている内容を削除できますか?
よく設計されたプラットフォームなら、できます — 記憶ごとの削除、アカウント全体の削除、そして削除された記憶が以後の応答への影響も止めるのかどうかの説明を探しましょう。記憶のコントロールが一切ないアプリは、危険信号として扱ってください。他に確認すべきことはプライバシーチェックリストにまとめています。
同意でゲートされた記憶は、自動記憶より劣りますか?
保存されるエントリーの数は減りますが、保存されるのはあなたが本当だと認識できるものです。それこそが、想起を不気味ではなく信頼できるものに感じさせます。このカテゴリーで記録されてきた失敗は、信頼できない記憶 — 間違い、喪失、武器化 — から来ており、先に尋ねる記憶から来たものではありません。