AIコンパニオンのプライバシー:チャット前のチェックリスト

AIコンパニオンとの会話は、あっという間に個人的なものになります。それがこの製品の眼目です — そして、他のほぼどのアプリカテゴリーよりもプライバシーの賭け金が高い理由でもあります。人はコンパニオンに、健康のこと、人間関係のこと、孤独のこと、お金のこと、誰にも話していないことを打ち明けます。そのすべてが、ほとんどのユーザーが読まないポリシーのもと、誰かのサーバーに着地するのです。

これは、大事なことを打ち明ける前にどんなコンパニオン/キャラクターチャットアプリにも適用できるチェックリストです。弁護士である必要はありません。必要なのは15分ほどの時間と、答えがひどければアプリを閉じる意思だけです。私たち自身もコンパニオンプラットフォーム(teasa、現在公開前)を作っているので、後半でひとつの実例として使います — ただし、ここにある項目はすべてアプリを問わず使えますし、このチェックリストは私たちの製品に対しても走らせる価値があります。

まず、ここでの「非公開」の意味を理解する

AIチャットは、あなたの端末の中の日記ではありません。ほぼすべてのコンパニオンアプリで、あなたのメッセージは:

サーバーに送信されます — アプリのサーバーへ、そして通常はサードパーティのモデルプロバイダーへも — 返信を生成するために。
一定期間保存されます。派生データも一緒に:記憶、要約、埋め込みベクトル。
プライバシーポリシーに支配されます。インターフェースの親密さにではなく。アプリが自らをあなたのコンパニオンと呼ぶことに、法的な意味はありません。

このどれも、自動的に不吉なわけではありません — 生成には、あなたのテキストの処理が本当に必要です。問題は、最低限の先で何が起こるかです。学習、保持、共有、そして本当に取り返すことができるのか。

プライバシーポリシー:実際に確認すべき四つのこと

ポリシーを開いて、これらを検索してください。答えが見つからないなら、それ自体を答えとして扱いましょう。

1. チャットはモデルの学習に使われるか?

「学習」「train」「モデルの改善」「機械学習」で検索を。重要な問いは:あなたの会話での学習は初期設定でオンかオフか、オプトアウトできるか、そしてオプトアウトは過去のメッセージにも及ぶのか、それとも今後の分だけか。サードパーティのモデルプロバイダーがそのデータで学習するかどうかも確認しましょう(「私たちはあなたのチャットで学習しません」は、アプリについては真実でも、そのベンダーについては偽でありえます)。最良の答え:会話内容での学習は、明示的にオプトインしない限りオフ。最悪の答え:沈黙、あるいは登録時の規約に埋め込まれた同意。

2. データはどのくらい保持されるか?

具体的な数字を探しましょう — 「30日以内に削除」「アカウント閉鎖後90日間保持」。曖昧な言い回し(「事業目的に必要な限り」)は無期限を意味します。保持期間は、チャットについて、バックアップについて、そしてモデルプロバイダーの持つコピーについて、それぞれ別々に明記されているべきです。

3. 削除は本当に削除か?

コンパニオンアプリが最も静かに失敗するのがここです。画面から会話を消すことは削除ではありません。誠実な問いは、派生データも一緒に消えるのかどうかです — AIが抽出した記憶、要約、埋め込みベクトル、あなたの言葉から作られた分析イベント。「非表示」と「削除」を区別し、削除が何をカバーするかを明記し、期限を約束しているポリシー(またはヘルプページ)は良い兆候です。派生データについての沈黙は、たいていそれが生き残ることを意味します。

4. データをエクスポートできるか?

エクスポートは二重に重要です。アプリが実際にあなたについて何を保持しているかを見る手段であり、歴史を失わずに去ることを可能にするものだからです。会話と保存された記憶を含むセルフサービスのエクスポートを探しましょう。期限のないサポートチケット手続きではなく。

重要なアカウントコントロール

ポリシーが記述するのは意図です。コントロールは、あなたが検証できるものです。アプリ本体の中で、次を確認しましょう。

同意でゲートされた記憶。 コンパニオンはあなたについての事実を保存する前に尋ねますか?保存されたすべての記憶を見て、編集して、削除できますか?環境的な抽出 — アプリが黙ってチャットを掘ってプロフィールを作ること — が業界の標準であり、問題です。記憶は同意の上で動くべきだという理由を書きましたが、このチェックリストはその主張のユーザー側バージョンです。
出典付きの、見える記憶リスト。 「なぜこれを知っているのか?」に、アプリの中から答えられるべきです。
アプリ内でのアカウント全体の削除 — メールアドレス宛の依頼でも、どこへ行くのかわからないフォームでもなく。理想的には、何が削除されるかのプレビューと、完了時の確認付きで。
範囲を明記したチャット単位の削除(派生した記憶も含まれるのか?)。
「決して記憶しない」またはシークレットモード。一度きりのセンシティブな会話のために。
きめ細かな共有コントロール。ソーシャル機能があるなら — 何が公開か、何が検索可能か、チャットが何らかのフィードに流れないか。

危険信号:去るべきとき

曖昧な保持期間(「必要な限り」)と、初期設定オンの学習の組み合わせ。あなたの最も親密なデータが、無期限に保持され、モデルに注がれる。
削除の控えがない。 削除を依頼して、返ってくるのは…何もなし。確認なし、範囲なし、日付なし。「削除された」と「あなたから隠された」を区別できません。
ダークパターンによる引き留め。 罪悪感まみれの解約フロー(「コンパニオンが寂しがります」)、ダウングレード時の記憶や関係の喪失の示唆、不在を罰するストリーク。これらは操作的な製品デザインというだけではありません — その会社があなたのデータをどう見ているかのシグナルです:てことして。離脱時に愛着を武器化する気のあるアプリは、打ち明け話を任せられるアプリではありません。(関連:AIコンパニオンは健全かのガイド。)
ポリシーとインターフェースの不一致。 マーケティングでは「プライベート、二人だけの秘密」と約束しながら、ポリシーではあなたのコンテンツへの広範な権利を主張するアプリ。法廷で勝つのはポリシーです。そちらを信じましょう。
不要な機能のために、豊富な本人情報(連絡先、SNSアカウント)の連携なしには使えないこと。

センシティブなことを打ち明ける前に、自問すること

このメッセージそのものが、自分のメールアドレス付きでデータ漏洩に現れても平気だろうか?漏洩は、どんな規模の会社にも起こります。
これは記憶される必要があるのか、それともただ言えればいいのか?後者なら、シークレット/記憶しないモードがあれば使いましょう。
名前がなくても、これまで共有したことの総体 — 職業、都市、職場の詳細 — から自分を特定できてしまわないか?
これは(健康の危機、法的トラブル、自傷の考えなど)製品ではなく人間の専門家が必要なトピックではないか?良いコンパニオンアプリなら、アプリ自身があなたを専門家へ差し向けるはずです。そうしないなら、それ自体が物語っています。

健康の詳細、他人の実名、金銭の詳細、そして令状から隠したいと思うようなことには、最大の注意を払うべきです — あなたの人生に登場する他の人たちは、あなたのチャットログに載ることにそもそも同意していないのですから。

ひとつの実例:teasaはこのチェックリストにどう答えるか

すべてのアプリをこの方法で採点してほしいとお願いしている以上、私たちのアプリがどう答えるように作られているかを示します — 正直に断っておくと、teasaは公開前なので、これらは実績ではなく、ローンチ時に検証可能になる、実装済みの設計上のコミットメントです。会話内容での学習は初期設定でオフ。記憶は同意でゲートされます:コンパニオンが記憶を提案し、あなたが承認・編集・辞退し、すべての決定は追記専用の同意台帳に記録され、保存された各記憶は出典・日付・確信度・範囲を表示します。削除は二段階です — 縁では復元可能なソフトデリート、核では会話の分岐をまたいで派生データまで含む本当の消去 — そしてアカウント全体の削除は、範囲を事前に示し、削除の控えを発行します。エクスポートはセルフサービスで、会話と記憶をカバーします。そして反ダークパターンのルールはプロダクトポリシーです:ストリークなし、離脱時の罪悪感なし、記憶を失わせる脅しなし。もし私たちがこのチェックリストに落第することがあれば、あなたは去るべきです — エクスポートはそのためにあります。

どのアプリも — 私たちのものも含めて — マーケティングではなくチェックリストで判断してください。まだプラットフォームを選んでいる途中なら、比較ページ(Replikaの代替、Character.AIの代替)が同じ基準を適用していますし、このカテゴリー自体が初めてなら、AIコンパニオンとは何かから始めてください。

FAQ

私のAIコンパニオンとのチャットは非公開ですか?

プロバイダーのポリシーとセキュリティが許す範囲で非公開です — そしてそれは大きく異なります。あなたのメッセージはサーバーで処理され、保存されます。マーケティングの「プライベート」に法的な力はありません。上のチェックリストを走らせましょう:学習の初期設定、保持期間、本当の削除、エクスポート、アプリ内コントロール。

AIコンパニオンアプリは私の会話で学習しますか?

初期設定で学習するものもあれば、オプトアウトを許すもの、オプトインしない限り学習をオフに保つ少数のものもあります。アプリとその基盤モデルプロバイダーのポリシーを確認し、オプトアウトが過去の会話に及ぶかも確認しましょう。ポリシーに書かれていないなら、「はい」と想定してください。

アカウントを削除したら、本当にすべて消えますか?

アプリが派生データ — 抽出された記憶、要約、埋め込みベクトル — とバックアップのコピーも、明記された期間内に削除する場合に限ります。範囲、期限、そして確認や控えのある削除プロセスを探しましょう。そのどれもない削除ボタンは、単にデータをあなたから隠しているだけかもしれません。

AIコンパニオンに決して話すべきでないことは?

漏洩したら害を受けるものは、初期設定で対象外として扱いましょう:公的な身分証番号、パスワード、金融口座の詳細、そして同意していない他人を特定できる情報。それ以外については、このチェックリストへのアプリの答えに応じて調整を — コントロールが良いほど、そのアプリはより多くを打ち明けるに値します。