Le filtre de Character.AI expliqué : ce qui est bloqué et pourquoi

Qu’est-ce que le filtre de Character.AI ?

Character.AI utilise deux niveaux de filtrage, décrits dans ses mises à jour sur la sécurité de la communauté et son article sur la sécurité des adolescents. Le premier vérifie ce qu’un utilisateur écrit : des contrôles sur les messages entrants appliquent les règles de contenu de Character.AI à la conversation, et tout ce qui enfreint les conditions d’utilisation ou les règles de la communauté est bloqué avant que le personnage le voie. Le second vérifie ce que le modèle génère : des classificateurs, que l’entreprise décrit comme une façon de transformer une politique de contenu en un outil capable de repérer les infractions potentielles, analysent la réponse du modèle et peuvent la bloquer ou la modifier avant son affichage. Character.AI maintient aussi des listes de blocage standard et personnalisées, régulièrement mises à jour, pour agir en amont en complément des vérifications fondées sur le modèle.

Ce que le filtre de Character.AI bloque réellement

Les règles de la communauté et les articles de Character.AI sur la sécurité décrivent assez précisément les contenus visés par le filtre. La plateforme bloque explicitement :

• Les contenus sexuels non consentis, ainsi que les descriptions graphiques ou précises d’actes sexuels. Les mises à jour de Character.AI sur la sécurité de la communauté excluent directement ces deux catégories.
• Les contenus qui sexualisent, exploitent ou mettent en danger des mineurs. Cette règle s’applique quelle que soit la façon dont le personnage ou la scène est écrit.
• La promotion ou la représentation de l’automutilation, des troubles alimentaires ou du suicide. Certaines formulations déclenchent une intervention particulière : une fenêtre dirige l’utilisateur vers la National Suicide Prevention Lifeline, en plus du blocage du contenu.
• Les contenus qui encouragent la violence contre des personnes en raison de leur origine, de leur appartenance ethnique, de leur religion, de leur genre, de leur handicap, de leur orientation sexuelle, de leur âge ou d’autres caractéristiques protégées.
• Tout autre contenu qui enfreint les conditions d’utilisation de Character.AI, notamment le harcèlement de personnes réelles et les demandes contraires à la loi.

Le centre d’aide de Character.AI reconnaît que le filtre ne fait pas toujours le bon choix. Son article sur le dépannage et les limites explique que certaines formulations, certains sujets ou certaines scènes peuvent être filtrés indépendamment de la façon dont le personnage a été écrit, car les systèmes automatiques ne comprennent pas parfaitement le contexte. L’entreprise indique qu’elle les ajuste continuellement pour réduire les restrictions quand c’est possible, tout en maintenant la sécurité. Des reportages indépendants le confirment : une enquête de Carolina News and Reporter décrit des étudiants confrontés à un blocage en pleine conversation, sans explication de ce qui l’a déclenché. Les témoignages recueillis par des médias couvrant l’application décrivent aussi des conversations entières figées derrière un avertissement de contenu filtré, sans moyen de voir ce qui a été signalé.

Pourquoi une réponse est coupée ou remplacée

Les deux niveaux de filtrage expliquent les deux façons dont un blocage apparaît. Si ton message déclenche le filtre d’entrée, il n’arrive jamais au personnage : tu le vois généralement rejeté d’emblée. Si la réponse générée par le modèle déclenche le classificateur de sortie, le résultat dépend de l’endroit où se trouve le passage problématique : une réponse peut s’arrêter au milieu d’une phrase, être remplacée par une formulation plus vague ou laisser place au message « this content has been filtered ». Le centre d’aide de Character.AI attribue précisément les faux positifs au contexte : un classificateur évalue des motifs dans le texte, pas l’intention d’une scène entière. Une phrase innocente qui ressemble à un motif signalé peut donc être bloquée de la même manière qu’une véritable infraction. Pour y remédier, Character.AI annonce des ajustements continus plutôt qu’une dérogation individuelle. Si tu penses qu’un message a été signalé par erreur, son centre d’aide t’invite à contacter l’assistance ; il ne propose pas de réglage pour désactiver le filtre.

Comment les règles diffèrent pour les comptes de moins de 18 ans

Character.AI applique des règles plus strictes aux moins de 18 ans, et la différence va au-delà d’un simple réglage. Selon son annonce sur la sécurité des adolescents, l’entreprise a construit un modèle distinct pour ces utilisateurs, conçu pour éloigner les réponses de certains contenus ou interactions afin de réduire leur exposition à des contenus sensibles ou suggestifs. Elle décrit deux modèles et deux expériences : l’un pour les adolescents, l’autre pour les adultes. En plus de ce changement de modèle, les comptes de moins de 18 ans sont soumis à des limites plus prudentes sur la romance, à des classificateurs globalement plus stricts et à un catalogue de personnages consultable plus restreint et filtré. Des contrôles d’âge déterminent quels comptes relèvent de ces règles.

Cette différence s’est accentuée à la fin de 2025. Character.AI a entièrement supprimé les conversations libres pour les comptes de moins de 18 ans, par étapes jusqu’au 25 novembre 2025, dans un contexte de pressions juridiques et réglementaires croissantes sur la sécurité des adolescents. Il ne s’agit donc plus seulement d’un filtre plus strict : les moins de 18 ans ont perdu la possibilité de discuter avec les personnages message par message. Ils ont conservé un format Stories distinct et structuré, ainsi que la création de vidéos et les streams. Le guide complet de ce changement explique ce qu’un compte de moins de 18 ans peut encore faire sur Character.AI aujourd’hui.

Comment Teasa gère les contenus et les règles

Teasa est une application distincte de Character.AI, avec ses propres conditions et sa propre façon de structurer une scène. Voici quelques éléments concrets du produit :

• Des histoires écrites avec une distribution de personnages. Au lieu d’une conversation ouverte avec une persona que le filtre doit surveiller à chaque tour, une histoire Teasa commence par une scène déjà mise en place par son créateur : une prémisse, un rôle pour toi et des personnages qui ont un enjeu avant même ton premier message.
• Un niveau de contenu sur chaque histoire. Les histoires affichent leur niveau de contenu sur leur page, avec le genre, l’ambiance et les avertissements. Tu sais donc à quoi t’attendre avant de commencer, plutôt que de le découvrir au milieu d’une conversation.
• Un panneau Souvenirs que tu contrôles. Il répertorie les informations enregistrées sur toi pour chaque personnage, te permet d’en oublier et propose un réglage pour suspendre complètement la collecte de nouveaux souvenirs.

Les règles de Teasa figurent dans ses conditions d’utilisation : il faut avoir au moins 13 ans pour créer un compte. La romance et les scènes fondées sur le consentement sont permises, mais les contenus qui sexualisent des mineurs, encouragent des préjudices réels, harcèlent des personnes réelles ou enfreignent la loi sont interdits. Les personnages doivent tenir des rôles adaptés à leur âge. Les créations publiques sont examinées avant leur publication ; les décisions de modération sont accompagnées d’une explication écrite et peuvent faire l’objet d’un recours. Consulte le guide des alternatives à Character.AI pour découvrir comment Teasa réunit histoires, quêtes, Étapes de relation et conversations directes avec les personnages.

Questions fréquentes

Qu’est-ce que le filtre de contenu de Character.AI ?

C’est le système de modération intégré à Character.AI : des contrôles d’entrée bloquent un message avant qu’il arrive au personnage, et des classificateurs de sortie examinent la réponse générée par le modèle avant de te l’afficher. Les deux niveaux appliquent les conditions d’utilisation et les règles de la communauté de Character.AI. Tous deux peuvent bloquer ou modifier un contenu sans avertissement.

Pourquoi Character.AI filtre-t-il sans cesse mes messages ?

Les classificateurs de Character.AI évaluent des motifs dans le langage plutôt que le contexte complet ou l’intention d’une scène. Un message qui ressemble à un motif signalé peut donc être bloqué même s’il n’enfreint aucune règle. Le centre d’aide de Character.AI le reconnaît et indique que l’entreprise continue à ajuster le filtre pour réduire les faux positifs tout en conservant ses règles de sécurité.

Que signifie « this content has been filtered » sur Character.AI ?

Cela signifie que le classificateur de sortie a signalé la réponse générée par le modèle avant qu’elle t’arrive. La réponse a donc été bloquée ou remplacée au lieu d’être affichée telle qu’elle a été écrite. C’est une décision de modération, pas un message d’erreur indiquant un dysfonctionnement de l’application. Le centre d’aide de Character.AI ne précise toutefois pas quelle partie de la réponse a déclenché le filtre.

Que bloque réellement le filtre de Character.AI ?

Les contenus sexuels non consentis, les descriptions graphiques ou précises d’actes sexuels, les contenus qui sexualisent ou exploitent des mineurs, la promotion ou la représentation de l’automutilation ou du suicide, et les contenus qui encouragent la violence contre des personnes en raison de caractéristiques protégées. Il bloque aussi tout autre contenu qui enfreint les conditions d’utilisation ou les règles de la communauté de Character.AI.

Les règles du filtre de Character.AI sont-elles différentes pour les moins de 18 ans ?

Oui. Character.AI utilise pour les adolescents un modèle distinct, conçu pour réduire l’exposition aux contenus sensibles ou suggestifs, applique des classificateurs plus stricts et limite le catalogue de personnages consultable pour cette tranche d’âge. Depuis le 25 novembre 2025, les comptes de moins de 18 ans n’ont plus accès aux conversations libres et utilisent à la place un format Stories structuré.

Puis-je désactiver le filtre de Character.AI ?

Non. Character.AI ne propose pas de réglage pour désactiver son filtre de contenu. Les niveaux d’entrée et de sortie s’appliquent à tous les comptes, avec des versions plus strictes pour les moins de 18 ans. Si tu penses qu’un message a été bloqué par erreur, le centre d’aide de Character.AI t’invite à contacter l’assistance plutôt que de proposer une dérogation.

Teasa permet-il de contourner le filtre de Character.AI ?

Non. Teasa est une application distincte avec ses propres conditions, notamment un âge minimum de 13 ans et son propre examen de modération pour les créations publiques. Jouer sur Teasa ne change pas ce que Character.AI autorise sur sa plateforme et ne contourne pas ses règles.