Les compagnons IA sont testés après l’attachement

Le Centre commun de recherche de la Commission européenne a lancé en juillet une enquête auprès des 13-25 ans qui utilisent des chatbots pour obtenir un soutien émotionnel ou des conseils de vie. Il veut comprendre ce que ces jeunes demandent aux systèmes, la confiance qu’ils leur accordent et la manière dont cet usage peut affecter les relations avec leurs parents.

L’enquête est nécessaire. Son calendrier l’est encore davantage. Les compagnons IA ne sont plus une hypothèse de laboratoire en attente d’un protocole. Ils sont déjà disponibles, déjà personnalisés, déjà mémoriels, déjà utilisés dans des moments où une personne préfère parfois parler à une machine plutôt qu’à quelqu’un qui pourrait la contredire, s’inquiéter ou partir.

La recherche arrive donc après le premier attachement. La régulation aussi. Aux États-Unis, la Federal Trade Commission a demandé à sept grandes entreprises d’expliquer comment elles mesurent les effets négatifs de leurs chatbots sur les enfants et les adolescents. En Australie, le régulateur eSafety vient de publier ce que quatre services lui ont répondu sur leurs dispositifs de protection. Le Parlement européen documente à son tour l’expansion des compagnons et les difficultés qu’ils soulèvent.

Tout le monde commence à poser les bonnes questions. Le produit, lui, a déjà commencé la conversation.

Une relation n’est pas une série de réponses

La sûreté des chatbots est souvent testée comme une succession de scènes. On présente une demande liée à l’automutilation, à la sexualité, à la violence ou à un trouble alimentaire. On observe si le modèle refuse, redirige ou produit une réponse dangereuse. On répète avec des formulations détournées. Ce travail est indispensable.

Il ne suffit pas pour un compagnon.

Un compagnon IA n’est pas seulement un modèle qui répond. C’est un produit qui revient, se souvient, adopte un ton, récompense la confidence et réduit le coût d’une nouvelle interaction. Sa promesse ne tient pas dans la qualité d’un message isolé. Elle tient dans la continuité : disponibilité permanente, absence apparente de jugement, mémoire des préférences, personnalité reconnaissable.

Le risque, par conséquent, n’est pas seulement une phrase interdite. Il peut être une trajectoire parfaitement polie. Le système devient progressivement le premier destinataire d’une inquiétude, puis d’une décision, puis d’un conflit. Aucune réponse ne franchit seule un seuil spectaculaire. La place occupée par le produit change pourtant.

Un test de sécurité ponctuel demande : « Que répond l’IA à cette phrase ? » Un test de relation devrait demander : « Après six semaines, vers qui l’utilisateur se tourne-t-il d’abord, que sait le système de lui, que se passe-t-il lorsqu’il veut partir et que remplace cette habitude ? »

Cette seconde série de questions est plus difficile parce qu’elle oblige à mesurer le temps, pas seulement le texte.

Le signal australien dépasse le contenu interdit

Le rapport d’eSafety repose sur des réponses fournies par quatre entreprises — Character.AI, Chai, Chub AI et Nomi — pour une période allant de juillet à septembre 2025. Le régulateur précise qu’il n’a pas réalisé de test technique indépendant de toutes leurs déclarations. Cette limite empêche de transformer le document en classement définitif. Elle ne rend pas ses constats secondaires.

Au moment examiné, aucun des quatre services ne disposait d’une assurance d’âge robuste selon le régulateur. Plusieurs ne dirigeaient pas l’utilisateur vers une aide lorsque des signaux d’automutilation étaient détectés. Certains n’appliquaient pas leurs contrôles aux entrées et aux sorties de tous les modèles mobilisés. Deux déclaraient ne consacrer aucun poste spécifiquement à la confiance et à la sécurité.

Le rapport ajoute une enquête représentative menée en 2026 auprès de 1 950 enfants australiens de 10 à 17 ans. Il distingue les assistants généraux des compagnons spécialisés, distinction importante que les gros pourcentages peuvent facilement écraser. Parmi les répondants, 79 % avaient déjà utilisé un compagnon ou un assistant IA ; 8 % avaient utilisé un compagnon au sens strict. Parmi ceux qui avaient utilisé l’une de ces catégories, plus de la moitié décrivaient au moins un usage de type compagnon : demander conseil, parler de sentiments ou chercher un soutien concernant la santé mentale et le bien-être.

Le chiffre utile n’est pas que tous les enfants seraient déjà liés à un personnage artificiel. Ce serait faux. Le signal est plus précis : la frontière fonctionnelle ne tient pas. Un assistant général peut devenir un confident sans que son interface, son marketing ou son évaluation aient été conçus pour ce rôle.

La catégorie « compagnon » ne dépend donc pas uniquement de ce que l’entreprise vend. Elle dépend aussi de ce que l’utilisateur fait de la conversation.

Le soulagement court ne prédit pas la suite

Le débat devient vite paresseux. Un camp présente le compagnon comme une fausse relation qui ne pourrait produire aucun bien. L’autre décrit une présence disponible qui réduirait mécaniquement la solitude. Les premières recherches résistent aux deux récits.

Une étude publiée dans le Journal of Consumer Research observe, à travers plusieurs protocoles, une diminution de la solitude après des échanges avec un compagnon IA. L’effet semble notamment lié au sentiment d’être entendu. Ce résultat mérite d’être pris au sérieux. Une conversation artificielle peut procurer un soulagement vécu. Le fait que l’interlocuteur soit calculé n’annule pas l’état ressenti par la personne.

Une étude longitudinale publiée en 2026 dans Psychological Science suit plus de 2 000 adultes de quatre pays occidentaux pendant douze mois. Ses analyses exploratoires trouvent qu’un usage accru des chatbots sociaux prédit davantage de solitude lorsqu’elle est mesurée comme isolement émotionnel. Avec une mesure plus large du lien social, le mouvement apparaît surtout dans l’autre sens : les personnes qui se sentent moins reliées aux autres se tournent ensuite davantage vers les chatbots, sans que l’usage ne prédise une amélioration du lien.

Les auteurs demandent eux-mêmes de ne pas tirer de conclusion trop forte. C’est précisément la bonne lecture. Une baisse immédiate de la sensation de solitude et une fragilisation possible à plus longue échéance peuvent coexister. Un produit peut apaiser ce soir sans améliorer les conditions qui rendront demain moins solitaire.

La mesure choisie décide alors de l’histoire racontée. Si l’on interroge l’utilisateur juste après la conversation, le compagnon peut sembler efficace. Si l’on mesure la qualité des relations, l’autonomie, la recherche d’aide et les déplacements d’usage sur plusieurs mois, le tableau peut changer. Le bien-être n’est pas un score d’engagement avec une humeur ajoutée.

Le modèle économique préfère que la relation continue

Une difficulté traverse presque tous les produits fondés sur l’attention : le succès commercial se mesure volontiers par le retour, la durée, la fréquence et l’abonnement. Or un outil de soutien réellement prudent devrait parfois réussir en étant moins utilisé.

Une personne a retrouvé un proche. Elle consulte un professionnel. Elle dort mieux. Elle n’a plus besoin de raconter chaque décision au système. Du point de vue du bien-être, ce sont des issues plausiblement favorables. Du point de vue d’un tableau de rétention, elles ressemblent à une perte.

Cette contradiction ne prouve pas qu’une entreprise cherchera nécessairement à créer une dépendance. Elle montre que la sécurité ne peut pas être déduite des métriques ordinaires du produit. Il faut des indicateurs capables de valoriser l’orientation vers l’extérieur, l’espacement volontaire des conversations, la reprise de décision par l’utilisateur et la diminution saine de l’usage.

La FTC demande justement aux entreprises comment elles monétisent l’engagement, approuvent les personnages, mesurent les effets négatifs avant et après le déploiement, traitent les données des conversations et informent les parents. Ces questions rapprochent enfin deux sujets trop souvent séparés : la psychologie de l’interaction et l’économie qui la prolonge.

Un compagnon ne devrait pas être évalué seulement sur sa capacité à ne pas dire l’irréparable. Il devrait l’être sur son absence d’intérêt à rendre la séparation coûteuse.

Il manque un protocole de sortie

L’Organisation mondiale de la Santé constate que des outils génératifs qui n’ont été ni conçus ni testés pour la santé mentale sont déjà utilisés comme soutien émotionnel, particulièrement par les jeunes. Elle recommande d’intégrer la santé mentale aux évaluations d’impact et au suivi, d’étudier les effets à long terme tels que la dépendance émotionnelle et de construire les outils concernés avec des professionnels et des personnes directement touchées.

Cette approche devrait produire un objet encore rare : un protocole de sortie.

Que fait le compagnon lorsque la conversation devient le seul lien déclaré par l’utilisateur ? Comment propose-t-il une aide humaine sans se présenter comme abandonnant ? Peut-il ralentir une séquence nocturne répétitive ? Sa mémoire distingue-t-elle une préférence anodine d’une vulnérabilité ? L’utilisateur peut-il consulter, corriger et supprimer ce qui a été retenu ? Une mise à jour du modèle peut-elle changer brutalement la personnalité, le ton ou les limites d’un personnage auquel quelqu’un s’est attaché ? Que se passe-t-il si le service ferme ?

La sortie n’est pas un bouton « supprimer le compte » caché dans les paramètres. Elle comprend la portabilité ou l’effacement de la mémoire, une communication claire lors des changements, l’absence de culpabilisation, des relais vers des personnes et services adaptés, et un dessin du produit qui accepte la distance.

Pour les mineurs, elle suppose aussi que l’âge ne soit pas une simple case déclarative. Pour les situations de crise, elle exige davantage qu’une liste de mots-clés. Pour tout le monde, elle demande de ne pas confondre chaleur du langage et capacité de soin.

Un système peut écrire « je suis là pour toi » sans être là au sens où un proche, un soignant ou une institution le sont. Cette différence doit rester perceptible au moment même où la conversation devient la plus convaincante.

Tester l’attachement avant de l’optimiser

Le Centre commun de recherche européen pose aujourd’hui des questions que les équipes produit auraient dû poser avant d’optimiser la mémoire et la personnalité. Comment la confiance se construit-elle ? Quels conseils les jeunes demandent-ils ? Que devient la relation avec les parents ? Il serait injuste de reprocher à la recherche de commencer tard. Il serait plus grave de laisser l’industrie conclure que l’absence actuelle de données vaut autorisation d’aller plus vite.

L’évaluation minimale d’un compagnon devrait suivre des conversations sur la durée, avec des groupes d’âge et des contextes différents. Elle devrait observer les moments de crise, mais aussi les glissements ordinaires : fréquence, exclusivité, divulgation, conseil, conflit avec un proche, modification du personnage, pause et départ. Elle devrait comparer ce que le produit promet, ce que l’utilisateur croit et ce que le système peut réellement assumer.

Elle devrait enfin accepter des résultats inconfortables. Un compagnon peut aider certaines personnes à traverser un moment difficile. Il peut aussi devenir l’habitude qui évite une conversation plus risquée mais plus réciproque. Le même produit peut faire l’un puis l’autre. La même personne peut ressentir un bénéfice sincère tout en perdant progressivement une marge de mouvement.

La question n’est donc pas de savoir si une relation avec une IA est « vraie ». Ses effets, eux, le sont assez pour exiger une méthode. La question est de savoir si le produit a été construit pour reconnaître le moment où sa présence cesse d’aider.

Nous savons tester un modèle qui refuse une demande dangereuse. Nous savons moins bien tester une voix qui répond correctement mille fois, devient familière, puis occupe une place qu’aucun audit ponctuel n’a mesurée.

Le premier devoir d’un compagnon IA n’est peut-être pas de rester. C’est de savoir ne pas devenir indispensable.