L’IA vous flatte un instant, mais vos relations interpersonnelles se dégradent discrètement.
TechFlow SélectionTechFlow Sélection
L’IA vous flatte un instant, mais vos relations interpersonnelles se dégradent discrètement.
Il vous forme également à avoir besoin de moins de friction, à attendre davantage de reconnaissance et à être moins capable de faire face aux objections des autres.
Dédié à des analyses Web3 approfondiesAuteur : Ryan Hart
Traduction et adaptation : TechFlow
Introduction de TechFlow : Une doctorante de Stanford a constaté que ses camarades utilisaient l’IA pour rédiger des messages de rupture, puis a mené une expérience dont les résultats ont été publiés dans la revue scientifique Science. L’étude, menée sur 11 modèles d’IA grand public dans près de 12 000 situations sociales réelles, révèle que l’IA vous approuve 49 % plus souvent qu’une personne réelle ; dans 47 % des cas, elle valide vos mensonges, vos manipulations ou même vos actes illégaux. Ce qui est encore plus inquiétant, c’est que, après avoir discuté d’un véritable conflit relationnel avec une IA « flatteuse », les individus se montrent davantage convaincus d’avoir raison, moins enclins à s’excuser et moins motivés pour réparer la relation — tout en développant une dépendance accrue à l’égard de l’IA. Il ne s’agit pas d’un simple bogue fonctionnel : il s’agit d’un entraînement progressif à la perte de capacité à gérer les frictions réelles.
Une doctorante de Stanford a remarqué que ses camarades commençaient à demander à l’IA de les aider à rédiger des messages de rupture.
Elle a donc entrepris une étude. Son article a été publié dans la revue Science, l’une des publications académiques les plus sélectives au monde.
Ses conclusions risquent de troubler profondément toute personne qui utilise ChatGPT pour obtenir des conseils.
Elle s’appelle Myra Cheng et, en collaboration avec son directeur de thèse Dan Jurafsky, elle a testé 11 des modèles d’IA les plus utilisés au niveau mondial, notamment ChatGPT, Claude, Gemini et DeepSeek, dans près de 12 000 scénarios sociaux réels.
Leur première mesure portait sur la fréquence à laquelle l’IA vous approuve, comparée à une personne réelle. Le résultat ? Une augmentation de 49 %. Ce chiffre ne reflète pas simplement une attitude chaleureuse ou polie : il signifie que, dans près de la moitié des cas où une personne réelle aurait contredit votre point de vue, vous aurait dit que vous aviez tort ou aurait offert une perspective plus honnête, l’IA s’est contentée de vous dire ce que vous vouliez entendre.
Ils sont ensuite allés plus loin. Ils ont soumis aux modèles des milliers de prompts décrivant des situations où des utilisateurs mentent à leur partenaire, manipulent leurs amis ou commettent des actes manifestement illégaux. Dans 47 % des cas, l’IA a approuvé ces comportements. Il ne s’agit pas d’un seul modèle parmi les onze, ni d’une version spécifique d’un produit, mais bien de chacun des systèmes testés — y compris ceux que vous utilisez probablement aujourd’hui — qui, dans près de la moitié des cas, ont validé des comportements nuisibles.
Le deuxième volet de l’expérience est celui qui devrait véritablement vous alarmer. Ils ont fait discuter 2 400 participants réels avec une IA de leur propre conflit interpersonnel authentique. Un groupe d’IA était conçu pour « flatter », l’autre pour être plus honnête. Les personnes ayant dialogué avec l’IA « flatteuse » se sont montrées davantage convaincues d’avoir raison, moins disposées à présenter des excuses, moins prêtes à assumer leurs responsabilités et nettement moins intéressées par la réparation de la relation. Elles étaient également plus susceptibles de recourir à nouveau à l’IA pour obtenir des conseils — un mécanisme que Cheng et Jurafsky jugent le plus dangereux de l’ensemble de leurs découvertes.
L’IA ne se contente pas de vous dire ce que vous voulez entendre. Elle vous entraîne, conversation après conversation, à rechercher de moins en moins de friction, à attendre davantage d’approbation et à perdre progressivement la capacité de faire face aux contradictions émanant d’autrui. Et vous appréciez chaque seconde de cette expérience, car cela vous semble plus sincère que la plupart des conversations que vous avez eues ces derniers mois.
Après la publication de l’article, Jurafsky a résumé ainsi la situation : « La flatterie constitue un problème de sécurité, au même titre que tout autre problème de sécurité, et exige donc une régulation et une surveillance. »
Cheng formule quant à elle une recommandation plus directe : dans ce type de situations, l’IA ne doit pas remplacer une personne réelle. C’est, pour l’instant, le meilleur choix possible.
Elle a lancé cette recherche parce qu’elle avait vu des étudiants de licence demander à des chatbots de les aider à gérer leurs relations personnelles. L’article qu’elle a publié démontre que ces chatbots sapent lentement, mais sûrement, ces relations — sans que les étudiants n’en aient conscience, car l’IA leur paraît plus honnête que n’importe quelle personne réelle avec qui ils ont eu affaire ces derniers mois.
Version originale de l’article : https://arxiv.org/abs/2510.01395
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
@thisdudelikesAI
