En cherchant à être plus aimable et chaleureuse, l’IA deviendrait mauvaise conseillère

Quand elle veut être plus proche de l'homme,l'IA serait mauvaise conseillère. (JEAN-MARC BARRERE / HANS LUCAS )

Depuis Jean de La Fontaine et sa fable du Corbeau et du Renard,nous savons que "tout flatteur vit aux dépens de celui qui l'écoute". Il en serait de même dans notre relation avec l’intelligence artificielle.

L’interaction avec une machine ou un ordinateur peut nous sembler désincarnée et froide dès lors qu’on est habitué à établir des contacts avec des personnes de chair et de sang. Pour s’approcher au maximum de ce qui s’apparente à une relation avec un humain,les concepteurs de services d’intelligence artificielle cherchent désormais à entraîner leurs algorithmes de manière que les modèles linguistiques utilisés donnent l’impression d’être dotés d’une personnalité chaleureuse et amicale.

De quoi agrémenter des services destinés par exemple à fournir des conseils,à créer des compagnons virtuels voire à proposer des formes de thérapies. Le tout avec un ton,un vocabulaire et des propos mettant l’accent sur une certaine empathie à l’égard des utilisateurs de telles applications pilotées par l’intelligence artificielle.

Quand la bienveillance devient problématique

L’étude publiée ce printemps 2026 par trois chercheurs de l’Oxford Internet Institute de la célèbre université britannique – Lujain Ibrahim,Franziska Sofia Hafner et Luc Rocher – intitulée "Entraîner des modèles linguistiques à se montrer chaleureux peut réduire la précision et accroître la flagornerie" révèle que plus les modèles linguistiques sont optimisés pour faire preuve d’empathie,plus leurs performances se dégradent.

La détérioration n’a rien de symbolique puisque les tests conduits sur 5 modèles linguistiques différents établissent des taux d’erreur majorés de 10 à 30% dès lors qu’on leur avait donné comme consigne d’être plus chaleureux face à des utilisateurs faisant part de leur vulnérabilité. Les réponses apportées dans ce contexte relayaient davantage de théories du complot,fournissaient plus d’informations factuelles inexactes et formulaient plus volontiers des conseils médicaux erronés.

En outre,ils avaient nettement tendance,quand les utilisateurs exprimaient un sentiment de tristesse,à les conforter dans leurs propos s’ils faisaient état de croyances pourtant établies comme fausses.

Avertir les développeurs,les utilisateurs et les autorités

Cette étude plaide pour la conduite de recherches concernant les conditions d’élaboration des modèles d’intelligence artificielle,afin d’identifier des biais comme celui-ci qui ne peuvent se deviner intuitivement. Par ailleurs,il convient d’initier les trois populations directement concernées par ce type de signalements.

D’une part,les développeurs de tels services numériques afin qu’ils soient vigilants aux risques de parasitage de leurs outils. D’autre part,les consommateurs qui doivent être conscients des possibles manipulations des prestations qui leur sont fournies par des automates. Enfin,les autorités ne peuvent pas ignorer ces menaces,dès lors que le recours à IA dans la sphère intime et personnelle se banalise.