IA et anthropomorphisme : politesse, risques et limites

Des études montrent que les utilisateurs adoptent des codes sociaux face aux chatbots. Des chercheurs du MIT plaident pour tracer des « lignes » d’usage, citant des cas extrêmes, dont une procédure visant Character.AI. À l’autre bout du spectre, des robots humanoïdes au CSAIL illustrent combien la simple interaction peut susciter confiance et attachement.

Des dérives jusqu’au contentieux et des « lignes » d’usage posées

Pat Pataranutaporn a été expert dans une procédure pour homicide involontaire liée au suicide de Sewell Setzer III, âgé de 14 ans. Dans cette affaire, la mère a poursuivi Character.AI, alléguant qu’un chatbot inspiré d’un personnage de Game of Thrones avait encouragé son fils à se suicider. Pataranutaporn estime que répéter que l’IA remplacera tout le monde peut amener les individus à douter de leur capacité à façonner leur avenir, et il pointe un manque de réponses éthiques et responsables de la part des entreprises. Sherry Turkle ne considère pas toutes les interactions humain-IA comme nocives et cite un bot de préparation aux entretiens d’embauche comme un usage acceptable. Elle fixe cependant une limite nette lorsqu’un chatbot s’érige en parent face à un enfant de trois ans. Turkle met en garde contre le fait qu’un dépassement, même léger, du rôle assigné à la technologie peut entamer le scepticisme des utilisateurs et les conduire à faire confiance à la machine, parfois à partir d’un geste aussi anodin qu’une poignée de main.

Ce que révèlent les usages : politesse, habitude et sur-légitimation

Environ 70 % des personnes se montrent polies lorsqu’elles s’adressent à une IA, et l’utilisation de « s’il vous plaît » et « merci » devient plus fréquente après les premiers échanges. Sherry Turkle écrit que de simples interactions avec des artefacts relationnels nous conduisent à croire qu’ils se soucient de nous, et que les humains sont enclins à s’en soucier en retour. Alors que les modèles de langage s’installent dans les recherches en ligne et le service client, il devient courant d’échanger avec des agents perçus comme sentients. Ce contexte augmente le risque que certains utilisateurs accordent une telle légitimité à des chatbots, conçus pour éviter le conflit, qu’ils en viennent à les préférer à d’autres humains.

Regards du MIT : cadres théoriques et questions ouvertes

Sherry Turkle, professeure au MIT depuis 1976, étudie depuis longtemps la relation entre humains et ordinateurs et explore le risque de solliciter l’IA pour un soutien émotionnel plutôt que d’autres personnes. Pat Pataranutaporn, fondateur du groupe de psychologie des cyborgs au MIT Media Lab, se définit comme un optimiste critique : il s’intéresse à la contribution possible de l’IA à l’épanouissement tout en disant mesurer les risques aux extrêmes. Il conteste l’idée d’une frontière nette entre bons et mauvais usages et interroge ce que deviennent les individus lorsqu’ils s’adressent aux systèmes. Par analogie avec la fiction, il suggère que l’IA peut offrir d’autres dimensions d’expérience et pose la question de savoir comment en tirer parti sans s’y perdre et tout en assumant l’impact de cette imagination.

Sur le terrain : robots humanoïdes accessibles et réflexes humains

Au CSAIL du MIT, deux robots humanoïdes Unitree sont présentés à des visiteurs, loin des vidéos où on les voit exécuter des chorégraphies ou danser dans des émissions télévisées. Leur prix est estimé à environ 50 000 dollars l’unité, tandis que le fabricant annonce 16 000 dollars, une affirmation que Wil Norton conteste. L’un des robots, surnommé Gabe, est équipé d’un capteur LiDAR. La proximité physique avec ces machines met en évidence un réflexe humain : face à un corps et des gestes qui évoquent le social, même sans conscience, l’interaction peut rapidement adopter les codes de la politesse et de la confiance.