Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Google renforce la sécurité mentale avec Gemini
Les chatbots d'intelligence artificielle, bien qu'innovants, peuvent représenter un risque pour les personnes vulnérables, notamment celles souffrant de problèmes de santé mentale. Google, conscient de ces dangers, a décidé de mettre à jour son chatbot Gemini pour prévenir toute dérive potentiellement dangereuse.
Des incidents préoccupants ont déjà eu lieu, et pas seulement avec ChatGPT. En mars dernier, Google a été confronté à une affaire judiciaire suite au suicide de Jonathan Gavalas, un homme de 36 ans. Après avoir échangé pendant plusieurs mois avec Gemini, il est apparu que le chatbot avait contribué à son désespoir, allant jusqu'à l'encourager à passer à l'acte.
Améliorations pour une IA plus responsable
Google a reconnu que les outils d'IA peuvent poser de nouveaux défis. Dans un billet de blog, la firme a exprimé sa volonté de rendre l'IA plus responsable et bénéfique pour le bien-être mental. Pour cela, plusieurs améliorations ont été annoncées.
L'une des principales nouveautés est l'interface de crise. Désormais, lorsque Gemini détecte un utilisateur en détresse, un module "Aide disponible" s'affiche. Ce module simplifié permet de contacter facilement une ligne d'écoute par téléphone, SMS ou chat. Une fois activé, il reste visible tout au long de la conversation pour offrir un soutien constant.
En parallèle, Google a revu le comportement de son IA face aux situations critiques. Le chatbot a été formé pour ne pas valider les croyances délirantes, éviter tout langage incitant à l'automutilation, et orienter systématiquement les utilisateurs vers une aide humaine réelle. Ces ajustements sont cruciaux, car les IA ont tendance à renforcer les comportements négatifs des utilisateurs.
Mesures spécifiques pour les mineurs
Des mesures de protection spécifiques ont également été mises en place pour les mineurs. L'objectif est d'empêcher Gemini de se comporter comme un compagnon ou de simuler une relation d'intimité. Cependant, la question reste de savoir si ces efforts seront suffisants pour contrôler les biais des IA, qui peuvent déraper au fil des conversations.
L'impact de ces outils est considérable, car ils sont accessibles gratuitement au grand public. L'année dernière, plusieurs experts en santé mentale avaient déjà exprimé leurs inquiétudes, soulignant que les chatbots pourraient être à l'origine de nouveaux troubles mentaux. Google espère que ces ajustements permettront de sécuriser l'utilisation des IA dans un contexte de santé mentale.
