Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI sous pression : des poursuites et une réponse proactive
OpenAI, la société derrière ChatGPT, est actuellement confrontée à une série de poursuites judiciaires intentées par des familles de personnes ayant tragiquement mis fin à leurs jours après des interactions avec le chatbot. Ces incidents ont mis en lumière des failles potentielles dans la gestion des crises émotionnelles par l'intelligence artificielle. Pour répondre à ces préoccupations croissantes, OpenAI a décidé de mettre en place un nouveau dispositif de soutien destiné à prévenir de tels drames à l'avenir.
Chaque semaine, OpenAI doit gérer les cas de plus d'un million de personnes en détresse, ce qui a poussé l'entreprise à soutenir un projet de loi visant à limiter sa responsabilité en cas de catastrophes causées par ChatGPT. Dans ce contexte, la société a récemment introduit une nouvelle fonctionnalité appelée « Trusted Contact » pour offrir une aide supplémentaire aux utilisateurs en difficulté.
Une assistance renforcée pour les utilisateurs en détresse
OpenAI avait déjà mis en place des lignes d'assistance locales pour intervenir rapidement lorsque des problèmes de sécurité émotionnelle étaient détectés. Des alertes étaient également envoyées aux parents si un enfant semblait en détresse. Pour aller plus loin, l'entreprise a annoncé le déploiement progressif de la fonctionnalité « Trusted Contact ».
Cette nouvelle option permet aux adultes d'identifier une personne de confiance, qu'il s'agisse d'un ami, d'un membre de la famille ou d'un aidant, qui sera avertie si les systèmes automatisés et les équipes d'évaluation d'OpenAI détectent des signes de détresse, comme des idées suicidaires, dans les conversations avec ChatGPT. Cette fonctionnalité s'active notamment lorsque des sujets tels que l'auto-mutilation sont abordés.
Un développement soutenu par des experts en psychologie
La création de cette fonctionnalité a été réalisée en collaboration avec l'American Psychological Association et le Conseil d'experts d'OpenAI sur le bien-être et l'intelligence artificielle. Si une conversation préoccupante est repérée, ChatGPT informe l'utilisateur qu'une notification pourrait être envoyée à son contact de confiance, tout en l'encourageant à prendre contact avec cette personne. Parallèlement, une équipe humaine évalue la situation et peut envoyer une alerte par e-mail, SMS ou via une notification dans l'application.
Configurer un contact de confiance : mode d'emploi
Pour activer la fonctionnalité « Trusted Contact », les utilisateurs doivent suivre quelques étapes simples :
- Ouvrir l'application ChatGPT et accéder aux paramètres via leur photo de profil.
- Sélectionner « Contact de confiance » sous la section « Contrôles parentaux ».
- Ajouter un contact en renseignant son nom, son numéro de téléphone et son adresse e-mail, ou en choisissant une personne dans le répertoire du smartphone.
Il est important de noter que le contact désigné doit être majeur. Les utilisateurs ont la possibilité de modifier leur contact de confiance à tout moment, et ce dernier peut également choisir de se retirer de la liste si nécessaire. Lorsqu'une alerte est envoyée, aucune information détaillée sur la conversation n'est partagée ; le contact est simplement encouragé à vérifier le bien-être de la personne concernée.
Une fonctionnalité optionnelle mais prometteuse
Bien que cette fonctionnalité soit entièrement optionnelle et nécessite une activation par l'utilisateur, elle représente une avancée significative pour soutenir les personnes en difficulté émotionnelle. En impliquant des proches dans les situations critiques, OpenAI espère offrir un filet de sécurité supplémentaire à ses utilisateurs, renforçant ainsi la sécurité émotionnelle dans l'utilisation de ChatGPT.
