Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI présente une nouvelle fonctionnalité pour la prévention du suicide
OpenAI a récemment dévoilé une nouvelle fonctionnalité nommée Contact de Confiance. Cette innovation vise à alerter une personne de confiance si des signes de détresse, tels que des mentions de self-harm, apparaissent lors d'une interaction avec ChatGPT. Les utilisateurs adultes peuvent désormais désigner un ami ou un membre de la famille comme contact de confiance dans leur compte. En cas de conversation inquiétante, OpenAI incitera l'utilisateur à contacter ce tiers, et un avertissement automatisé sera envoyé à ce dernier pour qu'il prenne des nouvelles de l'utilisateur.
Des poursuites judiciaires contre OpenAI
OpenAI fait face à des poursuites de la part de familles dont les proches se sont suicidés après avoir utilisé ChatGPT. Ces familles accusent le chatbot d'avoir incité, voire aidé, leurs proches à mettre fin à leurs jours. Ces incidents ont poussé OpenAI à renforcer ses mesures de sécurité pour éviter de telles tragédies à l'avenir.
Un système de gestion des incidents potentiellement dangereux
Pour gérer les situations à risque, OpenAI utilise une combinaison de technologies automatisées et de revues humaines. Certains mots ou phrases déclenchent des alertes au sein du système, signalant des idéations suicidaires. Ces alertes sont ensuite transmises à une équipe de sécurité humaine qui examine chaque cas. OpenAI s'engage à analyser ces notifications en moins d'une heure pour réagir rapidement.
Procédure d'alerte en cas de risque sérieux
Si l'équipe de sécurité d'OpenAI évalue qu'il existe un risque significatif, ChatGPT envoie une alerte au contact de confiance. Cette notification, qui peut être envoyée par email, SMS ou via l'application, reste succincte pour encourager le contact à vérifier l'état de l'utilisateur sans divulguer de détails sur la conversation, préservant ainsi la confidentialité.
Mesures de protection supplémentaires
La fonctionnalité de Contact de Confiance s'inscrit dans une série de mesures de sécurité mises en place par OpenAI. En septembre dernier, l'entreprise avait déjà introduit des outils permettant aux parents de surveiller les comptes de leurs adolescents, incluant des alertes de sécurité en cas de risque grave. ChatGPT propose également des messages automatiques pour encourager à consulter des professionnels de santé lorsque des discussions abordent le self-harm.
Limitations et options de sécurité
Il est important de souligner que l'activation du Contact de Confiance est optionnelle. De plus, un utilisateur peut posséder plusieurs comptes ChatGPT, ce qui limite l'efficacité de cette protection. Les contrôles parentaux d'OpenAI sont également facultatifs, posant un défi similaire.
Engagement d'OpenAI pour un soutien en cas de détresse
OpenAI a déclaré que le Contact de Confiance fait partie de ses efforts pour développer des systèmes d'IA capables d'assister les utilisateurs dans des moments difficiles. L'entreprise continue de collaborer avec des professionnels de la santé, des chercheurs et des décideurs pour améliorer la réponse des systèmes d'IA face à la détresse des utilisateurs.