Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une nouvelle fonctionnalité pour renforcer la sécurité des utilisateurs
OpenAI a récemment introduit une nouvelle fonctionnalité dans ChatGPT, baptisée Contact de Confiance. Cette option de sécurité, bien que facultative, permet aux utilisateurs adultes de désigner une personne de confiance, qu'il s'agisse d'un ami, d'un membre de la famille ou d'un soignant. L'objectif est de notifier cette personne si le système détecte des discussions préoccupantes liées à l'automutilation. En intégrant cette fonctionnalité, OpenAI souhaite offrir un soutien supplémentaire aux utilisateurs en crise en facilitant la connexion avec une personne de confiance.
Cette initiative s'appuie sur les précédentes notifications de sécurité destinées aux parents ou tuteurs d'adolescents. Désormais, toute personne âgée de plus de 18 ans peut choisir d'ajouter un Contact de Confiance pour recevoir des alertes en cas de signes de détresse. Cette extension des options de sécurité vise à renforcer le réseau de soutien autour des utilisateurs adultes.
Comment fonctionne le Contact de Confiance
Selon les experts, le lien social est un facteur crucial pour réduire le risque de suicide. Contact de Confiance est conçu pour encourager les utilisateurs à se connecter avec une personne en qui ils ont déjà confiance. Bien qu'il ne remplace pas les soins professionnels, il constitue une couche supplémentaire de protection. ChatGPT continue de recommander aux utilisateurs de contacter des lignes d'assistance ou des services d'urgence si nécessaire.
Les utilisateurs peuvent ajouter un adulte comme Contact de Confiance via les paramètres de ChatGPT. En Corée du Sud, les utilisateurs doivent avoir au moins 19 ans pour utiliser cette fonctionnalité. La personne désignée recevra une invitation expliquant son rôle et devra l'accepter dans un délai d'une semaine. Si elle refuse, l'utilisateur peut choisir une autre personne.
Lorsque le système détecte des discussions potentiellement préoccupantes sur l'automutilation, ChatGPT informe l'utilisateur de la possibilité de notifier son Contact de Confiance et l'encourage à le contacter. Une équipe spécialisée examine ensuite la situation. Si elle estime qu'il y a un risque sérieux, une notification est envoyée au Contact de Confiance par e-mail, message texte ou via l'application s'il a un compte ChatGPT.
La notification est volontairement succincte pour protéger la vie privée de l'utilisateur. Elle n'inclut pas de détails de chat ou de transcriptions, mais indique la raison générale de l'alerte et encourage le Contact de Confiance à prendre des nouvelles. Des guides d'experts sont également fournis pour aider à gérer ces conversations sensibles.
Les utilisateurs peuvent modifier ou retirer leur Contact de Confiance à tout moment, et ce dernier peut également se retirer via le centre d'aide. Bien que ces situations soient rares, le système est conçu pour une réponse rapide. Chaque notification subit un examen humain formé avant d'être envoyée, et OpenAI s'efforce d'examiner ces notifications de sécurité en moins d'une heure.
Sécurité au cœur de chaque interaction
En plus de Contact de Confiance, ChatGPT intègre plusieurs mesures de sécurité pour gérer les conversations sensibles. Le système encourage les utilisateurs à contacter les services d'urgence ou des professionnels de santé mentale en cas de besoin.
OpenAI a collaboré avec plus de 170 experts en santé mentale pour améliorer la détection des signes de détresse et guider les utilisateurs vers un soutien approprié. ChatGPT peut également suggérer de faire une pause après une utilisation prolongée pour favoriser des habitudes technologiques saines.
Le système est formé pour refuser les demandes nuisibles, telles que des instructions pour l'automutilation, et redirige les utilisateurs vers des ressources de crise locales.
Vers une amélioration continue de la sécurité
Contact de Confiance s'inscrit dans les efforts d'OpenAI pour développer des systèmes d'IA qui apportent une aide réelle dans les moments difficiles. L'entreprise continue de collaborer avec des cliniciens, des chercheurs et des décideurs pour améliorer la réponse des systèmes d'IA face à la détresse des utilisateurs. L'objectif est de garantir que l'IA ne fonctionne pas isolément, mais qu'elle contribue à connecter les utilisateurs aux soins et aux ressources essentielles.