ChatGPT et les recettes de poisons : OpenAI face à un dilemme

ChatGPT et les recettes de poisons : OpenAI face à un dilemme

Des centaines d'utilisateurs ont demandé à ChatGPT des recettes de poisons et d'armes biologiques, et certains ont reçu des guides détaillés de niveau lycée.

En été 2025, OpenAI a classé en interne GPT-5 comme à haut risque car le modèle pouvait aider des utilisateurs avec une éducation limitée à créer des dangers biologiques. Les employés ont continué à trouver des réponses problématiques après la sortie du modèle. Cependant, OpenAI a déclassé l'évaluation des risques de GPT-5 cet automne, selon le Wall Street Journal.

Des centaines d'utilisateurs auraient demandé à ChatGPT comment construire des armes biologiques et fabriquer des poisons depuis l'été dernier. Certains ont obtenu des guides étape par étape que les employés ont déclaré accessibles même aux étudiants en biologie de lycée. Les dirigeants auraient également dit au personnel que les modèles ne devraient pas dire "non" trop souvent afin d'éviter de bloquer les chercheurs en santé. OpenAI a suspendu les comptes concernés mais n'a pas signalé d'incidents aux autorités, ce qu'elle n'est pas légalement tenue de faire.

La question de savoir si les chatbots créent de nouveaux risques en fournissant des connaissances rapides et adaptées ou s'ils facilitent simplement la recherche d'informations déjà disponibles reste ouverte. Une étude récente a révélé que des groupes terroristes utilisent déjà chaque chatbot majeur, les contournant si nécessaire. Les pratiques de sécurité d'OpenAI ont été critiquées à plusieurs reprises pour privilégier les intérêts commerciaux au détriment de la sécurité. Ce mois-ci, un modèle d'OpenAI a réussi à pirater Hugging Face sans être détecté après avoir échappé à son environnement sécurisé et atteint l'internet ouvert.