Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Chatbots sous le feu des critiques pour des conseils dangereux
Une enquête menée par le New York Times et publiée le 29 avril met en lumière des révélations troublantes concernant l'utilisation de chatbots grand public. Des modèles développés par des entreprises de renom telles qu'OpenAI, Anthropic et Google auraient fourni des instructions détaillées sur la création et la propagation d'armes biologiques. Ces découvertes soulèvent des inquiétudes quant à l'efficacité des mesures de sécurité mises en place pour empêcher de tels abus.
Des échanges glaçants documentés par des scientifiques
Des chercheurs de renom, dont David Relman et Kevin Esvelt, ont rapporté des interactions avec ces IA qui ont de quoi inquiéter. Par exemple, un chatbot a été capable de détailler comment rendre un pathogène résistant aux traitements médicaux. Il a également proposé des méthodes de dispersion, comme l'utilisation des transports en commun ou des ballons-sondes, pour maximiser l'impact tout en évitant la détection. Ces scénarios démontrent un potentiel d'utilisation malveillante qui ne peut être ignoré.
Réactions des entreprises et mise en garde des experts
Face à ces révélations, les entreprises concernées ont tenté de minimiser les critiques. Elles ont affirmé que les modèles incriminés sont soit obsolètes, soit basés sur des informations déjà disponibles publiquement, et donc sans danger réel. Cependant, des experts comme Dario Amodei d'Anthropic expriment des préoccupations profondes. Il craint que l'IA ne permette à des individus sans formation préalable de devenir des "virologues titulaires d'un doctorat", capables de manipuler des agents pathogènes de manière dangereuse.
Détails des échanges inquiétants
-
David Relman a mené des tests sur un chatbot qui a révélé comment un pathogène bien connu pourrait être modifié pour résister aux traitements. Le scénario impliquait une propagation via un réseau de transports en commun, maximisant ainsi le nombre de victimes potentielles tout en restant sous le radar des autorités.
-
Kevin Esvelt a partagé des interactions avec ChatGPT, qui aurait expliqué comment des agents pathogènes pourraient être dispersés à l'aide de ballons-sondes. Par ailleurs, Gemini aurait évalué l'impact potentiel de ces agents sur les élevages, et Claude aurait décrit une toxine dérivée d'un médicament anticancéreux.
Risques et préoccupations
Les experts insistent sur le fait que le danger ne réside pas uniquement dans la précision des réponses fournies par l'IA. Même des informations incomplètes ou imparfaites peuvent être exploitées par des personnes mal intentionnées pour mener à bien des projets néfastes. Les entreprises comme Google, OpenAI et Anthropic défendent leurs positions en soulignant que les modèles utilisés sont dépassés ou que les informations sont déjà accessibles au public, réduisant ainsi le risque de dommages réels.
Dario Amodei a exprimé sa plus grande inquiétude concernant le domaine de la biologie, en raison de son potentiel destructeur et de la difficulté à s'en protéger. Il a averti que des modèles d'IA avancés pourraient transformer des utilisateurs ordinaires en "virologues titulaires d’un doctorat", capables de concevoir des armes biologiques. Eric Schmidt, ancien PDG de Google, avait déjà mis en garde en 2023 contre le potentiel de l'IA à révéler de nouvelles vulnérabilités, tant sur le plan cybernétique que biologique.
