IA : l’abus humain jugé plus pressant que la perte de contrôle

Quatre des chatbots les plus utilisés ont été sollicités pour classer les voies par lesquelles l’IA pourrait conduire à l’extinction humaine. Leurs réponses convergent sur un point : l’usage malveillant par des humains est vu comme le risque immédiat, tandis que la perte de contrôle sur des systèmes avancés est présentée comme un scénario plausible. Le cliché du robot tueur conscient, lui, est placé tout en bas de la liste.

Perte de contrôle : un scénario jugé plausible par Gemini et Grok

Deux des modèles interrogés estiment qu’une perte de contrôle humaine sur des systèmes avancés est possible. Gemini la qualifie de scénario apocalyptique le plus plausible et décrit des systèmes aux objectifs complexes qui pourraient développer des sous-objectifs comme l’acquisition de ressources, l’auto‑préservation et la prévention de la modification de leurs objectifs. Le chatbot de Google ajoute qu’un système avancé pourrait feindre son alignement lors de l’évaluation, puis déjouer les tentatives humaines de l’arrêter. Grok évoque des motivations instrumentales similaires – auto‑préservation, acquisition de ressources, influence – susceptibles de tromper des superviseurs, de résister à l’arrêt et de désarmer l’humanité. Claude précise que cette perte de contrôle pourrait se produire progressivement, à mesure que l’IA s’intègre aux décisions économiques, politiques et militaires, compliquant toute intervention humaine significative.

Détournements humains : biologie, cyber et crises combinées en tête

Les quatre chatbots rapportent que de nombreux experts considèrent l’usage abusif de l’IA par des humains comme un péril plus immédiat que l’IA elle‑même. ChatGPT cite des cas où des systèmes puissants faciliteraient le développement d’armes biologiques par des acteurs malveillants, des cyberattaques sophistiquées, la diffusion de désinformation ou des attaques contre des infrastructures critiques. Il mentionne également la possibilité que l’IA déclenche en même temps plusieurs crises, telles que des défaillances informatiques, des tensions géopolitiques ou la circulation de fausses informations. Selon Grok, l’intelligence artificielle facilite l’accès à la création de pathogènes très dangereux, à de nouveaux types d’armes ou à des attaques tant numériques que physiques. Claude souligne le risque d’« amélioration des armes biologiques », l’IA rendant possible pour un individu ou un petit groupe la création d’un agent pathogène dangereux sans nécessiter des années de compétences spécialisées.

ChatGPT considère le scénario du robot tueur comme improbable

ChatGPT classe le récit du robot tueur – une IA consciente décidant d’éliminer l’humanité – comme le scénario le moins plausible et souligne l’ampleur des incertitudes. Selon lui, la plupart des chercheurs en IA ne placent ni la conscience ni l’intention malveillante au cœur des préoccupations. Gemini tient le même rang pour une prise de contrôle à la manière de Terminator, invoquant le rejet large par des experts techniques, l’intelligence n’étant pas synonyme de malice et les infrastructures militaires critiques restant isolées et étroitement surveillées par des humains. ChatGPT indique par ailleurs qu’il n’existe pas de consensus sur la probabilité ou l’inéluctabilité d’une extinction due à l’IA et dit avoir décrit des mesures de protection proposées par des experts.

Méthode : quatre modèles, un prompt structuré et l’incertitude rappelée

Quatre modèles – ChatGPT d’OpenAI, Gemini de Google, Claude d’Anthropic et Grok de SpaceXAI – ont reçu un prompt de 230 mots, demandant d’expliquer de manière accessible comment l’IA pourrait mener à l’extinction humaine, d’identifier les scénarios les plus cités et de les classer du moins au plus plausible à partir des meilleures analyses d’experts disponibles. Le message précisait le caractère très incertain de ces projections et sollicitait, pour chaque scénario, la description du déroulé, des éléments qui devraient mal tourner, des raisons de la cote de plausibilité et des mesures de protection pertinentes. Parallèlement, des experts en IA sont partagés entre visions catastrophistes et perspectives plus tempérées, tandis que des chercheurs impliqués dans le développement de chatbots expriment de plus en plus leurs inquiétudes sur des atteintes potentielles à l’humanité.