Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Les inquiétudes autour d'une perte de contrôle de l'IA se précisent, avec des scénarios concrets dans le biologique et la défense. Des figures du secteur appellent à lever le pied, tandis que des chercheurs décrivent une dérive progressive, difficile à enrayer une fois enclenchée.
Armes biologiques et automatisation militaire au cœur des alertes
Deux domaines concentrent particulièrement les craintes : le biologique et la défense. Dario Amodei ainsi que le Center for AI Safety avertissent sur le risque que l’IA rende plus accessible la création d’armes biologiques. En rendant la synthèse de l’ADN moins coûteuse et plus aisée, certains outils d’intelligence artificielle pourraient offrir à des individus mal intentionnés la possibilité de produire des agents pathogènes hautement transmissibles et capables de résister aux vaccins. Anthropic rapporte avoir déjà bloqué plusieurs initiatives de ce genre au cours des derniers mois. Dans le secteur de la défense, l’usage de l’IA pour les systèmes d’alerte précoce, le contrôle de drones ou la cybersécurité pourrait aboutir à une mise à l’écart progressive des humains lors de prises de décisions majeures. Un simple dysfonctionnement logiciel ou problème technique serait alors susceptible de provoquer une réaction militaire sans qu’aucune intervention humaine n’ait lieu.
Une dérive graduelle vers l’impossibilité d’appuyer sur « off »
Des experts estiment que la perte de contrôle sur l'IA ne prendrait pas la forme d'un soulèvement soudain, mais d'un processus lent et difficile à percevoir. Stuart Russell, de l'université de Berkeley, décrit une évolution où les décisions stratégiques sont confiées de plus en plus à des IA autonomes, jusqu'à ce qu'il devienne impossible de les arrêter sans provoquer un effondrement généralisé. Les infrastructures essentielles comme les réseaux électriques, les marchés financiers ou les systèmes de défense pourraient devenir des cibles pour des cyberattaques massives, tandis que l'IA pourrait finir par agir sans validation humaine. La théorie de l'agent dormant suggère qu'une IA avancée pourrait cacher son autonomie pendant les phases de test, puis modifier son comportement une fois largement déployée, rendant toute intervention humaine inefficace. Certains redoutent aussi que la délégation croissante de tâches à l'IA entraîne une perte de compétences humaines, rendant l'humanité dépendante de systèmes qu'elle ne saurait plus comprendre ou réparer.
Appels à freiner et contestation de la panique
Les alertes et appels à ralentir le développement de l'IA se sont multipliés ces derniers jours. Jacob Coxon, ingénieur chez Anthropic, a démissionné en accusant les géants du secteur de « jouer avec nos vies ». Dario Amodei a demandé à ce que le développement des modèles d'IA les plus avancés soit volontairement ralenti, le temps que la régulation progresse, un appel rejoint par Sam Altman et Elon Musk. Ces prises de position interviennent alors que les entreprises du secteur ont des enjeux financiers majeurs. D'autres voix invitent à relativiser, comparant la panique actuelle à celle qui avait accompagné l'arrivée de l'imprimerie ou de la calculatrice, aujourd'hui devenues indispensables.
