L'IA progresse : agir avant qu'il ne soit trop tard

L'urgence de l'anticipation dans le domaine de l'IA

La progression rapide des capacités de l'intelligence artificielle (IA) impose une anticipation similaire à celle nécessaire dans le domaine de la défense. Les experts estiment que d'ici 2030, les systèmes d'IA pourraient dépasser les capacités humaines dans de nombreux domaines, posant ainsi un défi de contrôle majeur. Cette situation nécessite une réflexion immédiate pour éviter un emballement technologique incontrôlable.

Des projets militaires illustrant l'anticipation

Le 2 mars dernier, le président de la République a dévoilé le nom de l'Invincible, un sous-marin nucléaire de troisième génération conçu pour naviguer jusqu'en 2090. Quelques semaines plus tard, le 18 mars, il baptisait le France Libre, un porte-avions de nouvelle génération dont l'entrée en service est prévue pour 2038. Ces projets démontrent la capacité de la France à engager des ressources considérables sur plusieurs décennies pour garantir sa souveraineté. Cette approche proactive est essentielle pour anticiper les menaces futures.

L'importance de la préparation en amont

Il est crucial de dimensionner une réponse avant que le besoin ne se fasse sentir. Une fois que la menace est présente, il est souvent trop tard pour réagir efficacement. Cette nécessité d'anticipation s'applique également à l'intelligence artificielle, notamment en ce qui concerne le contrôle des systèmes d'IA à usage général.

Des benchmarks révélateurs de la progression de l'IA

Une analyse approfondie de 60 benchmarks standardisés, couvrant des capacités cognitives clés telles que le raisonnement et les mathématiques, montre que 98 % de ces évaluations pourraient être saturées avant 2030. Les systèmes d'IA avancés surpassent déjà les experts humains dans des domaines tels que la physique, la chimie et la biologie, et progressent à un rythme plus rapide que prévu.

Des performances impressionnantes

Pour illustrer cette dynamique, considérons le benchmark GPQA Diamond, qui évalue des questions scientifiques de niveau doctoral. Les chercheurs spécialisés ont obtenu un score de 69,7 %, tandis que les modèles d'IA actuels dépassent les 90 %. En 2022, il était estimé qu'une IA pourrait remporter une médaille d'or aux Olympiades internationales de mathématiques autour de 2030, avec une probabilité de 8,6 % avant 2025. Cette performance a été atteinte dès cette année-là.

Les défis de la cybersécurité

Dans le domaine de la cybersécurité, lors du AI Cyber Challenge organisé par la DARPA en août 2025, des systèmes d'IA ont découvert 18 vulnérabilités zero-day dans des logiciels open-source. Ces avancées soulignent la nécessité de développer des méthodes de contrôle robustes pour ces technologies puissantes.

Le défi du contrôle de l'IA

Il est difficile de prédire quand une IA surpassera l'ensemble des capacités humaines, mais il est clair que le problème du contrôle nécessite une réponse immédiate. Les techniques d'alignement actuelles sont insuffisantes pour garantir que ces systèmes resteront sous contrôle. Les capacités de l'IA continuent de progresser sans ralentir.

Un effet de seuil imminent

Les planificateurs doivent être conscients de l'effet de seuil potentiel. Si les systèmes d'IA deviennent capables de contribuer de manière autonome à la recherche en IA, une boucle de rétroaction pourrait s'enclencher, réduisant drastiquement le temps de préparation. Les benchmarks d'ingénierie logicielle autonome suggèrent que ce seuil pourrait être atteint dans les deux à trois prochaines années.

La nécessité d'une action immédiate

Le France Libre sera opérationnel bien avant le retrait du Charles de Gaulle, et l'Invincible patrouillera avant que la menace qu'il doit dissuader ne se matérialise. Cette anticipation est cruciale pour l'IA, avec une contrainte supplémentaire : le calendrier des capacités n'est pas sous notre contrôle. Pour éviter d'être dépassés ou exposés à des problèmes de sécurité, il est impératif d'agir dès maintenant.