Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Plus de 1 100 employés et dirigeants de grands laboratoires ont demandé au gouvernement américain de freiner les IA avancées. Tandis que des responsables du secteur évoquent des risques d’extinction et des échéances pour la superintelligence, les autorités américaines rejettent l’idée d’une pause, invoquant la compétition internationale.
La pause retoquée et l’argument de la compétition
L’administration américaine a rapidement écarté la possibilité d’un moratoire sur les avancées en intelligence artificielle. Donald Trump a déclaré que la rivalité dans ce secteur était essentielle et que les États-Unis ne devaient pas permettre à la Chine de prendre le dessus. Les laboratoires d’IA sont présentés comme enfermés dans une dynamique où ralentir seuls reviendrait à offrir un avantage à leurs rivaux. Il est préconisé d'adopter une réglementation commune plutôt que des initiatives isolées, considérées comme fatales sur le plan commercial. Sam Altman n’a pas apposé sa signature aux derniers appels, mais il a admis que les laboratoires pourraient être amenés à freiner volontairement afin de laisser à la société le temps de s’ajuster.
Alertes publiques : probabilités, échéances et définitions
Evan Hubinger, responsable de l’alignement scientifique chez Anthropic, estime à plus de 10 % la probabilité que l’IA anéantisse l’humanité au cours de la prochaine décennie. Sam Altman, cofondateur d’OpenAI, a averti qu’une superintelligence pourrait être très dangereuse et menacer l’humanité d’extinction. La superintelligence désigne un système dont les capacités dépasseraient celles de l’esprit humain dans tous les domaines. Sam Altman évoque l’échéance de 2030 pour son apparition, tandis que Dario Amodei avance 2027. Des signes d’autonomie préoccupants commenceraient à apparaître, selon certains acteurs du secteur.
Le scénario redouté de l’auto-amélioration en quatre étapes
Le scénario considéré comme le plus dangereux est celui de l’auto-amélioration récursive, dans lequel une IA avancée conduirait elle-même des recherches et formerait ses propres successeurs sans que l’humain n’intervienne. Anthropic expose une progression en quatre phases : d’abord, entre 2023 et 2025, des chatbots produisant de brefs fragments de code ; ensuite, pour 2025-2026, des agents de programmation capables de rédiger et de modifier des fichiers complets sans intervention humaine ; actuellement, des agents autonomes qui exécutent leur propre code et délèguent des tâches à d’autres agents ; enfin, la prochaine étape verrait apparaître des agents en mesure d’entraîner de nouveaux modèles, complétant ainsi le cycle de l’auto-amélioration.
Pétitions, incident sectoriel et discours de la peur
Un événement impliquant Hugging Face a alerté certains membres de l’industrie. Le 29 juillet 2026, plus de 1 100 salariés et responsables d’OpenAI, Anthropic, Google DeepMind et Meta ont apposé leur signature à une déclaration commune réclamant des autorités américaines un ralentissement du développement des IA avancées, soulignant que la montée rapide des performances des modèles risquait de dépasser la capacité humaine à les comprendre et à les maîtriser. Une lettre ouverte émanant du Future of Life Institute avait déjà sollicité une suspension de six mois dans la formation des IA les plus puissantes. Malgré la multiplication des appels au ralentissement, une décélération collective est jugée difficile à mettre en œuvre. Evan Hubinger affirme qu’Anthropic fait de son mieux pour éviter de détruire le monde. Parallèlement, la rhétorique sur le risque existentiel nourrit un marketing fondé sur la peur, un phénomène que le journaliste Brian Merchant relie à la multiplication d’ouvrages sur l’extinction de l’humanité par l’IA.
