IA générative : dépendance, énergie et marché fragmenté

Des études et chiffres de 2025–2026 décrivent une IA générative omniprésente, visible dans les outils du quotidien, et énergivore. Le secteur est éclaté et concurrentiel, loin d’un « esprit unique », tandis que des signaux de dépendance apparaissent et que des agents exécutent déjà l’essentiel d’intrusions complexes.

Agents autonomes et biais d’automatisation documentés

Fin 2025, Anthropic a présenté une première campagne d’espionnage conduite par une IA, au cours de laquelle un agent a exécuté de manière autonome environ 80 à 90 % d’une intrusion multi-cibles. L’incident impliquait un agent dirigé vers des systèmes tiers, sans qu’un « esprit rebelle » indépendant ait été construit. Parallèlement, des agents d’IA se voient confier des actions concrètes, l’accès à d’autres systèmes et la possibilité d’agir seuls, avec peu de limites explicites. En 2025, Microsoft Research et Carnegie Mellon ont mené une étude auprès de 319 travailleurs du savoir qui rapporte qu’une confiance accrue dans les sorties d’IA s’accompagne d’une moindre auto-déclaration de pensée critique. Ce résultat illustre un biais d’automatisation où la confiance prédit une supervision réduite. Ben Shneiderman plaide depuis des années pour une IA centrée sur l’humain, rejetant l’idée d’un compromis entre contrôle humain et autonomie machine et promouvant à la fois une automatisation élevée et un contrôle humain élevé. Malgré ces repères, les contraintes formelles sur ce que peut faire un agent et l’identification d’un responsable humain restent le plus souvent optionnelles.

Énergie et données : la base matérielle et humaine

L’Agence internationale de l’énergie projette un doublement de la demande électrique des centres de données d’ici 2030, pouvant atteindre environ 945 térawattheures, soit l’ordre de grandeur de la consommation actuelle du Japon. L’IA est identifiée comme principal moteur de cette hausse. Le boom de l’IA générative figure parmi les technologies récentes les plus gourmandes en énergie, et ce sont les réseaux qui sont sollicités, pas l’énergie humaine. Ce que ces systèmes extraient des utilisateurs, ce sont des données et du jugement : des modèles entraînés sur des écrits, des images et des annotations humaines, puis ajustés grâce aux retours humains. Sur le plan du travail, des estimations de la Banque mondiale situent entre 150 et 430 millions le nombre de travailleurs des données à l’échelle mondiale, une part importante étant faiblement rémunérée.

Un secteur densément concurrentiel plutôt qu’un monolithe

Selon l’AI Index de Stanford, l’écart entre le modèle le plus performant et le dixième s’est resserré à environ cinq points sur l’année écoulée, et la différence entre les deux premiers est désormais inférieure à un point. Près de 90 % des modèles marquants de 2024 sont issus du secteur industriel, partagés entre plusieurs concurrents, sans qu’aucun ne détienne une position dominante. Le marché analysé présente un niveau de concurrence élevé, avec une diffusion des capacités qui s’effectue en quelques mois seulement. Cette dynamique peut dissuader les ralentissements nécessaires aux vérifications de fond. Dans ce contexte, le problème ne se présente pas comme une intelligence coordonnée hostile, mais comme la juxtaposition de systèmes construits et déployés à grande vitesse, avec peu de garde-fous, une situation rapprochée de celle décrite dans Unsafe At Any Speed de Ralph Nader.

Usage massif et interfaces qui s’affichent

Selon McKinsey, 88 % des organisations utilisaient déjà l’IA en 2025 dans au moins une fonction, et environ sept sur dix recouraient à l’IA générative. Côté grand public, ChatGPT a dépassé les 900 millions d’utilisateurs hebdomadaires au début de 2026, et près d’un milliard de personnes ouvrent chaque semaine un de ces outils. Dans les produits, ces systèmes sont visibles et identifiés, parfois explicites sur leurs capacités. Microsoft place d’ailleurs, dans ses Guidelines for Human-AI Interaction, la clarification des possibilités du système en première exigence. Si l’interface est exposée, le raisonnement interne du modèle reste opaque : on peut activer un résumé de document sans savoir pourquoi telle phrase est conservée ou supprimée. Ce décalage nourrit un risque de confiance excessive dans des assistants fluides. Les acteurs financent ces déploiements et cherchent d’abord à accélérer des tâches concrètes, avant d’étendre les usages.

Ce qui est délégué, et ce qui ne l’est pas

L’IA générative s’inscrit moins dans une logique de prise de contrôle que dans une recherche de confiance, souvent conquise à travers des assistants dédiés à des tâches précises. L’adoption est graduelle, par invitation, à mesure qu’un outil se révèle plus pertinent ou moins coûteux que l’alternative. Historiquement, l’adoption de technologies utiles suit ce chemin de la commodité et du consentement. D’où l’enjeu central : déterminer ce que l’on confie à ces systèmes, et maintenir une vigilance à la hauteur de cette délégation.

Des garde-fous pratiques proposés pour les agents

Trois règles opérationnelles sont proposées pour encadrer les agents. D’abord, définir ce qui ne doit pas être délégué et réserver explicitement ces jugements à l’humain. Ensuite, borner la portée de chaque agent : systèmes accessibles, actions qui exigent une confirmation et seuils d’arrêt. Enfin, désigner un responsable humain clairement identifié pour chaque agent, afin d’éviter une autonomie sans redevabilité.