L'IA : Une extension de l'intelligence humaine, pas un remplacement

L'IA comme prolongement de la cognition humaine

Les systèmes d'intelligence artificielle (IA) modernes ne sont pas puissants parce qu'ils imitent l'intelligence humaine, mais parce qu'ils s'appuient sur cette intelligence pour étendre des structures déjà présentes dans la cognition et le langage humains. Cette perspective permet de mieux comprendre les capacités impressionnantes de l'IA ainsi que ses limites récurrentes, telles que les hallucinations et les défaillances dans le raisonnement. La sécurité de l'IA est ainsi perçue comme un défi systémique, déplaçant l'attention des récits alarmistes de « l'IA hors de contrôle » vers une exploitation plus rigoureuse de l'ingénierie et de la gouvernance.

Comprendre l'IA comme une extension de l'intelligence humaine, plutôt qu'un remplacement, offre une voie plus concrète pour construire des systèmes d'IA fiables. Les systèmes d'IA actuels sont capables de rédiger des essais, de générer du code, de résumer des idées complexes et de mener des conversations avec une fluidité remarquable. Cependant, ils rencontrent des difficultés avec des tâches que les humains trouvent intuitives, comme suivre de manière fiable des objets à travers des changements, raisonner de manière compositionnelle dans des situations inconnues ou distinguer la vérité de la fiction plausible. Ces contradictions ont alimenté des débats polarisés sur l'IA, certains voyant les systèmes actuels comme des formes précoces d'intelligence humaine, tandis que d'autres les rejettent comme de simples complétions automatiques sophistiquées.

Une nouvelle perspective sur l'intelligence artificielle

Dans des travaux interdisciplinaires récents, tels que "The Blind Spot" d'Adam Frank, Marcelo Gleiser et Evan Thompson, et "The Abstraction Fallacy" du chercheur de DeepMind Alexander Lerchner, une image différente émerge. Plutôt que de se demander si les systèmes d'IA deviennent intelligents au sens humain, ces approches posent une question plus fondamentale : que se passerait-il si les systèmes d'IA fonctionnaient parce qu'ils s'appuient sur des structures ancrées dans la cognition humaine ? Ce changement de perspective, inspiré par la phénoménologie d'Edmund Husserl, aide à comprendre à la fois les capacités et les limites de l'IA moderne.

Dans notre récent article, "The Origins of Artificial Intelligence in Natural Intelligence", nous soutenons que les systèmes d'IA modernes sont mieux compris ni comme des esprits humains ni comme de simples astuces statistiques. Au lieu de cela, ils étendent des structures qui trouvent leur origine dans la cognition humaine elle-même. En s'appuyant davantage sur la phénoménologie de Husserl, l'article propose que le langage contient déjà des structures sédimentées de compréhension humaine — des structures que les systèmes d'IA apprennent à modéliser et à étendre. Cette perspective aide à expliquer à la fois les capacités et les limites de l'IA contemporaine.

Les défis de la perception et du langage

La perception humaine n'est pas simplement une réception passive de données sensorielles. Nous expérimentons le monde comme des choses stables se déroulant à travers le changement : une tasse reste la même tasse lorsque nous nous déplaçons autour d'elle ; une mélodie reste reconnaissable même lorsque des notes individuelles disparaissent. Le langage émerge en exprimant ces structures stables sous forme conceptuelle. Des mots comme « rouge », « rond » ou « plus grand que » articulent des relations qui trouvent leur origine dans l'expérience vécue.

Les grands modèles de langage apprennent des relations statistiques au sein de ce monde linguistique. Ils capturent comment les concepts tendent à se relier à travers d'énormes corpus d'écrits humains. Cela explique pourquoi les systèmes d'IA peuvent produire des réponses cohérentes dans de nombreux domaines. Mais cela explique aussi pourquoi ils hallucinent. Les humains restent responsables vis-à-vis du monde : l'expérience corrige continuellement nos attentes et nos croyances. Les systèmes d'IA, en revanche, étendent des motifs au sein du texte lui-même. Ils peuvent poursuivre un raisonnement avec une fluidité remarquable, mais ils manquent de l'engagement vécu avec le monde qui ancre le sens et la vérité.

L'IA étend la cognition humaine

Ce cadre aide à expliquer plusieurs défis récurrents dans la recherche sur l'IA. L'un d'eux est le « gap de compositionnalité » — la tendance des modèles de langage à bien performer sur des schémas de raisonnement familiers tout en échouant lorsqu'il s'agit de combiner des concepts de manière véritablement nouvelle. La recherche montre de plus en plus que les modèles plus grands améliorent la fluidité et le rappel factuel beaucoup plus rapidement qu'ils n'améliorent le véritable raisonnement compositionnel. De notre point de vue, cela n'est pas simplement une limitation technique mais une frontière structurelle : les systèmes d'IA peuvent étendre des motifs déjà sédimentés dans le langage, mais ils ne possèdent pas la compréhension orientée vers le monde qui permet aux humains de générer de véritables nouvelles relations conceptuelles.

Un schéma similaire apparaît dans les systèmes multimodaux qui combinent langage et vision. Ces systèmes peuvent souvent étiqueter correctement des images tout en échouant à un raisonnement robuste sur les objets et leurs parties. Ils apprennent des corrélations entre des motifs visuels et le langage plutôt que de percevoir des objets stables se déroulant dans le temps comme le font les humains. Le résultat est des systèmes qui peuvent sembler impressionnablement fluides tout en restant étonnamment fragiles en dehors des schémas familiers.

Repenser la sécurité de l'IA

Cette perspective recontextualise également les débats sur la sécurité de l'IA. La discussion publique oscille souvent entre les craintes d'une « superintelligence hors de contrôle » et les affirmations selon lesquelles l'IA pose peu de risques significatifs. Notre recherche suggère que les deux extrêmes ne comprennent pas la nature des systèmes actuels. Les risques les plus immédiats ne découlent pas du fait que l'IA possède des intentions semblables à celles des humains, mais parce qu'elle peut étendre des motifs de raisonnement sans responsabilité réflexive vis-à-vis du monde. Les systèmes peuvent générer des résultats persuasifs mais non fondés, automatiser des décisions erronées à grande échelle, ou exécuter des actions nuisibles s'ils sont intégrés dans des environnements mal gouvernés.

Cela aide à expliquer pourquoi la sécurité de l'IA se déplace de plus en plus de la sécurité des modèles à la sécurité des systèmes. En pratique, les organisations s'appuient déjà sur des sauvegardes en couches — ce que l'industrie appelle de plus en plus des « harnais » — pour contraindre, valider et surveiller le comportement de l'IA. Plutôt que des solutions temporaires, notre article soutient que ces mécanismes reflètent quelque chose de fondamental sur l'architecture même de l'IA : un comportement fiable émerge du travail des bâtisseurs de systèmes d'IA responsables de leur comportement, une responsabilité qui ne peut être déléguée ou partagée avec les modèles.

Vers une IA gouvernée et responsable

Cette interprétation s'aligne étroitement avec la manière dont les entreprises abordent de plus en plus le déploiement d'une IA fiable. Les organisations ont besoin de systèmes capables d'étendre l'intelligence humaine tout en restant gouvernables, auditables et alignés sur la supervision humaine. Comprendre l'IA comme une forme dérivée d'intelligence clarifie pourquoi la gouvernance en couches, l'évaluation et les contrôles opérationnels sont si importants.

En regardant vers l'avenir, nous croyons que la phénoménologie offre plus qu'une critique de l'IA — elle offre un cadre pour comprendre sa promesse. Les systèmes d'IA révèlent quelque chose de profond sur la cognition humaine elle-même : que le sens peut être formalisé, étendu et amplifié de manière puissante. Le principal risque sociétal de l'IA s'avère donc être le fait de retirer l'échelle de ses origines dans l'expérience et la cognition humaines — en interprétant mal l'IA comme une intelligence rivale qui diminue notre humanité et, par conséquent, diminue la véritable promesse de l'IA elle-même.

La question, alors, n'est pas de savoir si l'IA remplacera l'intelligence humaine. Il s'agit de savoir comment nous pouvons construire de manière responsable des systèmes qui étendent la compréhension humaine tout en restant ancrés dans le monde d'où cette compréhension émerge. Si nous confondons les systèmes d'IA avec des esprits autonomes, nous risquons de leur faire trop confiance. Si nous les rejetons comme de simples astuces, nous risquons de négliger l'un des développements technologiques les plus importants de notre époque. Une interprétation plus ancrée reconnaît les deux vérités à la fois : l'IA est une véritable extension de l'intelligence humaine — et précisément en raison de cela, les humains restent responsables de la manière dont elle est comprise, gouvernée et utilisée.