Saint Augustin et l'illusion de l'ordre parfait par l'IA

L'illusion de l'ordre parfait par l'intelligence artificielle

L'essor de l'intelligence artificielle (IA) s'accompagne de la promesse séduisante d'un monde où l'incertitude est réduite et où les prédictions sont plus précises. Cette technologie est souvent perçue comme un moyen d'atteindre un ordre optimal, que ce soit dans le domaine du recrutement, des recommandations de contenu, de l'évaluation des risques ou des outils génératifs. Cependant, cette vision repose sur l'hypothèse que la définition du bien est stable, ce qui est loin d'être le cas. Chaque système d'IA doit être programmé avec une idée préconçue de ce qui est considéré comme bon, une idée qui reflète un ensemble de valeurs humaines plutôt qu'une vérité universelle.

La perspective augustinienne sur l'ordre humain

Cette problématique n'est pas nouvelle et trouve un écho dans les réflexions de Saint Augustin d'Hippone, qui a vécu entre 354 et 430 après J.-C. En pleine période de déclin des institutions romaines, Augustin a analysé la crise non pas comme un simple échec des systèmes, mais comme le symptôme d'un problème plus profond lié à la volonté humaine. Dans ses "Confessions", il explore l'idée que le désir humain n'est pas intrinsèquement mauvais, mais souvent mal orienté. Ce que les individus aiment et vers quoi ils tendent façonnent les structures qu'ils bâtissent. Ainsi, une société est définie par les valeurs collectives de ses citoyens, et un désalignement dans ces valeurs peut rendre tout système instable.

La dualité des cités selon Augustin

Dans "La Cité de Dieu", Augustin développe l'idée de deux conditions opposées : la Cité des Hommes et la Cité de Dieu. La première est fondée sur l'amour de soi et la volonté de domination, ce qui la rend instable car elle repose sur des biens temporaires comme la sécurité ou le prestige. La Cité de Dieu, en revanche, est orientée vers le divin, guidée par un amour bien ordonné. Ces cités ne sont pas des lieux physiques, mais des états moraux présents dans chaque institution. L'ordre humain est déficient non pas par manque de capacité, mais parce qu'il est façonné par les valeurs qu'il privilégie.

Les limites structurelles des systèmes humains

Appliqué aux systèmes humains, y compris ceux médiés par la technologie, cela crée une limite structurelle que même les systèmes les plus avancés ne peuvent résoudre. La norme du bien dépasse ce que les humains peuvent pleinement définir, et chaque système doit fonctionner avec des définitions partielles et souvent concurrentes. L'attrait pour un ordre parfait persiste, même si les constructions humaines restent contraintes par les orientations de leurs désirs.

L'optimisation biaisée de l'IA

L'intelligence artificielle, loin d'échapper à cette contrainte, l'exacerbe. Les systèmes d'IA fonctionnent par optimisation, mais cette optimisation n'est jamais neutre car elle nécessite une définition préalable de ce qui est jugé bon. Si l'engagement est valorisé, le système optimisera l'attention. Si l'efficacité est priorisée, il éliminera ce qui ralentit le processus. Ainsi, un système peut fonctionner correctement tout en perpétuant une vision déformée de ce qui est important.

L'ordre de l'amour et l'IA

Pour Augustin, le désordre de la Cité des Hommes provient d'un amour désordonné. Les citoyens ne manquent ni d'intelligence, ni d'effort, ni d'empathie, mais leurs orientations sont mal dirigées. Le concept d'ordo amoris, ou l'ordre de l'amour, souligne que l'ordre n'est pas seulement une question de structure ou d'efficacité, mais une hiérarchie de valeurs. L'IA, en réorientant les priorités humaines, renforce cette hiérarchie biaisée.

La distinction entre uti et frui

Dans "De la doctrine chrétienne", Augustin distingue entre uti (ce qui est utilisé comme moyen) et frui (ce qui est apprécié comme une fin). Le problème ne réside pas dans le désir lui-même, mais dans son désordre. Un outil n'est pas problématique parce qu'il est utile, mais il devient dangereux lorsque son utilité est confondue avec une fin. Les systèmes d'IA exacerbent ce désordre en transformant l'utilité en une apparence de finalité.

L'impact de l'IA sur le jugement humain

Les outils d'IA, conçus pour être utilisés, commencent à jouer le rôle d'autorité lorsque leurs résultats sont traités comme des conclusions définitives. Par exemple, si un modèle de recrutement privilégie certains mots-clés, notre compréhension d'un candidat qualifié se limite à ces critères. Si un système de recommandation met en avant certains sujets, notre perception de ce qui est pertinent est façonnée par cette sélection. L'outil cesse d'être une simple aide pour comprendre le monde et devient le cadre qui décide de ce qui mérite d'être vu.

L'illusion de l'intelligence générale artificielle

La quête de l'intelligence générale artificielle (AGI) repose sur l'idée qu'un système suffisamment avancé pourrait résoudre l'instabilité du jugement humain. Cependant, plus d'intelligence machine ne résout pas le désaccord sur ce qui devrait être valorisé. Elle amplifie simplement toute définition de valeur déjà intégrée dans le système.

Les biais algorithmiques et l'illusion de l'objectivité

Cette dynamique n'est pas abstraite. Elle se manifeste dans la manière dont les systèmes d'IA formalisent le jugement humain. Comme le souligne le MIT Technology Review, ces systèmes ne suppriment pas les biais, mais les intègrent dans des systèmes évolutifs qui semblent objectifs. Ce qui apparaît comme une précision améliorée est souvent la répétition de décisions antérieures à grande échelle plutôt que leur correction. En termes augustiniens, l'IA ne crée pas un amour désordonné, elle le stabilise et le légitime.

L'innovation et la redéfinition du bien

L'innovation est souvent présentée comme un progrès vers l'amélioration, mais ce qui est considéré comme une amélioration est lui-même défini par une conception préalable du bien. L'IA accélère cette dynamique en rendant les priorités mesurables et plus faciles à justifier. Les métriques remplacent le jugement et les résultats remplacent la délibération. Les systèmes semblent plus précis, mais cette précision repose sur des hypothèses normatives inexplorées.

La rationalité limitée et le cadre augustinien

Un lecteur laïque pourrait résister à ce cadre, arguant que sans engagement théologique, cela se réduit à l'idée que les valeurs sont contestées. Cependant, l'argument d'Augustin ne nécessite pas d'accepter sa théologie pour reconnaître le problème sous-jacent. Ce que des philosophes comme Herbert Simon ont identifié comme la rationalité limitée — la cognition humaine limitée opérant toujours dans des hypothèses héritées — produit le même écart structurel qu'Augustin décrit, sans nécessiter de prémisse théologique.

La nécessité de la délibération et de la responsabilité

Saint Augustin n'est pas arrivé à ses conclusions de manière dogmatique. Il a engagé un dialogue avec des arguments sceptiques et a rejeté ceux qui étaient auto-destructeurs. Sa position émerge de cette confrontation, non pas d'une isolation contre elle. L'erreur n'est pas de construire des outils, mais de les confondre avec des fins. Les biens terrestres sont réels mais limités. Ils sont destinés à être utilisés, non pas traités comme des substituts à un ordre supérieur qu'ils ne peuvent atteindre.

Restaurer la délibération dans l'utilisation de l'IA

Appliqué à l'IA, la tâche éthique est de préserver la distinction entre ce qu'un outil peut nous aider à faire et ce que seul le jugement peut déterminer. La première priorité est la restauration de la délibération. Les résultats de l'IA devraient informer le raisonnement, pas le remplacer. Cela nécessite des structures organisationnelles où le jugement humain reste l'étape autoritaire, pas un simple coup de tampon à la fin d'un processus automatisé.

La visibilité des valeurs dans les systèmes d'IA

La seconde priorité est la visibilité des valeurs. Chaque optimisation encode une définition du bien qui doit être mise en lumière et contestée. Cela signifie traiter les choix de valeur intégrés dans les systèmes d'IA comme des décisions politiques et institutionnelles, pas techniques. Les chercheurs travaillant sur la responsabilité algorithmique ont soutenu que le cadre de l'IA en tant qu'optimiseur neutre est en soi un choix politique — un choix qui retire ces choix de l'examen démocratique.

Conclusion : Vers une IA éthique et responsable

Lorsqu'un système définit à quoi ressemble un candidat qualifié, ou quel contenu mérite d'être amplifié, ou quels quartiers comportent quels risques, ces définitions nécessitent une responsabilité. Elles doivent être nommées, examinées et ouvertes à révision. En fin de compte, l'enjeu est de garantir que l'IA serve l'humanité de manière éthique et responsable, en respectant les valeurs fondamentales et en préservant le jugement humain.