Autopilote et IA : les métaphores qui trompent

L'illusion des métaphores simplistes

Les avancées rapides dans le domaine de l'intelligence artificielle, notamment l'IA agentique, nous poussent souvent à utiliser des métaphores pour tenter de les expliquer. Une comparaison courante est celle de l'IA avec l'autopilote des avions. Bien que cela puisse sembler un moyen pratique de comprendre comment ces technologies peuvent être intégrées dans notre quotidien, cette analogie est fondamentalement erronée et trompeuse. Peu de métaphores parviennent à capturer la complexité réelle de l'IA, et encore moins de l'IA agentique, ce qui laisse souvent le public avec une compréhension déformée de ce qui se passe réellement en coulisses.

Dans un avenir proche, nous pourrions être tentés d'utiliser l'IA de la même manière que les pilotes utilisent les systèmes d'autopilote. Cependant, plusieurs raisons rendent cette comparaison inappropriée :

• Premièrement, l'usage de termes populaires et la complexité technologique peuvent donner à certaines technologies un caractère presque magique.

• Deuxièmement, la plupart des gens ne comprennent pas vraiment le fonctionnement de l'autopilote.

• Enfin, peu de gens saisissent la différence entre des systèmes simples et des systèmes complexes.

L'usage personnel de l'IA et ses implications

Avant de poursuivre, il est important de clarifier ce que je ne dis pas. J'utilise moi-même des outils d'IA dans mon travail quotidien. Ces outils me permettent d'optimiser et d'accélérer certains aspects de mon flux de travail, tout comme je pourrais utiliser Figma, des formules Excel, un correcteur orthographique ou StackOverflow. Cependant, je reste prudent quant à cet usage. Je fais partie de ceux qui croient que "l'IA peut améliorer la vie des humains, mais seulement si elle est démocratisée et que les bénéfices sont socialisés pour tous". Les questions éthiques concernant la manière dont l'IA extrait et plagie le travail des autres ou les exigences énergétiques de ces technologies ne sont pas le sujet principal ici. Ce qui m'inquiète, c'est la manière dont la technologie est présentée au public et comment cela pourrait contribuer à accélérer le technoféodalisme, pour reprendre les termes de Yanis Varoufakis. J'utilise des produits de Google, TikTok et Meta malgré ma méfiance envers leur gestion de la confidentialité des données, car je suis personnellement à l'aise avec le contrat social implicite, tout en plaidant pour un changement de ce rapport de force. Ces technologies sont révolutionnaires, et nos pratiques commerciales et nos structures sociales doivent évoluer pour protéger le public.

Il est également important de noter que ce sont mes opinions personnelles et qu'elles ne reflètent pas nécessairement celles de mon employeur. Cela dit, continuons !

Le pouvoir des mots

Je reste toujours sceptique face à ceux qui commencent une déclaration par "À l'avenir, nous allons..." en parlant de nouvelles technologies. Ces prédictions sont rarement exactes. Malgré mes efforts, je suis sûr que mon arrogance m'a déjà poussé à faire de telles déclarations, mais croire que l'on détient seul des prémonitions sur l'avenir technologique relève de la vanité. Cependant, je comprends le besoin d'utiliser des métaphores pour aider les autres à conceptualiser un sujet complexe, mais cela nécessite d'abord une compréhension approfondie de la technologie en question et de l'origine de la métaphore. Avez-vous déjà réfléchi au nombre d'expressions maritimes que nous utilisons dans le discours corporatif ?

• "Vous devez juste apprendre les ficelles."

• "Elle gère un navire bien en ordre."

• "Cette équipe est équilibrée."

• "Faisons un bricolage rapide."

• "Assurez-vous de garder tout en règle."

Vous n'avez peut-être pas besoin de comprendre la navigation pour saisir ces termes, mais c'est principalement parce que ces termes ne sont plus contextualisés par rapport à leurs significations originales. Je n'ai jamais géré un navire du 16ème siècle, et ce n'est pas un prérequis pour comprendre ces termes courants. Le terme "autopilote" a connu un destin similaire ; presque tout le monde est familier avec ce concept (même les enfants), bien que très peu d'entre nous aient un brevet de pilote.

À première vue, ce parallèle pourrait sembler être une approbation de "l'autopilote" comme métaphore acceptable, mais il existe une distinction importante ici. Lorsque l'on "apprend les ficelles", les conséquences de la gestion des voiles d'un navire ne sont pas en jeu ; c'est simplement une expression. Si vous "gérez un navire bien en ordre" chez vous, le terme n'implique pas directement un degré de navigation dans votre foyer. Ces termes sont utilisés sans aucune dynamique de pouvoir inhérente. On pourrait également dire que ces phrases se sont tellement détachées de leur signification originale qu'elles ne concernent plus leur contexte d'origine. Il peut sembler que je chipote sur des questions de sémantique, mais dans le cas de l'IA et de la manière dont nous la décrivons ou la définissons, le langage utilisé par les dirigeants et ceux qui prennent des décisions représente un déséquilibre de pouvoir. On peut se référer aux travaux de Noam Chomsky pour mieux comprendre cela ; avoir le pouvoir de nommer quelque chose signifie que l'on contrôle le récit.

Il suffit de considérer quelques autres termes pour voir la différence et le spectre. Les euphémismes ont le pouvoir de voiler leur sujet dans l'ambiguïté. Célèbrement, le terme "empreinte carbone" a été créé par l'industrie du gaz et du pétrole. L'Allemagne nazie a déployé l'euphémisme de la "Solution finale" pour commettre ses atrocités et convaincre ses citoyens de se soumettre. De nombreux gouvernements autoritaires ont utilisé les "camps de rééducation" pour emprisonner et torturer des dissidents. Les "licenciements" ou "réajustements" déshumanisent la manière dont certaines entreprises traitent leur personnel et normalisent cela comme faisant partie du cycle économique. Il y a un siècle, "droits" signifiait qu'un citoyen avait droit à certains droits et bénéfices ; aujourd'hui, le terme a été confondu avec "être exigeant", ce qui a une connotation négative et est utilisé contre ceux qui dépendent de l'État-providence. "La Guerre froide" était un terme utile pour justifier la prolifération des armes nucléaires, l'hégémonie américaine et le complexe militaro-industriel. Il existe d'innombrables autres exemples.

Un autre exemple pressant est la montée des marchés de "paris sur n'importe quoi". Il n'est pas secret que la légalisation des paris sportifs a conduit à une explosion des addictions au jeu, en particulier chez les jeunes hommes. L'essor de Kalshi et d'autres applications permet aux utilisateurs de parier sur presque tout, comme quelle chanson Bad Bunny jouerait en premier au Super Bowl ou si les États-Unis envahiront l'Iran ou le Venezuela. Kalshi et d'autres applications contournent les réglementations en appelant leurs services "marchés de prévision" plutôt que "jeu". Les casinos et même les paris sportifs sont soumis à beaucoup plus de contrôle en raison de cette différence sémantique dans le nommage. Cela a entraîné des escroqueries internes rampant sur Kalshi. Si vous souhaitez en savoir plus, consultez le travail d'Alex Falcone sur les paris sportifs et les marchés de prévision. Cette simple distinction linguistique a permis à Kalshi de devenir une entreprise de plusieurs milliards de dollars presque du jour au lendemain.

L'intelligence artificielle bénéficie également de quelques astuces étymologiques. Le terme "Intelligence Artificielle" anthropomorphise la technologie. Les humains anthropomorphisent tout ce qui peut reproduire la parole, simplement parce que nous comprenons que la parole rend notre espèce unique. J'ai déjà écrit à ce sujet, mais des outils comme ChatGPT sont essentiellement des perroquets très sophistiqués. De plus, le nom suggère une "intelligence" profonde et sous-jacente qui est ancrée dans la science-fiction. De même, comme le souligne le TikToker Adam Aleksic, également connu sous le nom d'Etymology Nerd, les outils d'IA déploient des "étincelles" dans la communication iconographique. Cela, associé à l'utilisation de la couleur "violette", a réussi à présenter l'IA comme de la "magie" au grand public et non simplement comme des statistiques et des mathématiques extrapolées. Arthur C. Clarke a remarqué cela dans les années 1960 lorsqu'il a déclaré : "Toute technologie suffisamment avancée est indistinguable de la magie." Bien que l'IA ne soit pas une escroquerie comme Kalshi ou les paris sportifs, sa perception sur le marché est altérée par ce langage, qui façonne et définit notre compréhension de cette technologie.

En résumé, le langage est un vecteur de communication, et la signification sémantique, l'étymologie et l'épistémologie associées à ces mots et phrases peuvent fournir une couverture pour des idées et des concepts qui pourraient autrement être dangereux ou néfastes.

L'autopilote démystifié

Il est sûr de dire que la plupart des gens ne comprennent pas vraiment la technologie de l'autopilote. Ainsi, beaucoup d'entre nous adhèrent à la troisième loi de Clarke, croyant essentiellement que l'avion vole tout seul et que les pilotes sont juste là pour surveiller les choses et allumer et éteindre le signal de ceinture de sécurité. En réalité, l'autopilote est une machine de décision complexe qui fournit aux pilotes des retours d'information et des informations pour la gestion conjointe des processus avec le contrôle au sol et d'autres vols. Comme le note Tech Insider, le système d'autopilote est une boucle de rétroaction négative qui cherche l'équilibre. Des capteurs répartis dans l'avion prennent des mesures continues et les renvoient à un ordinateur central. Ces données sont traitées et renvoyées au système pour rechercher la stabilité sur plusieurs axes (vertical, horizontal, etc.).

Earl Wiener, un ancien pilote et universitaire en aviation, a inventé les "Deux D de l'automatisation". L'autopilote est "Stupide et Diligent", ce qui signifie qu'il acceptera tout type d'entrée acceptable (même si cela est illogique) et suivra toujours son objectif principal (voler, atterrir, etc.). En fait, cela est devenu connu sous le nom de Loi de Wiener. Cela signifie qu'un pilote doit comprendre toutes les entrées et lectures disponibles et vérifier constamment les résultats ou comportements irréguliers. Comprendre les niveaux d'altitude acceptables, les inclinaisons et angles, les vitesses, les directions du vent, et bien plus permet au pilote d'agir en quelque sorte comme le "patron" de l'autopilote. Comme le souligne Trevor Aldridge, un pilote professionnel, l'autopilote libère un pilote pour mener des activités de plus haute importance.