IA : experts contestent l’été du battage et appellent au recul

Percées mathématiques, incidents de sécurité, départs retentissants : les annonces des géants de l’IA ont saturé l’actualité. Des chercheurs et praticiens opposent une lecture moins spectaculaire, pointant négligences, exagérations et effets d’aubaine médiatique. Ils demandent du temps d’examen, l’avis d’experts indépendants et une attention aux impacts concrets.

Responsabilité déplacée et impacts négligés autour des centres de données

Présenter des systèmes comme des superintelligences ou des modèles renégats attribue une volonté aux produits plutôt qu’aux entreprises qui les conçoivent. Ce cadrage vend des performances dites surhumaines tout en aidant les producteurs de ces systèmes à éviter d’assumer leurs actes. Ainsi, des discours ont porté sur des modèles supposés agir d’eux‑mêmes, plutôt que sur d’éventuelles responsabilités liées à des logiciels malveillants. Dans le même mouvement, l’attention publique s’éloigne des questions de plagiat académique ou d’usage de données clients sans consentement, pour se fixer sur des peurs de machines fictivement surpuissantes. Des acteurs du secteur soutiennent en outre que la mobilisation populaire et bipartisane contre les centres de données détournerait des efforts de régulation des machines dites surhumaines. Selon cette ligne, la priorité devrait aller à un « dieu machine » hypothétique plutôt qu’à des effets tangibles des centres de données, comme l’aggravation de la catastrophe climatique, l’asthme des riverains, la hausse des factures d’électricité publiques qui les subventionnent ou l’eau détournée pour leur refroidissement.

Appels au temps long et à l’expertise indépendante

Une décision publique informée nécessite du temps pour entendre des experts indépendants et pour replacer les annonces d’entreprises dans leur contexte. Le meilleur résultat possible de cette séquence d’engouement serait que responsables publics et citoyens gardent leur scepticisme et sachent identifier ce type de battage. Des centaines de mathématiciens alertent sur un fort incitatif commercial à exagérer les capacités des produits et invitent les décideurs à consulter des spécialistes, y compris des mathématiciens, plutôt que de s’en remettre à des communiqués ou à des récits populaires. La pression à décider vite, entretenue par des acteurs privés, peut détourner l’attention des enjeux réels.

Sécurité : la thèse d’une négligence plutôt que de modèles hors de contrôle

Un incident de piratage a impliqué OpenAI et Hugging Face, suivi de révélations d’incidents similaires par Anthropic et, à contrecœur, par Meta. Des experts en cybersécurité attribuent ces événements à de la négligence et à l’absence de pratiques basiques de sécurité chez OpenAI, plutôt qu’à des systèmes agissant de façon autonome. Parler de modèles renégats occulte ces responsabilités possibles et déplace le débat vers un registre sensationnaliste.

Les prétendues percées mathématiques sous le feu des pairs

Anthropic a annoncé une percée mathématique, rapidement suivie d’une revendication comparable par OpenAI. OpenAI a notamment affirmé que son chatbot Astra avait résolu des problèmes réputés sans progrès principal depuis au moins une décennie. Des mathématiciens, d’abord impressionnés, ont ensuite estimé que les résultats n’étaient pas aussi novateurs. D’autres ont accusé OpenAI de mauvaise conduite scientifique et de plagiat, niant tout bond intellectuel profond. Deux jours avant l’une des revendications d’OpenAI, le professeur Tristan Buckmaster, de l’Institut Courant de l’Université de New York, a diffusé une déclaration suggérant un vol et une attribution inappropriée de travaux.

Pourquoi les maths et le code servent de vitrines aux modèles

La programmation et les mathématiques sont fréquemment proposées comme terrains d’excellence pour les grands modèles de langage. Ces domaines, souvent tenus pour des sommets de l’effort intellectuel, offrent des réponses vérifiables, ce qui facilite l’évaluation des sorties sans recourir à une annotation humaine systématique. Cette combinaison favorise des récits valorisant des systèmes présentés, par des cadres anthropomorphiques, comme proches d’une intelligence générale. Ces annonces suscitent une forte exposition médiatique, alors que des analyses d’experts publiées ultérieurement, plus circonspectes, reçoivent une attention moindre.

Départs et discours de superintelligence, et traduction politique

L’ingénieur Jacob Coxon a quitté Anthropic en reprochant à l’entreprise et à OpenAI de se précipiter vers une superintelligence auto‑améliorante et de jouer avec des vies. Les affirmations d’une superintelligence dangereuse ne reposent pas, selon les auteures, sur de bonnes pratiques scientifiques ou d’ingénierie, et relèvent de récits nourris par des idéologies comme le transhumanisme ou l’eugénisme. Sur le plan politique, une proposition de loi du sénateur Bernie Sanders a visé à interdire le développement de superintelligences artificielles ; elle est décrite comme bien intentionnée mais malavisée.

Auteures et publications à venir

Timnit Gebru est directrice exécutive de DAIR et autrice d’un ouvrage à paraître, Deep Unlearning: The Radicalization of a Tech Idealist, disponible en précommande avec une publication prévue le 16 février. Emily M. Bender est professeure de linguistique à l’Université de Washington et co‑autrice de The AI Con.