OpenAI et l'ombre de l'eugénisme dans l'IA générative

Une réflexion sur l'IA et la science raciale

La réalisatrice Valerie Veatch a été captivée par le lancement du modèle d'IA générative Sora par OpenAI en 2024, qui permet de transformer du texte en vidéo. Bien qu'elle ne maîtrise pas totalement cette technologie, elle était curieuse de ses possibilités et a observé que d'autres artistes formaient des communautés en ligne pour partager leurs créations en IA. Cet espoir de connexion a attiré Veatch vers l'univers de l'IA, mais elle a été choquée par la fréquence à laquelle la technologie produisait des images empreintes de racisme et de sexisme.

Veatch a été encore plus perturbée par l'indifférence de ses pairs passionnés d'IA face aux contenus haineux générés par la machine, même sans sollicitation explicite. Cette situation étrange l'a éloignée de ses premières expérimentations avec l'IA générative, mais l'a aussi inspirée à réaliser "Ghost in the Machine", un documentaire sur les technologies et les courants de pensée qui ont préparé le terrain pour l'existence de l'IA générative.

Une analyse historique

Plutôt que de se concentrer sur les bénéfices potentiels, bien que peu probables, que les promoteurs de l'IA générative affirment être à portée de main, "Ghost in the Machine" explore l'histoire de la technologie pour expliquer pourquoi elle fonctionne de cette manière aujourd'hui. Lors d'une récente conversation avec Veatch, elle a exprimé son désir de documenter la genèse de l'IA générative afin de donner aux gens une vue claire du cycle d'hypothèse intense dans lequel nous vivons actuellement.

Elle a souligné l'importance de comprendre le terme "intelligence artificielle", qu'elle considère comme vide de sens et simplement un outil marketing. Ce terme a été inventé en 1956 par le scientifique en informatique John McCarthy pour obtenir plus de financements pour ses projets. Le documentaire présente cette invention comme l'un des nombreux points importants sur une chronologie qui commence en Angleterre à l'époque victorienne avec la naissance de l'eugénisme.

Les racines de l'eugénisme

Francis Galton, cousin de Charles Darwin, est l'initiateur de l'eugénisme — la croyance raciste et discréditée selon laquelle l'humanité peut être améliorée par l'élimination systématique des races "inférieures" (entendez : non-blanches). Bien que Galton ait apporté des contributions utiles à l'académie, Veatch a expliqué qu'il est crucial de ne pas minimiser le fait que ses croyances suprémacistes blanches ont influencé les sciences sociales de son époque.

Galton et son protégé Karl Pearson n'étaient pas directement impliqués dans le développement des premières machines computationnelles, mais le travail fondamental de Galton sur la modélisation multidimensionnelle a façonné la pensée de Pearson alors qu'il développait des outils statistiques comme la régression logique, qui est l'un des composants fondamentaux de l'apprentissage automatique moderne.

Les implications contemporaines

Veatch a noté que cette pensée raciste a conduit Galton et ses pairs à croire que l'intelligence humaine pouvait être mesurée et que les cerveaux humains fonctionnaient de manière similaire aux machines. Cette transition a joué un rôle majeur dans la vente au public de l'idée fantastique de l'intelligence artificielle.

Elle a également mentionné que, lorsqu'elle a examiné la question de la superintelligence en tant que documentariste, elle a rapidement réalisé que la science raciale était profondément ancrée dans cette technologie. "Ghost in the Machine" utilise cette analyse historique pour expliquer pourquoi les entreprises développant cette technologie semblent si désintéressées par les problèmes contemporains qu'elle soulève.

Une expérience personnelle

Veatch a partagé ses propres expériences troublantes avec l'IA générative, notamment lorsqu'elle a utilisé une version précoce de Sora dans un groupe d'artistes. Elle se souvient d'une femme de couleur exprimant des préoccupations concernant la manière dont le modèle la "blanchissait" chaque fois qu'elle lui demandait de générer des images basées sur des photos d'elle-même.

Elle a pris l'initiative de contacter directement OpenAI pour alerter l'entreprise sur les résultats "racistes, sexistes et misogynes" qu'elle observait. Cependant, ses préoccupations ont été écartées par la société, ce qui a alimenté sa détermination à comprendre pourquoi tant de formes d'intelligence générative se comportaient de manière problématique.

Conclusion

Les voix présentées dans "Ghost in the Machine" — un mélange de chercheurs en IA, d'historiens et de théoriciens critiques — soutiennent que chaque aspect de l'espace IA a été profondément influencé par ses connexions historiques avec des domaines scientifiques construits pour soutenir des visions du monde discriminatoires. Veatch a exprimé son désintérêt pour obtenir l'accès aux dirigeants des entreprises critiquées dans son film, affirmant qu'elle ne souhaitait pas compromettre son message en les incluant.

"Ghost in the Machine" sera disponible en streaming via Kinema du 26 au 28 mars avant de passer à l'antenne sur PBS cet automne.