Le Kool-Aid de l'IA générative a un goût d'eugénisme

Le Kool-Aid de l'IA générative a un goût d'eugénisme

Une réflexion sur l'IA et la science raciale

Comme beaucoup de gens, la réalisatrice Valerie Veatch a été intriguée lorsque OpenAI a lancé son modèle d'IA générative Sora, capable de transformer du texte en vidéo, au public en 2024. Bien qu'elle ne comprenne pas entièrement la technologie, elle était curieuse de ses capacités et a remarqué que d'autres artistes créaient des communautés en ligne pour partager leurs nouvelles créations en IA. L'espoir de se connecter avec d'autres a attiré Veatch dans l'univers de l'IA, mais elle a été choquée de constater à quel point la technologie produisait souvent des images empreintes de racisme et de sexisme.

Veatch a été encore plus troublée par l'indifférence de ses pairs, passionnés d'IA, face aux contenus haineux générés par la machine sans qu'ils soient explicitement sollicités. Cette situation bizarre l'a éloignée de ses premières expérimentations avec l'IA générative, mais l'a également inspirée à réaliser Ghost in the Machine, un nouveau documentaire sur les technologies et les courants de pensée qui ont préparé le terrain pour l'existence de l'IA générative.

Une analyse historique

Au lieu de se concentrer sur les bénéfices potentiels (bien que très improbables) que les accélérateurs d'IA générative affirment être à portée de main, Ghost in the Machine explore l'histoire de la technologie pour expliquer pourquoi elle fonctionne de la manière actuelle. Lors d'une récente conversation avec Veatch, elle a exprimé son désir de chroniquer la genèse de l'IA générative afin de donner aux gens une vue claire du cycle d'hypothèse intense dans lequel nous vivons actuellement.

Elle a souligné l'importance de comprendre le terme « intelligence artificielle », qui, selon elle, ne signifie rien de concret et est simplement un terme marketing. Ce terme a été inventé en 1956 par le scientifique en informatique John McCarthy pour obtenir plus de financements pour ses projets. Le documentaire présente cette invention comme l'un des nombreux points importants sur une chronologie qui commence en Angleterre à l'époque victorienne avec la naissance de l'eugénisme.

Les racines de l'eugénisme

Francis Galton, cousin de Charles Darwin, est l'initiateur de l'eugénisme — la croyance raciste et discréditée selon laquelle l'humanité peut être améliorée par l'élimination systématique des races « inférieures » (entendez : non-blanches). Bien que Galton ait apporté des contributions utiles à l'académie, Veatch a expliqué qu'il est crucial de ne pas minimiser le fait que ses croyances suprémacistes blanches ont influencé les sciences sociales de son époque.

Galton et son protégé Karl Pearson n'étaient pas directement impliqués dans le développement des premières machines computationnelles, mais le travail fondamental de Galton sur la modélisation multidimensionnelle a façonné la pensée de Pearson alors qu'il développait des outils statistiques comme la régression logique, qui est l'un des composants fondamentaux de l'apprentissage automatique moderne.

Les implications contemporaines

Veatch a noté que cette pensée raciste a conduit Galton et ses pairs à croire que l'intelligence humaine pouvait être mesurée et que les cerveaux humains fonctionnaient de manière similaire aux machines. Cette transition a joué un rôle majeur dans la vente au public de l'idée fantastique de l'intelligence artificielle.

Elle a également mentionné que, lorsqu'elle a examiné la question de la superintelligence en tant que documentariste, elle a rapidement réalisé que la science raciale était profondément ancrée dans cette technologie. Ghost in the Machine utilise cette analyse historique pour expliquer pourquoi les entreprises développant cette technologie semblent si désintéressées par les problèmes contemporains qu'elle soulève.

Une expérience personnelle

Veatch a partagé ses propres expériences troublantes avec l'IA générative, notamment lorsqu'elle a utilisé une version précoce de Sora dans un groupe d'artistes. Elle se souvient d'une femme de couleur exprimant des préoccupations concernant la manière dont le modèle la « blanchissait » chaque fois qu'elle lui demandait de générer des images basées sur des photos d'elle-même.

Elle a pris l'initiative de contacter directement OpenAI pour alerter l'entreprise sur les résultats « racistes, sexistes et misogynes » qu'elle observait. Cependant, ses préoccupations ont été écartées par la société, ce qui a alimenté sa détermination à comprendre pourquoi tant de formes d'intelligence générative se comportaient de manière problématique.

Conclusion

Les voix présentées dans Ghost in the Machine — un mélange de chercheurs en IA, d'historiens et de théoriciens critiques — soutiennent que chaque aspect de l'espace IA a été profondément influencé par ses connexions historiques avec des domaines scientifiques construits pour soutenir des visions du monde discriminatoires. Veatch a exprimé son désintérêt pour obtenir l'accès aux dirigeants des entreprises critiquées dans son film, affirmant qu'elle ne souhaitait pas compromettre son message en les incluant.

Ghost in the Machine sera disponible en streaming via Kinema du 26 au 28 mars avant de passer à l'antenne sur PBS cet automne.