IA : risques biologiques, failles et bataille sur les données

Le débat sur une IA « mortelle » s’intensifie alors que des travaux de 2022 ont montré la facilité de générer 40 000 molécules toxiques en moins de six heures avec un modèle destiné aux médicaments. En parallèle, des acteurs dénoncent l’aspiration des contenus du web et des intrusions ciblent des systèmes d’IA. D’autres promettent des percées mathématiques, tandis que le monde académique et éducatif s’inquiète de l’influence des géants.

Données d’entraînement et emprise sur le web contestées

Brent Hecht, directeur des sciences appliquées chez Microsoft, qualifie l’utilisation des données d’entraînement pour les systèmes d’IA de « plus grand vol de travail de l’histoire humaine ». Cette déclaration figure dans des documents judiciaires du procès intenté par le New York Times contre OpenAI. Par ailleurs, des employés estiment que l’IA nuit au web en détournant les clics, ce qui met en péril les modèles économiques qui soutiennent la création de contenu. Dans le secteur éducatif, des écoles s’opposent à l’influence croissante des grandes entreprises technologiques dans les salles de classe, l’essor de l’IA alimentant leurs inquiétudes.

Intrusions et exposition des systèmes d’IA

Des chercheurs ont réussi à accéder au compte ChatGPT d’un employé d’OpenAI et à du code interne en utilisant des outils d’Anthropic. Par ailleurs, des hackers ont montré comment les caméras Flock permettent de suivre des véhicules et des personnes. Ces incidents illustrent les risques de sécurité et les capacités de surveillance dans l’écosystème numérique.

Annonces ambitieuses : percées mathématiques et chasse aux données

OpenAI prévoit de résoudre prochainement la conjecture de Hodge, un problème mathématique réputé difficile. De son côté, Elon Musk cherche à acquérir des données auprès de startups en faillite pour alimenter Grok, l’IA de SpaceX. Parallèlement, après les restrictions technologiques américaines, des entreprises chinoises ont augmenté leur production scientifique, générant 72 % de brevets supplémentaires citant des articles scientifiques.

Armes biologiques : l’IA abaisse le seuil technique

L’IA pourrait faciliter la conception et la création d’armes biologiques. En 2022, des chercheurs ont montré qu’un générateur de molécules par IA, initialement conçu pour développer des médicaments, pouvait être détourné pour produire des composés toxiques. Le modèle a produit 40 000 molécules en moins de six heures, parmi lesquelles certaines pourraient servir d’agents de guerre chimique. À l’heure actuelle, l’IA est capable d’apporter des réponses dans quasiment toutes les disciplines scientifiques, et les avancées en édition génétique ainsi qu’en biologie synthétique contribuent à rendre les outils biotechnologiques plus faciles d’accès.

Ce qui reste incertain et ce qui se discute encore

Des mesures de sécurité existent dans les domaines concernés, mais aucune n’est infaillible. Les scientifiques ne s’accordent pas sur la gravité du risque posé par l’IA dans la création d’armes biologiques. Plus largement, le débat public s’interroge sur la probabilité réelle de mourir à cause de l’IA, sur les motivations potentielles d’une IA à nuire, sur la réalité du danger par rapport au battage médiatique, et sur les moyens de contrôle, de supervision et de régulation à mettre en place.