L’accord d’OpenAI avec l’armée américaine provoque déjà une démission

L’accord d’OpenAI avec l’armée américaine provoque déjà une démission

L’intelligence artificielle se trouve aujourd’hui au cœur de nombreux débats politiques, industriels et éthiques. À mesure que ces technologies s’intègrent dans des domaines sensibles, les entreprises du secteur doivent arbitrer entre innovation, opportunités économiques et responsabilité sociétale.

Ainsi, une annonce récente d’OpenAI illustre les tensions qui peuvent apparaître en interne. Après la signature d’un accord avec le Pentagone pour permettre l’utilisation de ses technologies dans des applications militaires, une dirigeante de l’entreprise a choisi de quitter ses fonctions.

Une décision qui relance les interrogations sur la gouvernance et les limites de l’IA dans les domaines liés à la défense.

Une décision motivée par des questions de principe

Caitlin Kalinowski, responsable des produits matériels et directrice de la branche robotique chez OpenAI, a annoncé sa démission sur LinkedIn. Dans son message, elle explique que son choix est directement lié à l’accord conclu avec le gouvernement américain.

Selon elle, l’intelligence artificielle peut jouer un rôle dans la sécurité nationale. Toutefois, certaines applications évoquées soulèvent des enjeux majeurs, notamment :

• La surveillance des citoyens américains sans contrôle judiciaire
• L’utilisation de systèmes autonomes létaux sans validation humaine

La dirigeante a insisté sur le fait que sa décision ne visait pas les équipes de l’entreprise ni son dirigeant, Sam Altman. « C’est une question de principe, pas de personnes », a-t-elle déclaré, ajoutant avoir beaucoup de respect pour la direction et les collaborateurs de l’organisation.

Elle reproche surtout à l’entreprise d’avoir annoncé ce partenariat trop rapidement, avant que des garde-fous précis ne soient établis. Pour elle, ces questions de gouvernance nécessitent un cadre plus structuré et davantage de réflexion avant toute communication publique.

Un partenariat signé dans un contexte de rivalité dans l’IA

Cet accord entre OpenAI et le Pentagone a été conclu quelques heures seulement après que son concurrent Anthropic a refusé de répondre à un ultimatum du gouvernement américain.

Les autorités souhaitaient obtenir un accès sans restriction à Claude, et le refus de l’entreprise aurait suscité la colère de Donald Trump, très critique envers les acteurs de l’IA qui limitent l’usage militaire de leurs technologies.

Ainsi, OpenAI a finalement accepté de collaborer avec les autorités américaines, et face aux critiques, Sam Altman a ensuite précisé que l’accord avait été modifié. Une clause a été ajoutée afin d’interdire l’utilisation intentionnelle des systèmes d’IA de l’entreprise pour surveiller les citoyens américains.

Mais malgré ces ajustements, la controverse a marqué les esprits en interne comme à l’extérieur de l’entreprise.

Une figure issue de la réalité augmentée et de la robotique

Avant de rejoindre OpenAI, Caitlin Kalinowski était notamment passée par Meta, où elle participait au développement de lunettes de réalité augmentée.

Au sein d’OpenAI, elle supervisait la conception de produits matériels destinés à faciliter l’usage quotidien de l’IA générative, notamment autour de dispositifs connectés.

Cette démission illustre les dilemmes auxquels sont confrontées les entreprises d’IA lorsque leurs innovations s’étendent à des domaines stratégiques comme la défense ou la sécurité nationale.