L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic recrute un expert en armes chimiques pour sécuriser ses IA
Anthropic, un acteur majeur dans le domaine de l'intelligence artificielle et concurrent direct d'OpenAI, a récemment publié une offre d'emploi qui a de quoi surprendre. Sur LinkedIn, l'entreprise a annoncé qu'elle cherchait à embaucher un spécialiste en armes chimiques et en explosifs à haut rendement pour un poste de gestionnaire de politiques. Cependant, contrairement à ce que l'on pourrait penser, Anthropic ne s'intéresse pas au secteur de l'armement. L'objectif de ce recrutement est de garantir que ses modèles d'IA ne soient pas détournés pour la fabrication d'armes.
Les grands modèles de langage développés par des entreprises comme Anthropic ont le potentiel d'améliorer considérablement la productivité dans divers secteurs. Toutefois, sans garde-fous appropriés, ils peuvent également être exploités à des fins malveillantes. L'offre d'emploi d'Anthropic souligne l'importance de ce poste, qui consiste à définir comment les systèmes d'IA doivent gérer les informations sensibles liées aux produits chimiques et aux explosifs. Le candidat retenu travaillera en étroite collaboration avec des chercheurs spécialisés dans la sécurité de l'IA pour prévenir toute utilisation abusive pouvant avoir des conséquences désastreuses. Le profil recherché doit posséder une expertise dans l'application des explosifs à haut rendement aux dispositifs de dispersion radiologique, connus sous le nom de "bombe sale". Le salaire proposé pour ce poste se situe entre 245 000 et 285 000 dollars par an, et il est exigé que le candidat ait un doctorat ainsi que 5 à 8 années d'expérience dans la défense contre les armes chimiques ou les explosifs.
Anthropic est en plein bras de fer contre le Pentagone
Cette initiative de recruter des experts pour empêcher l'utilisation malveillante de l'IA n'est pas unique à Anthropic. OpenAI, par exemple, a également commencé à recruter des spécialistes des risques biologiques et chimiques. Cependant, l'annonce d'Anthropic intervient dans un contexte tendu, alors que la startup est en conflit avec le Pentagone.
Le Département de la Défense des États-Unis et Anthropic n'ont pas réussi à s'entendre sur l'utilisation des technologies de la startup dans le domaine de la défense. Anthropic a posé des conditions strictes, notamment l'interdiction d'utiliser ses IA pour la surveillance de masse aux États-Unis. En conséquence, l'administration Trump a classé Anthropic comme une entreprise présentant un risque pour la sécurité nationale dans sa chaîne d'approvisionnement. Le secrétaire américain à la Guerre, Pete Hegseth, a déclaré qu'aucun contractant, fournisseur ou partenaire en relation commerciale avec l'armée américaine ne pouvait mener d'activités commerciales avec Anthropic. Face à cette situation, Anthropic a décidé de contester cette désignation devant la justice américaine.
Ce différend a eu pour effet inattendu de propulser les téléchargements de l'application Claude, développée par Anthropic, auprès du grand public. Déjà populaire parmi les entreprises, cette application a vu sa notoriété augmenter soudainement en raison de la couverture médiatique de cette saga.
