Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Anthropic, une entreprise de premier plan dans le domaine de l'intelligence artificielle, a récemment annoncé la création d'une nouvelle équipe dédiée à l'étude des interactions entre l'IA et l'État de droit. Cette initiative vise à explorer non seulement les impacts économiques de l'IA, mais aussi ses implications pour la démocratie. Anthropic a déjà étudié comment Claude et l'IA transforment l'économie, mais l'entreprise souhaite désormais comprendre ce que l'avenir réserve à la démocratie.
La nouvelle équipe, intitulée "IA et Règle de Droit", se concentrera sur les questions relatives à l'avenir de la démocratie à l'ère de l'IA. Anthropic, qui a déposé confidentiellement un projet S-1 en vue d'une introduction en bourse très attendue, propose pour ce projet des salaires compris entre 295 000 et 345 000 dollars. Cette initiative s'inscrit dans une dynamique de croissance alors que l'entreprise se prépare à entrer en bourse.
Matthew Botvinick, chercheur résident à la Yale Law School, dirigera cette équipe. Il a exprimé sur X l'importance de comprendre comment l'IA influencera le pouvoir exécutif, les tribunaux, les élections et la délibération publique, qui sont les piliers de la démocratie constitutionnelle. Selon lui, cette équipe pose une question différente de celle de l'impact économique : que signifiera l'IA pour les institutions démocratiques ?
Les candidats recherchés doivent posséder un diplôme en droit, en sciences politiques ou dans un domaine similaire, au niveau du doctorat ou équivalent. Une expérience gouvernementale extensive à un niveau de leadership est également requise. Les candidats doivent être capables de comprendre les capacités et les risques de l'IA, ainsi que les institutions démocratiques pour identifier les menaces structurelles potentielles. L'annonce de recrutement précise que le candidat idéal doit avoir une compréhension suffisante du paysage technique pour raisonner sur les capacités et les risques de l'IA.
Quatre axes stratégiques
L'équipe "IA & Règle de Droit" se concentrera sur quatre domaines principaux :
- Évaluations de la sécurité de l'IA sous un angle légal
- Analyse des vulnérabilités institutionnelles
- Exploration des nouvelles questions juridiques liées à l'IA de pointe
- Applications visant à renforcer les processus démocratiques
Certaines de ces questions sont déjà en cours d'examen. Un désaccord notable entre Anthropic et le Pentagone a mis en lumière les préoccupations autour des normes constitutionnelles utilisées pour entraîner les modèles d'IA. Emil Michael, responsable de la R&D du Pentagone, a exprimé ses inquiétudes quant à la manière dont Anthropic entraîne Claude en fonction de sa constitution interne. Ce litige, toujours en cours, a vu le Pentagone mettre Anthropic sur liste noire, une décision que l'entreprise conteste.
En parallèle, des questions juridiques émergent, comme le montre le procès intenté par Nippon Life Insurance contre OpenAI. Ce cas souligne les défis posés par l'utilisation de l'IA dans des contextes juridiques, où des utilisateurs ont tenté de s'appuyer sur ChatGPT pour rédiger des documents légaux afin de rouvrir un accord de règlement. OpenAI a demandé le rejet de l'affaire, affirmant que "ChatGPT n'est pas un avocat et ne pratique pas le droit."
