Anthropic défie Washington avec son institut sur l'IA

Anthropic inaugure un institut pour l'impact sociétal de l'IA

Anthropic, une entreprise en désaccord avec l'administration Trump, a récemment annoncé la création de l'Anthropic Institute. Cet institut a pour mission de sensibiliser le grand public aux impacts sociétaux de l'intelligence artificielle (IA). Sous la direction de Jack Clark, l'institut se concentrera sur les répercussions de l'IA sur divers aspects tels que l'économie, l'emploi, ainsi que les menaces potentielles que ces technologies pourraient engendrer.

L'entreprise a été qualifiée de risque pour la chaîne d'approvisionnement par le gouvernement américain, ce qui a poussé Anthropic à adopter une stratégie visant à renforcer son image de responsabilité face aux transformations technologiques en cours. En refusant de mettre son IA, nommée Claude, à disposition du Pentagone, Anthropic a déclenché des tensions croissantes avec les autorités américaines.

Objectifs et structure de l'Anthropic Institute

L'Anthropic Institute a pour ambition de diffuser les connaissances accumulées sur les défis posés par l'IA, alors que l'entreprise prévoit des avancées "bien plus spectaculaires" dans les deux prochaines années. Pour ce faire, l'institut regroupe et élargit trois équipes de recherche déjà existantes :

• Frontier Red Team : chargée de tester les limites des systèmes d'IA.
• Societal Impacts : dédiée à l'étude de l'utilisation réelle de l'IA.
• Economic Research : focalisée sur l'impact de l'IA sur l'emploi et l'économie.

Une équipe pluridisciplinaire pour des enjeux variés

Jack Clark, co-fondateur d'Anthropic, assumera le rôle de Head of Public Benefit. Il sera épaulé par une équipe pluridisciplinaire composée d'ingénieurs, d'économistes et de chercheurs en sciences sociales. L'institut se penchera sur des questions variées, telles que :

• Comment les systèmes d'IA puissants vont-ils transformer les emplois et l'économie ?
• Quelles nouvelles menaces pourraient être amplifiées ou introduites par l'IA ?
• Qui doit être informé en cas d'auto-amélioration récursive de l'IA ?

Contexte et enjeux de l'annonce

Cette annonce intervient dans un contexte où Anthropic subit une pression significative pour renforcer sa crédibilité et sa fiabilité. En s'engageant auprès des entreprises et des industries confrontées aux bouleversements technologiques, Anthropic espère exploiter son accès à des informations que seuls les développeurs de modèles avancés détiennent. Cette démarche pourrait jouer un rôle clé dans la manière dont l'IA est perçue et intégrée dans la société, face à des enjeux économiques et sécuritaires majeurs.