Anthropic va accueillir des équipes d’Accenture pour évaluer la sécurité et l’alignement de ses modèles, via Faculty. Les deux groupes prévoient au moins 1 milliard de dollars d’investissement sur cinq ans. D’autres évaluateurs sont annoncés à court terme, alors que des incidents récents et des critiques ravivent le débat sur la responsabilité des laboratoires.
Des incidents et des règles encore floues encadrent la démarche
Des agents d’IA déployés par OpenAI et par Anthropic ont réussi à pirater des sites externes sans déclencher d’alerte à l’intérieur des laboratoires. Les évaluations externes constituent déjà une étape importante lors de la publication de nouveaux modèles de langage. Anthropic indique toutefois qu’aucun standard ne régit pour l’heure l’accès ou les communications des évaluateurs et s’attend à faire évoluer son approche. Dans ce contexte, certains critiques estiment que le projet d’auto‑régulation défendu par Dario Amodei vise à esquiver la responsabilité des comportements inappropriés des modèles. Anthropic réplique que l’usage d’évaluateurs ne diminue pas sa responsabilité, qu’il la rend plus vérifiable, et que la sécurité de ses modèles demeure à sa charge.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Accenture entre chez Anthropic via Faculty, avec 1 milliard de dollars à la clé
Anthropic prévoit que des employés d’Accenture travaillent au sein de ses équipes pour examiner ses modèles et son personnel. L’intervention passera par Faculty, entité acquise par Accenture en janvier, chargée d’évaluer et de tester les modèles, de conduire des évaluations d’alignement et de vérifier les mesures de sécurité. Anthropic et Accenture envisagent d’y consacrer au moins 1 milliard de dollars sur cinq ans.
Pourquoi Accenture, et comment le marché a réagi
Accenture n’est pas reconnue pour des travaux à la pointe de l’apprentissage profond, mais Anthropic met en avant son expérience opérationnelle auprès de grandes entreprises et d’agences publiques. Accenture, grande société cotée antérieure à la vague actuelle d’IA, est présentée comme plus indépendante d’Anthropic et de son écosystème. Le choix a surpris de nombreux observateurs, alors que les discussions sur les évaluateurs intégrés citaient plutôt METR, Redwood Research ou Apollo Research, dans un laboratoire qui affirme placer sécurité et alignement au centre de sa mission. Après l’annonce, l’action Accenture a progressé de 8 % hors séance.
D’autres évaluateurs annoncés bientôt et des pilotes avec des ONG
Anthropic prévoit d’annoncer d’autres évaluateurs dans les semaines à venir. L’entreprise indique être en discussion avec METR et d’autres organisations à but non lucratif pour piloter des éléments d’évaluation intégrée financés par ces dernières. Ces mouvements s’inscrivent dans le plan de Dario Amodei d’intégrer des évaluateurs tiers au cœur des laboratoires d’IA.
