Anthropic et OpenAI : duel sur la réglementation de l'IA

Anthropic et OpenAI : deux visions divergentes pour la réglementation de l'IA

Dario Amodei, co-fondateur et directeur général d'Anthropic, plaide pour que les États américains adoptent des lois plus strictes concernant la sécurité de l'intelligence artificielle. Cette approche se distingue nettement de celle d'OpenAI, qui milite pour un cadre réglementaire national unifié. Cette divergence de stratégies influence déjà la législation des États, ainsi que les campagnes de lobbying et les dépenses politiques.

Anthropic, acteur majeur dans le domaine de l'intelligence artificielle, a choisi une stratégie visant à encourager les États à mettre en place des garde-fous de plus en plus rigoureux pour l'IA. Cette approche contraste avec celle d'OpenAI, qui cherche à harmoniser les réglementations à travers un ensemble de règles communes à l'échelle nationale.

La stratégie d'Anthropic pour une sécurité renforcée

Cesar Fernandez, responsable des relations gouvernementales d'Anthropic aux États-Unis, a exprimé le souhait de l'entreprise de voir émerger une législation qui élève considérablement le niveau de sécurité des systèmes d'IA les plus avancés. Cette déclaration intervient alors qu'OpenAI mène une campagne pour influencer les réglementations étatiques sur l'IA. Chris Lehane, principal lobbyiste d'OpenAI, a introduit le concept de "fédéralisme inversé" pour décrire ses efforts visant à contourner un Congrès paralysé et à établir un cadre national en s'inspirant de législations État par État.

Cette critique implicite d'OpenAI s'aligne avec l'image d'Anthropic, dont les dirigeants ont quitté OpenAI en 2020, préoccupés par la priorité accordée à la sécurité. Anthropic plaide constamment pour des règles de sécurité de l'IA plus strictes, tant au niveau fédéral qu'étatique, un effort que certains critiques, notamment des proches de l'administration Trump et du secteur du capital-risque, considèrent comme une tentative de ralentir les régulateurs et d'exclure les concurrents.

OpenAI défend son approche de "fédéralisme inversé"

Liz Bourgeois, porte-parole d'OpenAI, a défendu l'approche de l'entreprise, affirmant que le "fédéralisme inversé", où des sauvegardes étatiques efficaces influencent les normes nationales, aide les régulateurs à faire appliquer la loi, offre au public des protections plus claires et permet aux développeurs de se concentrer sur la sécurité plutôt que sur des exigences contradictoires.

La divergence entre les approches d'OpenAI et d'Anthropic survient à un moment crucial pour la réglementation de l'IA. Avec un Congrès hésitant à agir et une Maison Blanche oscillant entre une approche légère et une main lourde, l'industrie de l'IA se tourne de plus en plus vers les États pour obtenir une clarté réglementaire. Le choix des législateurs d'adopter un cadre unique ou de chercher à se surpasser influencera considérablement la forme finale des règles sur l'IA aux États-Unis.

Les initiatives législatives d'Anthropic

À l'instar de Lehane, Fernandez a exprimé son souhait d'un cadre fédéral, mais a souligné qu'une réponse gouvernementale aux risques posés par les modèles d'IA avancés "ne peut pas attendre une action à Washington". Anthropic a été le seul laboratoire d'IA de premier plan à soutenir la loi californienne de 2025 visant à réguler les modèles d'IA avancés, la première du genre dans le pays.

OpenAI n'a pas pris position sur la proposition californienne avant son adoption. Cependant, elle s'est depuis tournée vers cette loi, qui vise à favoriser une plus grande transparence dans les plans de sécurité des entreprises, comme un exemple à reproduire dans d'autres États. Anthropic, en revanche, a vu la loi californienne comme un tremplin pour intensifier ses efforts en matière de sécurité de l'IA.

Vers des lois de plus en plus strictes

Fernandez a déclaré que le développement rapide de modèles d'IA de plus en plus puissants était le principal facteur derrière le soutien de son entreprise à des projets de loi plus ambitieux — à New York, en Illinois et maintenant dans le Massachusetts — et son initiative d'intervenir plus tôt dans le processus législatif.

"Chacune de ces lois était plus stricte que la précédente, et elles ont toutes fait progresser de réelles obligations en matière de sécurité", a déclaré Fernandez. "La transparence et l'auto-déclaration, nous ne croyons plus qu'elles soient suffisantes." Il a cité le puissant modèle Claude Mythos d'Anthropic, que l'entreprise a trouvé capable d'exploiter des failles de sécurité dans chaque système d'exploitation informatique majeur lors de ses tests. Les préoccupations en matière de cybersécurité soulevées par Mythos (et sa version publique, connue sous le nom de Fable) ont suscité la panique au sein de l'administration Trump, qui a imposé des contrôles d'exportation sur la technologie jusqu'à ce qu'Anthropic et le gouvernement puissent traiter les vulnérabilités alléguées.

Les alliances politiques et les contributions financières

À la fin de l'année dernière, les lobbyistes d'OpenAI ont réussi à convaincre la gouverneure de New York, Kathy Hochul, de modifier le projet de loi sur la sécurité de l'IA de son État pour qu'il ressemble davantage aux règles de Californie. Mais, à la surprise de certains défenseurs de la sécurité, OpenAI a rejoint Anthropic pour soutenir une mesure en Illinois considérée comme plus stricte que celles de New York et de Californie. Cette proposition, signée en loi ce mois-ci par le gouverneur JB Pritzker, exige que les principales entreprises d'IA se soumettent à des audits indépendants annuels de leurs plans de sécurité — un mandat sans précédent.

Anthropic pousse encore plus loin. Fin juin, elle a soutenu des réglementations en cours d'élaboration dans le Massachusetts pour un projet de loi sur les obligations de développement économique que l'entreprise qualifie de proposition de sécurité de l'IA la plus forte au niveau des États. Le texte qu'elle a soutenu incluait une exigence pour que les principales entreprises d'IA engagent des évaluateurs indépendants pour évaluer le potentiel de risques catastrophiques, tels que la technologie aidant au développement d'armes biologiques, ainsi qu'une disposition habilitant le procureur général de l'État à faire respecter ce mandat.

Bourgeois, la porte-parole d'OpenAI, a déclaré que l'entreprise examine toujours la proposition du Massachusetts, mais a ajouté qu'OpenAI soutient l'accent mis par la législature de l'État sur les sauvegardes de l'IA.

Une bataille politique et financière

Les géants de l'IA se sont également affrontés sur le terrain politique. Chacun est associé à des réseaux de super PAC en concurrence qui ont jusqu'à présent investi des dizaines de millions de dollars dans des campagnes politiques à travers le pays. En juin, Anthropic a commencé à faire des contributions directement à des législateurs californiens.

"Nous soutenons des candidats pour les élections et les réélections lorsque leur point de vue sur la réglementation de la sécurité de l'IA est aligné avec notre mission de veiller à ce que la transition vers un monde avec une IA puissante soit bénéfique pour les gens de ce pays et du monde entier", a déclaré Fernandez. "Nous soutenons très activement des candidats où il y a un alignement idéologique."

Fernandez a précisé que l'entreprise ne coordonne pas avec les employés qui ont également fait des contributions à des candidats politiques en Californie et ailleurs. "Nous ne dirigeons pas nos employés pour qu'ils fassent des contributions, mais ils travaillent chez Anthropic parce qu'ils se soucient de l'avenir de l'IA et de la direction que cela prend s'il n'y a pas de politique de sécurité appropriée mise en place par les gouvernements", a déclaré Fernandez. "Je suppose que cela les pousse à s'engager dans le processus politique."