Connor Leahy plaide pour interdire la superintelligence

Le directeur exécutif de ControlAI estime que l’alignement et le confinement ne suffisent plus face aux systèmes les plus avancés. Il situe le seuil critique à l’IA capable d’en concevoir une meilleure, appelle à des accords internationaux et juge les grands laboratoires comme des acteurs politiques. Ses positions s’inscrivent alors que des textes émergent aux États‑Unis et au Royaume‑Uni.

Leahy fixe le point de non-retour à l’IA qui conçoit une IA

Connor Leahy considère que le seuil critique sera franchi lorsqu'une intelligence artificielle pourra en concevoir une meilleure, ce qui pourrait enclencher un cycle d'auto-amélioration difficile à maîtriser. Il soutient la mise en place d'accords internationaux fondés sur le principe « faire confiance mais vérifier ». Selon lui, il ne serait pas dans l'intérêt de la Chine de poursuivre le développement de la superintelligence. Il estime également que les laboratoires d'IA de pointe agissent davantage comme des acteurs politiques que comme de simples entreprises à la recherche de profits, alors que des trillions de dollars sont investis dans l'expansion des centres de données.

Interdire la superintelligence: projet Sanders‑Casar et piste britannique

Une proposition américaine, le « Ban Superintelligence Act » porté par Sanders et Casar, fait actuellement l'objet d'un examen, pendant qu'au Royaume‑Uni, une loi du même ordre a été élaborée avec l'appui de ControlAI. Connor Leahy considère cependant que la version américaine du texte pourrait dépasser ce qui serait nécessaire. ControlAI soutient qu'il faudrait interdire aux entreprises la mise au point de la superintelligence. Selon Leahy, des positions qui paraissaient extrêmes il y a six mois sont désormais soutenues par une vague de nouvelles législations.

Incidents de sécurité et limites de l’alignement alimentent l’alerte

Un incident récent impliquant OpenAI et Hugging Face a mis en évidence les risques liés à des systèmes d'IA de plus en plus puissants. Connor Leahy considère que les approches d'alignement et de confinement ne suffisent plus à gérer ces risques, alors que certaines entreprises d'IA présentent la superintelligence comme inévitable. Il affirme que la superintelligence doit être vue comme un adversaire plutôt que comme une arme. Leahy est directeur exécutif de ControlAI, chercheur en intelligence artificielle et entrepreneur. Il a exposé ces positions lors d'un entretien avec Rebecca Bellan dans le podcast Equity.