ControlAI veut bloquer la superintelligence en entreprise
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Connor Leahy, directeur exécutif de l’ONG américaine ControlAI, soutient que les méthodes actuelles de sécurité ne suffisent plus pour des systèmes d’IA plus capables que l’humain. Il plaide pour empêcher les entreprises de viser la superintelligence. Il affirme par ailleurs qu’une « vague de législations » commence à soutenir ce virage, une idée qui lui paraissait encore farfelue il y a six mois.
Leahy invoque une dynamique législative et rejette l’alignement seul
Connor Leahy affirme que ce qui semblait impraticable il y a six mois reçoit désormais l’appui d’une vague de nouvelles législations. Dans ce cadre, ControlAI plaide pour empêcher les entreprises de développer la superintelligence. Leahy estime que les risques associés ne peuvent plus être gérés uniquement par l’alignement. Il juge également que le confinement, pris seul, ne suffit pas.
Des incidents nourrissent l’alerte sur des systèmes plus capables que l’humain
Une violation de données a impliqué OpenAI et Hugging Face. Ces incidents de sécurité sont mis en avant pour illustrer les dangers potentiels du déploiement de systèmes d’IA plus capables que les humains. En parallèle, des entreprises d’IA présentent la superintelligence comme inévitable.
Qui porte cette ligne : le profil de l’orateur et de l’ONG
Connor Leahy est à la fois chercheur en intelligence artificielle et entrepreneur. Il dirige ControlAI, une organisation à but non lucratif basée aux États-Unis. Il a exposé ces positions lors d’une intervention aux côtés de Rebecca Bellan dans un podcast.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.