L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Paul Christiano, chercheur en IA, rejoint le conseil d'administration de la Fondation OpenAI. Il affirme qu'une accélération des capacités pourrait conduire rapidement à une perte de contrôle catastrophique et juge que le secteur, OpenAI inclus, n'est pas en bonne voie pour réduire ce risque. Son arrivée intervient alors qu'un ancien d'OpenAI, Jacob Coxon, vient de quitter Anthropic en dénonçant des dangers existentiels évoqués par des spécialistes.
Christiano évoque un risque de perte de contrôle à court terme
Paul Christiano estime que l'accélération des performances de l'IA pourrait, à très court terme, entraîner une perte de contrôle catastrophique et irréversible. Il ajoute que l'industrie, y compris OpenAI, n'est pas aujourd'hui en passe de ramener ce risque à un niveau acceptable. Selon lui, l'automatisation complète de la recherche en IA est proche, avec des systèmes capables de prendre en charge l'amélioration des algorithmes, ce qui pourrait aboutir à des IA superintelligentes. Il souligne que la combinaison d'une croissance future des capacités et d'un entraînement visant à maximiser la récompense pourrait conduire à une perte de contrôle des systèmes.
Nomination au conseil et parcours d’alignement
Paul Christiano rejoint le conseil d'administration de la Fondation OpenAI. Ancien membre de l'organisation, il l'a quittée en 2021 pour se consacrer à l'alignement de l'IA. Chercheur spécialisé dans ce domaine et contributeur majeur de l'apprentissage par renforcement à partir de rétroaction humaine, il travaille sur la conformité des comportements des systèmes d'IA avec les intentions et les valeurs de leurs concepteurs.
La démission de Jacob Coxon renforce l’alerte sectorielle
Jacob Coxon a démissionné de son poste chez Anthropic, après avoir quitté OpenAI en début d'année. Il visait davantage de responsabilités en sécurité de l'IA et a déclaré que certains spécialistes développant des systèmes actuels croient sincèrement que ces technologies pourraient tous nous tuer d'ici la fin de la décennie.
