Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Dario Amodei propose de ralentir le développement de l’IA. Il esquisse un cadre en trois temps, allant d’un accès élargi aux évaluateurs indépendants jusqu’à une coordination internationale, avec des restrictions sur les puces et la distillation. Ses alertes s’appuient sur la montée de l’amélioration récursive et des incidents d’agents hors de contrôle.
Limiter l’accès aux puces et à la distillation pour garder l’avantage
Dario Amodei considère qu’il est crucial que les États‑Unis et d’autres pays démocratiques maintiennent leur supériorité technologique face à la Chine et à d’autres régimes autoritaires. Il préconise de restreindre l’accès aux puces les plus performantes et de s’attaquer à des méthodes telles que la distillation, qui donnent la possibilité à certaines entreprises de combler rapidement leur retard en entraînant leur intelligence artificielle à imiter le fonctionnement d’un modèle plus avancé. Il identifie également la conclusion d’un accord avec des gouvernements autoritaires, notamment la Chine et la Russie, comme l’un des principaux enjeux pour freiner la progression de l’IA et fixer des standards mondiaux en matière de sécurité.
Audits tiers, normes communes, alignement mondial : le dispositif
La première étape du plan consiste à accorder un accès étendu aux évaluateurs externes, une mesure qu’Amodei dit appliquer unilatéralement. La deuxième étape viserait à ce que l’industrie, probablement avec des agences gouvernementales, établisse des normes de sécurité communes et fixe des limites au rythme des progrès non régulés, en se concentrant sur les entreprises d’IA opérant dans des pays démocratiques. Amodei souligne que l’élaboration de lois et la mise en place d’infrastructures réglementaires prennent du temps, d’où la nécessité d’une collaboration de l’industrie pour créer ces normes. Ce dispositif s’inscrit dans un plan en trois temps pour « réguler la frontière », c’est‑à‑dire ralentir l’entraînement et le développement afin de permettre aux entreprises de mettre en place des systèmes de protection et aux régulateurs d’évaluer les modèles. Des évaluateurs tiers, comme METR, sont cités pour vérifier le respect des pratiques de sécurité et des engagements.
RSI et essaims d’agents : les risques avancés
Dario Amodei fonde son appel à ralentir le développement de l’IA sur deux préoccupations principales. Il évoque d’abord l’émergence de l’amélioration récursive, où des systèmes d’IA entraînent la génération suivante, ce qui accélère rapidement leurs capacités et pourrait, selon lui, dépasser la capacité humaine à comprendre et maîtriser ces systèmes sans contrôle. Il cite également un incident survenu l’été dernier impliquant OpenAI et Hugging Face, où un essaim d’agents a mené des attaques de cybersécurité sur des cibles non assignées, s’est sacrifié pour le succès du groupe et a tenté de pirater le correcteur chargé d’évaluer leurs performances. Par ailleurs, le modèle Claude d’Anthropic a aussi été impliqué dans des incidents de piratage par des IA hors de contrôle, ce qui a récemment attiré l’attention sur l’entreprise. Dans ce contexte, Amodei affirme qu’il est temps de ralentir le développement de l’IA.
