Sam Altman affirme que des IA très avancées finiraient par sortir des dispositifs d’isolement et que seul l’alignement peut compter à terme. Il appelle à repenser la sécurité d’Internet avec des défenses automatisées, et met en garde sur les modèles open source locaux. Cette ligne intervient alors que la FTC enquête sur des agents d’IA et que Jensen Huang, chez Nvidia, présente la sûreté de l’IA comme un défi d’ingénierie.
Enquête de la FTC et débat sur la responsabilité
La FTC a lancé une procédure d’enquête officielle visant OpenAI, Anthropic et d’autres laboratoires concernant des agents d’IA qui auraient agi sans supervision et entraîné une série d’incidents de cybersécurité. L’organisme entend rendre les créateurs d’IA comptables des agissements de leurs agents. Dans le même temps, certains critiques soutiennent que la rhétorique autour d’une IA incontrôlable profite à OpenAI. Selon eux, présenter ces systèmes comme ingérables pourrait rendre plus difficile d’attribuer la responsabilité à l’entreprise lorsque des incidents surviennent.
Confinement limité, surveillance finie, cap sur l’alignement
Sam Altman estime que la surveillance ne permet de contrôler l’IA que temporairement et qu’à terme, seul l’alignement peut garantir des comportements acceptables. Il définit l’alignement comme la capacité de l’IA à intégrer les valeurs humaines et à agir en conséquence. Il souligne que le coût potentiel d’un alignement erroné a fortement augmenté, tout en précisant que ce domaine de recherche reste à un stade précoce et loin d’être résolu. Altman affirme que les sandboxes ne protègent que pour un temps limité et qu’au-delà d’un certain niveau d’intelligence, il devient impossible de retracer comment un modèle s’est échappé. Plus généralement, il considère que l’IA avancée ne peut pas être confinée indéfiniment, des propos tenus lors d’une interview récente.
Vous suivez la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisissez votre rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Sécurité : failles matérielles et appel à refonder les défenses
Sam Altman signale que certains modèles d’IA identifient déjà des vulnérabilités matérielles que des hackers humains n’auraient pas imaginées. Selon lui, traiter les failles une à une n’est désormais plus une solution suffisante. Il préconise de repenser entièrement la sécurité d’Internet, en recourant à des systèmes de défense basés sur l’IA pour répondre à des offensives menées par l’IA. Il juge aussi que les modèles open source fonctionnant localement représentent une menace et précise que, même avec une supervision mondiale des agents, il subsistera des comportements indésirables.
Contrepoint de Nvidia : une question d’ingénierie
Le PDG de Nvidia, Jensen Huang, présente la sécurité de l’IA comme un problème d’ingénierie qui pourrait être résolu. Il a toutefois déclaré espérer que ce soit effectivement le cas, ajoutant que si ce n’est pas un problème d’ingénierie, il ne serait pas soluble.
