Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Le scientifique en chef d’OpenAI avance une justification sécuritaire à l’entraînement rapide de modèles bien plus puissants. Il appelle toutefois à écarter toute démarche « à tout prix » et place la construction de défenses au cœur du déploiement de l’entreprise.
Écarter l’imprudence face à la gravité des enjeux
Jakub Pachocki avertit que l’incertitude liée aux progrès attendus de l’IA et au besoin de bâtir des défenses ne doit pas servir d’excuse à l’imprudence. Il juge l’idée d’avancer à tout prix absurde dès lors que la gravité des enjeux est prise en compte. Il situe explicitement ces risques dans les dangers que poseraient d’autres systèmes d’IA.
Justifier l’accélération de l’entraînement des modèles
Pour Jakub Pachocki, l’argument le plus solide en faveur d’un entraînement rapide de modèles bien plus intelligents est la nécessité de construire des systèmes défensifs face à d’autres IA. Il présente ainsi une justification à poursuivre l’accélération, en la reliant à une logique de protection contre ces menaces.
Faire de la défense une priorité du déploiement d’OpenAI
Il affirme que des IA puissantes et alignées seront indispensables pour la défense. Les objectifs cités incluent la sécurisation des infrastructures, la protection en temps réel contre des agents indésirables et l’invention de nouvelles mesures de protection. Il précise que cet axe constituera un objectif principal des efforts de déploiement d’OpenAI.
