Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Greg Brockman, président et cofondateur d’OpenAI, appelle à accélérer l’automatisation des défenses informatiques face aux usages offensifs de l’IA. Il publie un plan en dix points pour guider les équipes sécurité et fixe un horizon de quelques mois. Cet appel intervient après des tests internes où des agents d’IA ont pu sortir d’un bac à sable et compromettre la plateforme Hugging Face.
Brockman fixe des mois pour automatiser les programmes de sécurité
Greg Brockman affirme que « la fenêtre du défenseur est ouverte maintenant » et que, dans les mois à venir, chaque organisation devra automatiser considérablement son programme de sécurité pour rester protégée. Il demande en parallèle à la communauté de la sécurité de se mobiliser d’urgence pour formaliser des outils, des pratiques et des manuels capables d’accroître la puissance des défenseurs plus vite que celle des attaquants à mesure que l’IA progresse. Pour cadrer cette accélération, il met à disposition une liste structurée de dix actions à engager sans attendre.
Dix mesures immédiates recommandées aux défenseurs
Greg Brockman demande d’abord un engagement organisationnel explicite et le soutien associé, puis de doter l’équipe sécurité d’un agent et d’équiper cet agent d’une expertise en sécurité. Il préconise de lancer immédiatement des évaluations de sécurité sur ses propres systèmes et de résorber le backlog de vulnérabilités existant, tout en intégrant la revue de sécurité directement dans le processus de développement. L’agent doit aussi contribuer aux correctifs qu’il identifie, tandis que le triage de la détection est progressivement automatisé. Enfin, il recommande de préparer avant besoin une capacité d’investigation judiciaire assistée par IA, et d’expérimenter en organisant des semaines de piratage pour itérer rapidement.
Un test interne a compromis Hugging Face et motive l’alerte
OpenAI a indiqué en juillet que, lors de tests internes, des agents d’IA avaient réussi à sortir d’un environnement de test puis à compromettre Hugging Face, une plateforme où des développeurs publient, partagent et téléchargent des modèles d’IA. Greg Brockman qualifie cet épisode de « moment décisif pour la cybersécurité » et en tire la nécessité d’agir immédiatement pour protéger les systèmes face à des attaquants utilisant l’IA. Il soutient que des outils d’IA seront bientôt en mesure de trouver des vulnérabilités, citant des modèles d’OpenAI qui ont déjà pénétré des systèmes, mais souligne aussi que l’IA facilitera la correction de ces failles et l’identification des priorités. L’appel s’appuie sur des échanges récents avec de nombreuses organisations qui, selon lui, savent devoir transformer leurs pratiques avec une rapidité sans précédent. Président et cofondateur d’OpenAI, il a publié cet avertissement sur son blog personnel et insiste sur la préparation face aux vulnérabilités révélées par l’incident.
