Greg Brockman demande aux entreprises d’automatiser la défense IA

Greg Brockman appelle les directions sécurité à accélérer l’automatisation défensive avec l’IA. Il décrit une fenêtre courte, avant la sortie attendue fin août d’un nouveau modèle à poids ouverts, et détaille des mesures concrètes, appuyées par une révision des propres défenses d’OpenAI et un test mené sur son site personnel.

Une fenêtre jugée brève et un appel au partage entre acteurs

Greg Brockman estime que les entreprises ne peuvent pas relever seules l’élévation du risque et appelle laboratoires d’IA, fournisseurs de sécurité, entreprises et mainteneurs à mutualiser résultats validés, correctifs et manuels afin que chaque découverte profite à l’écosystème. Il décrit la fenêtre d’action des défenseurs comme ouverte maintenant, avec la nécessité d’automatiser les programmes de sécurité dans les prochains mois pour rester au niveau des capacités adverses. Il mentionne un modèle supplémentaire, prévu pour une publication à la fin d’août, qui, selon lui, pourrait accélérer fortement le paysage des menaces. Dans ce contexte, il juge que la période pour bâtir des défenses assistées par IA se réduit, avant que des modèles largement disponibles ne comblent l’écart avec les capacités des attaquants.

Des gestes immédiats pour les équipes sécurité, centrés sur la vitesse

Greg Brockman propose un plan d’action orienté exécution rapide plutôt qu’une refonte complète des programmes. Il recommande d’obtenir l’adhésion de l’organisation et de mener des exercices de simulation pour anticiper le déroulement d’attaques au sein du contexte propre à chaque structure. Il conseille d’équiper les équipes d’un outil agentique tel que Codex ou son plugin de sécurité, avec des accès approuvés au code et à l’infrastructure, en ciblant d’abord les systèmes les plus critiques. Il suggère d’enrichir cet agent avec des compétences soutenues par la communauté (analyse statique, revue de code sécurité, analyse de variantes de vulnérabilités, risques de chaîne d’approvisionnement), puis de développer des capacités spécifiques alignées sur l’architecture et les modèles de menace de l’organisation. Les premières évaluations devraient porter sur les services exposés à Internet, les parcours d’authentification, l’infrastructure as code et les systèmes manipulant des données sensibles. Les équipes sont invitées à résorber l’arriéré de constats (scanners, alertes de dépendances, rapports de bug bounty), en demandant à l’agent de trier les problèmes exploitables du bruit. Il recommande d’intégrer la revue par agent dans les pipelines de développement pour contrôler en amont erreurs d’authentification, contournements d’accès, identifiants exposés et dépendances non sûres. Pour chaque vulnérabilité validée, l’agent peut proposer un correctif, écrire un test de régression et vérifier l’absence de réapparition, en conservant une revue humaine sur les changements à fort impact. Sur l’automatisation, Brockman préconise une montée en puissance : commencer par des analyses en lecture seule d’un dépôt, enchaîner avec l’analyse des pull requests puis le tri d’alertes en direct, et n’introduire la clôture automatique que pour des faux positifs étroitement définis. Il insiste pour que chaque décision reste humaine tant que la confiance n’est pas établie. Il oriente par ailleurs vers une demande d’accès de confiance afin d’utiliser GPT‑Daybreak‑Blue pour des usages défensifs comme la réponse aux incidents, l’ingénierie de détection et l’analyse de malwares, et recommande de s’exercer sur journaux et télémétrie avant tout incident réel.

OpenAI rehausse ses propres défenses et détaille quatre chantiers

Greg Brockman explique que l’incident visant Hugging Face a révélé qu’OpenAI avait sous‑estimé la portée des capacités d’attaque issues de ses propres modèles, amenant l’entreprise à durcir ses exigences et à accélérer ses travaux internes. Il décrit quatre axes structurants qui inspirent aussi ses recommandations aux autres organisations. Côté code, OpenAI s’appuie sur Codex avec un plugin de sécurité pour valider les changements et identifier des vulnérabilités avant déploiement. L’objectif annoncé est de détecter des failles réelles avant leur publication et de réduire le délai entre découverte et livraison des correctifs, avec l’ambition d’éliminer certaines classes de vulnérabilités dans le code nouvellement produit. Sur l’infrastructure, presque toutes les premières alertes sécurité sont triées par des systèmes d’IA, ce qui allège la charge des équipes et accélère la réponse. Ces détections sont reliées à des réponses automatisées limitées, les décisions à fort impact restant humaines, avec un but : détecter et réagir à la vitesse des machines. OpenAI déploie par ailleurs une exploration continue des chemins d’attaque pour traquer vulnérabilités, erreurs de configuration, identités sur‑privilégiées et frontières de confiance involontaires, dans une logique d’évaluation des invariants de sécurité à l’échelle des produits et de l’infrastructure. Enfin, l’entreprise investit dans les fondamentaux (architecture sécurisée, défense en profondeur, moindre privilège), en concevant des systèmes qui exigent l’échec simultané de contrôles indépendants avant tout scénario catastrophique. Isolement réseau, durcissement des charges, supervision et pratiques de mise à jour et de déploiement en sont des piliers, que Brockman juge d’autant plus essentiels que les capacités des IA progressent des deux côtés. OpenAI indique avoir commencé à entraîner des modèles dédiés à l’écriture de code plus sûr et met en avant la réalisation de preuves mathématiques, qu’elle affirme mobilisables pour une vérification formelle de la sécurité logicielle à des échelles difficiles pour des relecteurs humains.

Un test sur gregbrockman.com pour illustrer une réponse accélérée

Pour illustrer une mise en œuvre rapide, Greg Brockman rapporte avoir demandé à ChatGPT Work, en s’appuyant sur GPT‑5.6 Sol public, d’évaluer la sécurité de son site personnel, qu’il décrit comme un site statique sur AWS derrière Cloudflare. L’analyse a duré environ 15 minutes et a identifié 13 problèmes. Il estime que plusieurs n’étaient pas exploitables isolément, mais pouvaient l’être s’ils étaient combinés. Parmi les constats, des enregistrements DNS n’empêchaient pas l’usurpation d’adresses e‑mail, le site utilisait une version non sécurisée de jQuery et Cloudflare redirigeait vers AWS en HTTP non chiffré. Brockman a ensuite demandé à l’outil de corriger ces points ; il indique que cela a pris environ une heure. L’agent a agi via le panneau Cloudflare, sur les paramètres DNS, TLS et de sécurité avancée, a retiré complètement jQuery, a migré le site vers Cloudflare Pages et a lancé un déploiement progressif de DMARC. Brockman voit dans ce cas une démonstration à petite échelle d’un « cyberguardian » capable de repérer une longue traîne de mauvaises configurations qu’un humain peut manquer faute de temps ou d’expertise, puis d’appliquer des correctifs avec un déploiement adapté.

Incident OpenAI‑Hugging Face et course à deux vitesses

L’urgence invoquée par Greg Brockman découle d’un incident où un collectif agentique a pénétré l’infrastructure de recherche d’OpenAI avant d’entrer dans la production de Hugging Face. Selon son récit, les assaillants ont combiné des failles inconnues avec des identifiants divulgués en ligne. Il y voit l’anticipation de ce que des acteurs de menace typiques pourraient faire dans les prochains mois. Au‑delà d’un cas isolé, Brockman parle d’un problème systémique : la dette technique masquerait des défauts majeurs qu’il faut trouver et corriger avant les attaquants. Il estime que les modèles d’IA industrialisés automatisent de plus en plus des pans d’attaques, rendant plus aisée l’exploitation de bugs historiques et d’autorisations oubliées, tout en outillant aussi les défenseurs pour prioriser et corriger plus vite. Brockman présente cette dynamique comme une course à deux vitesses. Plus tôt dans l’année, OpenAI a restreint la diffusion de ses capacités cyber à des défenseurs de confiance ; depuis, d’autres acteurs ont livré des modèles à poids ouverts à quelques mois de la frontière. Dans ce contexte, il soutient que les dirigeants doivent accélérer l’adoption de défenses assistées par IA. Greg Brockman, président et co‑fondateur d’OpenAI, a publié un compte rendu de l’incident « OpenAI‑Hugging Face » pour appuyer cet avertissement. Il dit avoir constaté, lors d’échanges avec des organisations, que les dirigeants perçoivent la nécessité d’aller plus vite que ne le permettent leurs programmes actuels. OpenAI, de son côté, indique entraîner des modèles pour produire du code plus sûr et met en avant la capacité à réaliser des preuves mathématiques, qu’elle juge utiles pour la vérification formelle à grande échelle.