OpenAI s’allie à NASK pour la sécurité de l’IA en Pologne

OpenAI et l’institut public polonais NASK ont conclu un accord de collaboration sur la sécurité et la sûreté de l’IA. Cette étape suit des travaux menés avec CERT Polska, qui ont conduit à des correctifs sur MikroTik RouterOS, et s’inscrit dans un effort international vers des normes techniques communes.

Des tests menés par CERT Polska ont mené à des correctifs

Avant la signature de l'accord, OpenAI collaborait déjà avec des équipes de cybersécurité en Pologne. En juillet, CERT Polska, rattaché à NASK, a pu accéder aux modèles de cybersécurité d’OpenAI via Daybreak. L’équipe s’est servie de ces modèles pour contribuer à l’identification de six failles dans MikroTik RouterOS, dont certaines pouvaient être combinées afin de permettre la prise de contrôle d’appareils sans authentification. Le fournisseur de MikroTik RouterOS a diffusé des mises à jour correctives, validées par CERT Polska comme ayant bloqué les attaques constatées.

Ce que prévoit l’accord OpenAI–NASK sur la sécurité de l’IA

OpenAI et NASK ont conclu un accord visant à étudier une coopération autour de la sécurité, de la sûreté et de la recherche technique en intelligence artificielle. Le Centre de recherche sur la sécurité de l’IA de NASK, qui fait office d’Institut polonais de sécurité de l’IA, et OpenAI réaliseront ensemble des travaux pour analyser des systèmes d’IA de plus en plus avancés, détecter d’éventuelles vulnérabilités et renforcer les dispositifs de protection. L’accord prévoit aussi d’analyser comment des systèmes d’IA évolués peuvent participer à rendre l’écosystème numérique plus sûr et plus résilient.

Les priorités énoncées par NASK et OpenAI

Pour Radosław Nielek, directeur de NASK, cette coopération s’inscrit dans la continuité de recherches déjà menées, incluant le développement de mesures de protection contre les risques émergents, la détection de contenus générés par l’IA, l’analyse des usages malveillants et la prise en compte des aspects multilingues. Il considère que la sécurité de l’IA nécessite une coopération active entre instituts publics et développeurs d’IA à la pointe pour garantir la fiabilité et la sûreté des systèmes. Tom Duff Gordon, vice-président et responsable des politiques EMEA chez OpenAI, met en avant la présence de talents scientifiques et techniques en Pologne, dont certains ont contribué à la recherche d’OpenAI. Il estime qu’il est essentiel de s’appuyer sur des expertises extérieures pour remettre en question les hypothèses, tester les systèmes et renforcer les protections. Selon lui, l’accord avec NASK permet d’intégrer l’expertise polonaise dans un effort international visant à rendre l’IA plus sûre.

Vers des approches et des normes techniques communes

OpenAI appelle les États-Unis à collaborer avec d’autres pays pour établir des normes techniques internationales pour l’IA avancée, en s’appuyant sur l’expertise des instituts de sécurité de l’IA et des organismes de normalisation. Des méthodes communes pour évaluer les capacités, analyser les risques, tester les mesures de protection et signaler les incidents sont présentées comme des moyens d’aider les pays à comparer les preuves et à répondre à des risques qui dépassent les frontières. L’intégration d’expertises nationales, comme celle de NASK, est mise en avant. NASK base son savoir-faire sur des travaux approfondis en sécurité de l’IA, mis au service de la protection des services publics et du paysage numérique polonais. En l’absence d’acteurs nationaux comme NASK, il est possible que les standards internationaux en matière de sécurité de l’IA ne tiennent pas compte des usages concrets. OpenAI précise que ses coopérations avec des organismes publics ont contribué à améliorer les dispositifs de protection, à repérer et corriger des failles dans les agents d’IA, et à faire progresser la sécurité de l’IA au plus haut niveau.