Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
L'importance des normes partagées pour l'IA avancée
Les modèles d'intelligence artificielle (IA) deviennent de plus en plus puissants, offrant des avantages considérables tels que le renforcement de la cybersécurité, l'accélération des découvertes scientifiques et l'amélioration de l'accès à l'expertise. Cependant, ces avancées s'accompagnent de risques potentiels pour la sécurité, notamment si leurs capacités sont mal comprises ou si les protections sont insuffisantes. Les gouvernements, souvent en manque d'informations précises, peuvent être mal préparés à réagir efficacement. Pour exploiter ces bénéfices tout en minimisant les risques, il est crucial que les sociétés disposent d'institutions capables de gérer, évaluer et réguler ces systèmes avancés.
La création de la Fondation Appia
C'est dans ce contexte qu'OpenAI a joué un rôle clé dans la création de la Fondation Appia, hébergée par la Linux Foundation. Cette nouvelle entité a pour mission de développer des spécifications ouvertes et modulaires qui traduisent les normes internationales en critères d'évaluation pratiques. Appia vise à établir une couche de confiance essentielle, permettant aux tiers de vérifier la conformité aux normes. Cela facilitera la production de preuves claires et réutilisables lorsque des modèles et des infrastructures sont développés par diverses organisations. En contribuant à ce projet, Appia espère créer un langage technique commun, favorisant la confiance entre les institutions nationales et internationales.
Renforcer les institutions et les normes
Cet effort s'inscrit dans une démarche plus large visant à renforcer les institutions, les normes et les pratiques d'évaluation pour les systèmes d'IA avancée. OpenAI a récemment publié une feuille de route pour la gouvernance démocratique de l'IA de pointe, qui propose un cadre durable aux États-Unis. Ce plan inclut le renforcement du Centre pour les Normes et l'Innovation en IA (CAISI) et une stratégie de résilience gouvernementale plus large. Il reconnaît également que les risques liés à l'IA sont d'envergure internationale, nécessitant une collaboration entre nations pour développer des cadres de sécurité compatibles et des réponses coordonnées aux incidents.
Coopération nationale et internationale
La coopération entre les capacités nationales et internationales est cruciale. Des institutions solides comme le CAISI peuvent développer une expertise technique et évaluer les systèmes de pointe, tout en soutenant un écosystème d'évaluation indépendant. Un réseau d'institutions nationales compétentes peut alors établir des méthodes partagées, reconnaître des preuves fiables et fournir aux gouvernements la compréhension technique nécessaire pour agir de concert.
L'importance des normes et de l'évaluation
Les normes jouent un rôle central dans cet effort, nécessitant des pratiques d'évaluation crédibles et une rigueur technique. OpenAI a élaboré un manuel pour des évaluations tierces dignes de confiance, détaillant les informations que ces évaluations doivent divulguer. Cela inclut le système testé, son accès aux outils, le cadre d'évaluation, les méthodes utilisées, les ressources disponibles et les vérifications effectuées. Les travaux sur les évaluations de capacités de pointe et les protections contre les abus biologiques ont conduit à des améliorations concrètes de nos systèmes, grâce à des partenariats de test avec le CAISI américain et l'AISI britannique.
Infrastructure de sécurité et gouvernance
Ces pratiques s'intègrent dans l'infrastructure de sécurité plus large d'OpenAI. Le Cadre de Préparation d'OpenAI définit et met en œuvre des approches pour gérer les risques des systèmes d'IA avancée. Le Cadre de Gouvernance de la Frontière applique ces approches dans un document public axé sur des obligations réglementaires spécifiques, incluant l'évaluation des risques, le reporting des modèles, et les contrôles de sécurité. Ces documents traduisent des engagements larges en pratiques opérationnelles validées et améliorées.
Défis et interopérabilité
Le défi suivant pour Appia est de rendre ces pratiques interopérables entre organisations, juridictions et chaînes d'approvisionnement. OpenAI participe déjà à un écosystème plus large d'efforts de normalisation. OpenAI a aidé à fonder le Frontier Model Forum et la Fondation d'Intelligence Artificielle Agentique de la Linux Foundation. De plus, OpenAI participe à la Coalition pour une Intelligence Artificielle Sécurisée et siège au comité directeur de la Coalition pour la Provenance et l'Authenticité du Contenu. OpenAI est également impliqué dans les processus de l'Internet Engineering Task Force et de la Fast Identity Online Alliance pour faire avancer des normes techniques interopérables. En outre, OpenAI participe activement à la Commission internationale de normalisation et au Comité technique conjoint 1 de la Commission électrotechnique internationale, sous-comité 42 sur l'Intelligence Artificielle, ainsi qu'au consortium sur l'Intelligence Artificielle dirigé par l'Institut national des normes et de la technologie.
Vers des pratiques ouvertes et fondées
À travers ces forums, et désormais via Appia, l'objectif est de traduire les leçons du développement de pointe en pratiques ouvertes et techniquement fondées. Ces pratiques pourront être utilisées par les gouvernements, les entreprises et les évaluateurs indépendants à travers les juridictions, renforçant ainsi la coopération mondiale pour sécuriser l'IA.
