Nvidia et l'OSAA : des avancées rapides dans la sécurité de l'IA

Nvidia et l'Open Secure AI Alliance : une collaboration prometteuse

L'Open Secure AI Alliance (OSAA), récemment formée et dirigée par Nvidia, réunit déjà plus de 120 entreprises dans un effort collectif pour sécuriser l'intelligence artificielle. Ce groupe a mis en place un comité de travail innovant, le Shared AI Findings Exchange (SAFE), qui a commencé à proposer des directives pour des commentaires ouverts. Sous la gestion de la Linux Foundation, ces propositions visent à renforcer la sécurité dans le domaine de l'IA.

Premières initiatives à la conférence Black Hat

Les membres de l'OSAA ont élaboré ces directives lors de leur récente réunion à la conférence Black Hat, un événement majeur dans le domaine de la cybersécurité qui se tient à Las Vegas. Les premières propositions ne sont pas révolutionnaires mais posent les bases essentielles pour l'avenir. Elles incluent des recommandations sur la manière de signaler discrètement les incidents de cybersécurité liés à l'IA, d'alerter les parties concernées, et de réaliser des analyses sans blâme pour favoriser l'apprentissage collectif.

Contributions technologiques et open source

En parallèle, les membres de l'OSAA partagent et cataloguent des technologies open source qui pourraient s'avérer utiles à l'ensemble du secteur. Cette démarche pourrait déboucher sur des solutions open source permettant aux entreprises de sécuriser leurs agents IA ou de se défendre contre des attaques malveillantes, comme le modèle OpenAI qui a infiltré Hugging Face, également membre du groupe. Nvidia, par exemple, propose une gamme de modèles ouverts et un scanner de vulnérabilités LLM open source nommé Garak. D'autres contributions notables incluent la technologie d'identité des agents d'Okta, la gouvernance des agents par Red Hat, et les outils de construction d'agents open source Strands Agents et le langage d'autorisation Cedar par Amazon.

Présence de grandes entreprises et absences remarquées

Le groupe compte parmi ses membres des entreprises de renom telles qu'Adobe, BlackRock, Cisco, Intel, Microsoft et Visa. Cependant, certaines absences notables, comme celles d'Anthropic, OpenAI et Google, suscitent des questions. Bien que ces dernières aient signé la lettre ouverte initiale qui a conduit à la formation de l'OSAA, elles ne font pas encore partie du groupe. Cette lettre, publiée récemment, appelait la Maison Blanche à soutenir les efforts d'IA open source, un appel soutenu par Nvidia et signé par plus de 200 entreprises technologiques.

L'importance de l'open source dans la sécurité de l'IA

Malgré l'absence d'Anthropic, OpenAI et Google, ces entreprises ont déjà publié leurs propres modèles à poids ouverts, et Google est reconnu pour son soutien à l'open source. Il reste à voir si elles rejoindront l'OSAA à mesure que le groupe gagne en influence. Pendant ce temps, l'OSAA avance à un rythme soutenu, seulement quelques semaines après que des informations ont révélé que l'administration Trump envisageait d'interdire les modèles à poids ouverts chinois, une situation qui a provoqué des inquiétudes dans l'industrie et conduit à la lettre ouverte.

Une réponse rapide aux défis de l'industrie

Quelle que soit l'issue de la question des modèles à poids ouverts chinois aux États-Unis, l'action rapide de l'OSAA semble bénéfique pour l'écosystème open AI américain. Selon le groupe industriel, l'ouverture est la meilleure stratégie pour contrer les menaces potentielles des laboratoires d'IA chinois. « L'ouverture peut être l'un des chemins les plus importants vers la sécurité de l'IA », a affirmé le groupe industriel dans sa lettre, soulignant leur engagement à concrétiser leurs paroles par des actions tangibles.