OpenAI et le flou autour de la régulation de son modèle Sol

OpenAI et la publication de Sol : une décision entourée de mystère

OpenAI a récemment pris la décision audacieuse de rendre son modèle de langage avancé, Sol, accessible au grand public. Ce modèle est perçu comme étant au moins aussi performant que Fable, un modèle développé par Anthropic. Fable avait suscité suffisamment d'inquiétudes au sein de la Maison Blanche pour que son accès public soit temporairement interdit. Cependant, la question cruciale demeure : comment ces modèles ont-ils pu obtenir l'autorisation de publication ? La réponse reste floue et incertaine.

Mina Narayanan, analyste de recherche senior au Centre pour la sécurité et la technologie émergente de Georgetown, a exprimé son manque de visibilité sur les processus d'approbation de ces modèles. Elle a souligné que, bien qu'Anthropic ait affirmé être en discussions avec le gouvernement pour développer des outils de détection et des stratégies de défense en profondeur, les détails de ces interactions restent obscurs. Selon elle, il est difficile de savoir à quoi ressemblait réellement le dialogue entre le gouvernement, Anthropic et OpenAI.

Dean W. Ball, ancien conseiller politique sous l'administration Trump et désormais employé par OpenAI, a également mis en lumière le manque de transparence concernant les critères d'obtention d'une licence pour ces modèles. Dans sa newsletter, il a fait remarquer que personne ne semble vraiment comprendre le processus, ce qui ajoute à la confusion générale.

Un processus de régulation encore flou

Andy Konwinski, un informaticien qui a cofondé Databricks et l'Institut Laude, a exprimé des préoccupations similaires. Il a déclaré n'avoir jamais rencontré quelqu'un, même parmi les employés des laboratoires de pointe, qui comprenne le processus de régulation. Selon lui, la question de savoir qui détient le pouvoir de décision est cruciale et constitue un problème existentiel.

Malgré le temps écoulé depuis le début de l'administration Trump, les directives sur la manière de gérer ces technologies restent vagues. Un décret exécutif récent a tenté de clarifier la situation, mais les détails concrets manquent toujours. Ce décret charge six agences ministérielles de déterminer un processus final d'ici début août. Sriram Krishnan, ancien conseiller pour l'IA à la Maison Blanche, a affirmé qu'il n'y aurait pas d'agence équivalente à la FDA pour l'IA, ce qui laisse la régulation dans un flou inquiétant.

Il n'existe pas encore de consensus sur les types de modèles nécessitant une évaluation gouvernementale, ni sur les agences responsables de ces évaluations. Pour l'instant, le Centre pour les normes et l'innovation en IA du Département du Commerce semble mener les efforts, mais un processus définitif doit être établi d'ici août. Ce qui a émergé jusqu'à présent est, au mieux, ad hoc et laisse beaucoup de questions sans réponse.

Les discussions entre OpenAI et le gouvernement

Sam Altman, PDG d'OpenAI, a mentionné que le processus d'approbation impliquait des discussions avec des responsables tels que Howard Lutnick, secrétaire au Commerce, Scott Bessent, secrétaire au Trésor, et Sean Cairncross, directeur national de la cybersécurité des États-Unis. Cependant, les détails sur les experts impliqués dans les tests des modèles et la manière dont ces tests ont été menés restent flous. OpenAI a refusé de fournir des détails sur le processus gouvernemental, mais a mentionné des évaluations externes par des organisations comme le Royaume-Uni AISI, SecureBio, et Irregular. Ces évaluations sont référencées dans la carte de sécurité du modèle.

Comme pour Fable d'Anthropic, Sol a été présenté au gouvernement et à des utilisateurs sélectionnés avant sa publication. Cependant, l'identité de ces utilisateurs et les critères de leur sélection ne sont pas connus. Dans un article de blog publié fin juin, OpenAI a déclaré qu'elle ne croyait pas que ce type de processus d'accès gouvernemental devrait devenir la norme à long terme, affirmant qu'elle travaillerait avec le gouvernement pour développer une autre voie à suivre.

Les enjeux politiques et économiques

Le contexte de ces discussions inclut des propositions financières d'OpenAI à l'administration Trump, ce qui complique la perception de l'approche du gouvernement vis-à-vis de Sol. Greg Brockman, président d'OpenAI, a été un important donateur pour l'opération politique de Trump, ce qui pourrait influencer la régulation perçue comme plus souple.

Fable d'Anthropic a été temporairement retiré de l'accès public en raison de préoccupations sur son utilisation potentielle pour le piratage. Cette interdiction a pu inciter OpenAI à coopérer davantage avec les demandes gouvernementales, bien que celles-ci restent inconnues. La menace d'une interdiction d'exportation a également pu jouer un rôle dans cette coopération accrue.

Vers une régulation plus transparente ?

Andy Konwinski a exprimé des inquiétudes sur le manque d'implication des experts en sécurité et en alignement dans le processus de publication des modèles. Il plaide pour un "commun ouvert" qui permettrait de concilier sécurité et innovation, en s'inspirant de modèles comme la FDA ou les NIH. Il cite ces institutions comme des exemples de collaboration réussie entre chercheurs, responsables gouvernementaux et entreprises privées pour parvenir à un consensus sur les questions de sécurité.

Dean W. Ball a suggéré que des organisations d'audit tiers, accréditées par le gouvernement, pourraient jouer un rôle clé dans l'évaluation des modèles. Konwinski est également favorable à de nouveaux formats institutionnels qui permettraient aux experts académiques d'évaluer ces technologies. Selon lui, ces nouveaux formats pourraient inclure des organisations de recherche ciblées qui aideraient des experts plus désintéressés du monde académique et à but non lucratif à accéder et évaluer les modèles de pointe.

Pour l'instant, le secret entourant le développement de l'IA persiste, posant des défis politiques pour une industrie de plus en plus scrutée par le public. Remzi Arpaci-Dusseau, professeur d'informatique, a récemment exprimé des préoccupations sur le manque de responsabilité dans ces changements. Il a déclaré lors de la conférence Open Frontier qu'il n'y a pas de sentiment que des personnes responsables conduisent ces changements.

David Siegel, fondateur de Two Sigma, a mis en garde contre une situation où quelques entreprises contrôlent la technologie, avec peu de transparence pour le public et la communauté scientifique. Cette situation semble déjà en cours, soulignant la nécessité d'une régulation plus claire et transparente. Siegel a demandé aux participants d'imaginer une situation où le gouvernement, dans ses laboratoires secrets, évalue si la technologie est adaptée à l'utilisation, tandis que le grand public et la communauté scientifique n'ont vraiment accès à rien de tout cela. Cette vision d'un avenir contrôlé par un petit nombre d'acteurs est préoccupante et nécessite une attention immédiate.