Baseten vise un standard de sécurité pour les modèles ouverts

Face à la prolifération de modèles à poids ouverts abliterés, Baseten s’allie à Hugging Face et Goodfire pour promouvoir un cadre de sécurité intégré. Les partenaires avancent l’ouverture comme atout, tout en laissant en suspens les détails techniques et en sollicitant la communauté des développeurs.

Abliteration massive et modalités encore floues

Hugging Face recense plus de 6 000 modèles abliterés, ce qui met en évidence l'ampleur du problème posé par la suppression des protections sur les modèles à poids ouverts. Cette technique, appelée abliteration, est identifiée comme un moyen de rendre ces systèmes dangereux. Les partenaires n'ont pas encore détaillé le fonctionnement technique de leur collaboration. Parallèlement, Baseten invite les développeurs à participer à l'élaboration du cadre. L'entreprise affirme vouloir construire un écosystème de modèles ouverts sûrs et accessibles à tous.

Des acteurs dotés de moyens financiers et techniques

En juin, Baseten, entreprise spécialisée dans l’inférence IA, a réalisé une levée de fonds de 1,5 milliard de dollars en série F, ce qui a porté sa valorisation à 13 milliards de dollars. Goodfire, dont l’activité porte sur l’interprétabilité et l’explication des décisions des modèles, a réuni 150 millions de dollars lors d’une série B menée par B Capital plus tôt cette année. Hugging Face héberge des modèles d’IA open source. Ces ressources financières et techniques placent le partenariat dans un écosystème déjà structuré.

Un cadre intégré pour entraîner, déployer et surveiller

Baseten a lancé, avec sa branche de recherche Base Labs, un standard d’infrastructure de sécurité en partenariat avec Hugging Face et Goodfire AI. L'objectif est de construire une infrastructure d'évaluation et de surveillance pour les modèles à poids ouverts. Baseten présente ce projet comme un standard transparent et intégré à la formation et au déploiement des modèles, plutôt qu’ajouté après coup. Base Labs, créé plus tôt cette année, prévoit de développer et de publier des méthodes pour former et surveiller ces modèles.

Ouverture revendiquée comme atout de sécurité

Baseten affirme que l'ouverture représente un avantage pour la sécurité de l'IA. Selon l'entreprise, elle permet une meilleure visibilité sur le comportement des modèles et facilite la transformation de la recherche en sécurité en contrôles actionnables et transparents, contrairement aux environnements fermés. Goodfire partage cette approche, estimant que la sécurité doit être intégrée aux modèles ouverts et assurée par ceux qui les servent.