Abliteration.ai diffuse des modèles d’IA sans filtres de sécurité

Une startup propose en ligne des versions de modèles open-weight dont les refus ont été retirés, dont GLM‑5.3. Elle vise les tests offensifs et le red teaming, mais la mise à disposition massive de ces modèles soulève des critiques sur les risques, l’absence de KYC robuste et l’efficacité réelle en cybersécurité.

Risques, régulation et responsabilité : les garde-fous en question

Des critiques alertent sur les risques liés à la diffusion large de modèles ablitérés. Andrew Yoon, directeur de la recherche chez CivAI, estime que l'abliteration peut transformer un modèle en « sociopathe » et prévoit des usages nuisibles à court terme. Il propose que les gouvernements imposent aux fournisseurs de modèles l'utilisation de classificateurs pour bloquer les activités liées aux cyberattaques et aux armes biologiques, ainsi qu'une vérification d'identité pour la location d'accès direct à des GPU avancés, avec refus en cas de soupçon d'usage dangereux. Abliteration.ai propose une couche de modération configurable par les clients et indique travailler à renforcer ses garde-fous pour prévenir la violence. L'entreprise n'applique pas de procédure KYC autre que l'enregistrement de la carte bancaire et reconnaît la difficulté à définir les critères d'accès, tout en affirmant être en train de préciser sa responsabilité.

Des usages défensifs revendiqués et des clients en Europe

Abliteration.ai présente son service comme un outil pour le cyber offensif, le red-teaming et les tests d’agents que d’autres modèles refusent d’effectuer. Son fondateur soutient que démocratiser l’accès à des modèles non censurés de pointe permet de modéliser les attaquants et d’accélérer la cybersécurité. Selon Devon, les premiers clients incluent plusieurs startups de red teaming d’agents en phase de démarrage au Royaume-Uni et en Europe, qui travaillent avec des banques, des compagnies aériennes et d’autres entreprises d’infrastructures critiques. Il cite un client qui red team des agents bancaires et ne pourrait pas utiliser les modèles standards actuels pour cette tâche.

Le service proposé et ses moyens : hébergement, API et cloud

Abliteration.ai héberge des versions modifiées de modèles open-weight dont les garde-fous ont été retirés, notamment GLM‑5.3 de Z.ai, accessibles via navigateur web et API. En centralisant l’exécution, la société évite aux utilisateurs de devoir télécharger eux-mêmes des modèles pré‑ablitérés et de provisionner des ressources de calcul. Devon affirme avoir conclu plusieurs accords avec de grands fournisseurs de cloud, rendus possibles grâce aux revenus clients. Fondée fin de l’année dernière et officiellement incorporée en mars, l’entreprise n’a pas encore levé de capital‑risque mais indique être en discussions pour le faire. Son positionnement consiste à faciliter l’accès à des modèles puissants sans leurs mécanismes de refus, conformément à la technique d’abliteration qui lui donne son nom.

Utilité contestée pour le red teaming : des avis divergents

Pour Devon, l’abliteration représente un élément clé dans la conduite d’un red teaming poussé. D’autres professionnels, de leur côté, préfèrent travailler sur l’ajustement fin de modèles open-weight déjà faiblement restreints et indiquent ne pas recourir habituellement à des modèles ablitérés. Selon Ahmed Aly, PDG de Fabraix, l’abliteration entraîne une perte de connaissances et de compétences, et il considère que ces modèles sont moins aptes à provoquer des dommages, qu’ils soient d’ordre cyber ou biologique. Alessio Lomuscio, CTO de Safe Intelligence, reconnaît une possible baisse de capacités mais estime que les modèles ablitérés peuvent susciter des comportements utiles pour tester la robustesse d’un système. David Slater, fondateur d’Armadin, indique que ces modèles ne font pas encore partie de son processus, rappelant qu’il n’était pas particulièrement difficile de jailbreaker les générations open‑weight précédentes. Armadin étudie néanmoins l’abliteration et juge important que la communauté open-source comprenne les capacités des modèles, considérant qu’un traitement public donne aux chercheurs les outils pour appréhender la frontière et le risque.

Une pratique ancienne de l’open-source désormais commercialisée

Le retrait des refus est pratiqué depuis des années dans la communauté open-source, où chercheurs et développeurs ablitèrent des modèles open‑weight. Des milliers de ces modèles sont déjà disponibles sur Hugging Face. La nouveauté apportée par Abliteration.ai réside dans le passage de cette pratique informelle à un service commercial accessible.