Abliteration.ai vend des modèles ouverts moins restrictifs, risques à la clé

Une startup américaine propose en API des versions modifiées de GLM-5.3 avec bien moins de refus. Le service, facturé au token, n'impose ni exécution sur GPU client, ni vérification d'identité, et ne conserve pas les prompts. Des évaluations, des usages en cybersécurité et des garde-fous optionnels cohabitent avec des risques documentés d'abus.

Pas de logs de prompts ni de KYC, mais des métadonnées conservées

Abliteration.ai indique qu’elle ne conserve ni les prompts ni les réponses de ses utilisateurs, mais garde des métadonnées opérationnelles comme les décomptes de tokens, les dates et heures, les identifiants de modèle ainsi que les informations de facturation. Le fait de ne pas enregistrer les contenus permet d’éviter que du code sensible ou des failles non révélées ne soient sauvegardés par le prestataire. En contrepartie, en cas d'abus, l'entreprise affirme ne pas disposer de journaux de prompts ou de réponses à examiner a posteriori. Le service ne requiert pas de vérification d'identité conventionnelle, ce qui peut compliquer d'éventuelles investigations, même si les métadonnées de compte, de paiement et d'usage sont gardées. Un représentant anonyme de l'entreprise soutient par ailleurs que vérifier l'identité distinguerait mal les utilisateurs légitimes des malveillants et que des contrôles d'accès plus stricts pénaliseraient les petites sociétés de sécurité face aux grandes.

Capacités offensives accessibles et question de responsabilité

Le fait que le modèle ne refuse pas certaines demandes peut être mis en avant commercialement, mais cela comporte également un risque. Le modèle ablitéré du code permettant d’extraire des mots de passe Chrome enregistrés ainsi qu’un mode d’emploi détaillé pour cultiver un pathogène dangereux a été obtenu, le tout sans réelle difficulté. Les systèmes de protection ont néanmoins continué de fonctionner face aux requêtes d’automutilation. Selon la FAQ, le contenu sexuel impliquant des enfants est bloqué et les clients peuvent ajouter, en option, des règles supplémentaires de contrôle. Reste posée la question des responsabilités d'un fournisseur qui met à disposition, via un service facilement accessible, des capacités offensives puissantes.

Technique d’abliteration et offre commerciale

La technique dite d'abliteration consiste à identifier les motifs d'activation internes qui déclenchent des refus, puis à ajuster les poids pour supprimer ces motifs. Il s'agit d'une modification du modèle et non d'un contournement par le prompt. Abliteration.ai affirme que les capacités de codage, de cybersécurité et d'agent demeurent principalement intactes. Fin août, l'entreprise a lancé "abliterated-model-large-v2", une version modifiée du GLM-5.3 de Z.AI conçue pour réduire la fréquence de refus sur des requêtes sensibles. Le service retire les mécanismes de refus de modèles ouverts et commercialise l'accès, notamment pour des tests de cybersécurité, des red teams et l'analyse de malwares. L'accès au GLM-5.3 ablitéré est facturé cinq dollars par million de tokens d'entrée ou de sortie, avec une API qui évite aux clients de télécharger le modèle et d'opérer une infrastructure GPU. L'accès standard demeure largement sans restriction, des contrôles additionnels devant être activés explicitement. Une passerelle de politique optionnelle permet aux clients d'entreprise de définir les requêtes autorisées, bloquées, modifiées ou consignées, et la société propose des données d'entraînement et d'évaluation synthétiques. L'offre combine GLM-5.3, un accès API simple et une couche de politique optionnelle. Cette facilité abaisse aussi la barrière à un usage abusif et s'inscrit dans un compromis de sécurité que l'entreprise présente comme un marché légitime.

Performances déclarées et limites des comparaisons

Pour la version ablitérée de GLM-5.3, la société indique avoir obtenu 84,5 % sur CyberGym, 41,8 % sur Terminal-Bench 4.0 et la résolution de 105 tâches ExploitGym en deux heures. Dans ses tableaux, GPT-5.5 arrive en tête sur CyberGym avec 85,6 %, tandis que GPT-5.6 Sol et Fable 5 enregistrent des scores nettement supérieurs sur ExploitGym. Abliteration.ai précise toutefois que les comparaisons reposent sur des harnais et des budgets de calcul différents, limitant leur portée. Au-delà des chiffres, une étude préliminaire suggère que l'abliteration peut réduire sensiblement les refus sans dégrader de manière comparable la génération de code pour certains modèles, tandis que d'autres expériences relèvent des changements de comportement y compris sur des tâches qui n'étaient pas refusées par le modèle de base. L'abliteration ne retire donc pas un seul trait de manière strictement ciblée mais modifie plus largement le comportement du modèle.

Usages visés, demande déclarée et scepticisme de praticiens

Abliteration.ai indique qu’une demande est déjà présente et vise la cybersécurité offensive, les équipes red team IA, les tests d’agents ainsi que les domaines de confiance et de sécurité. Les usages mentionnés comprennent la reproduction de vulnérabilités connues, la création d’exploits de preuve de concept, l’analyse de logiciels malveillants et la réalisation de campagnes de phishing simulées. Un des fondateurs, sous anonymat, précise que la demande initiale vient surtout d’entreprises qui évaluent des agents IA mis en place par de grandes organisations et des banques, lesquelles testent leur résistance aux jailbreaks et aux attaques par injection de prompt. L'ampleur d'abliteration réellement nécessaire pour ce travail n'est pas établie. SaferAI indique que GLM-5.2 non modifié n’a déjà refusé aucune tâche lors de ses évaluations en sécurité offensive. Plusieurs prestataires de red teams interrogés déclarent ne pas utiliser les modèles ablitérés dans leur pratique courante, et la société de sécurité Fabraix privilégie plutôt l’ajustement fin de modèles ouverts.

Licence permissive, cadre d'achat public et concurrents

GLM combine des résultats en codage, cybersécurité et agent, avec des poids ouverts et une licence réutilisable sur le plan commercial. D’autres options sont proposées chez Qwen, DeepSeek et Mistral. La licence de Z.AI autorise les modifications, les dérivés et les offres de type Model as a Service, permettant à Abliteration.ai de modifier GLM-5.3, de l'héberger et d'en vendre l'accès. Si des modèles modifiés circulent depuis des années sur Hugging Face, Abliteration.ai ne publie pas ses poids et opère directement l'hébergement. La société indique être référencée sur SAM.gov pour les achats gouvernementaux américains, et propose, pour ces clients, des modèles versionnés, des journaux d'audit et des politiques spécifiques aux agences, via des pilotes sans informations contrôlées non classifiées. La légalité des usages dépend des actions et de la juridiction, et, pour les tests de sécurité, l'entreprise exige une autorisation écrite des systèmes cibles et le respect des lois. D'autres acteurs comme Audn.AI avec PenClaw et Silk Compute hébergent aussi des modèles ablitérés ou peu restreints pour des usages de sécurité. Avant cette version, Abliteration.ai proposait déjà un modèle basé sur GLM-5.2, l'entreprise estimant que des versions antérieures de GLM avaient été entraînées pour être plus difficiles à employer en sécurité pratique, tandis que Z.AI a indiqué que les capacités cyber de GLM-5.3 ont progressé plus vite que prévu après l'entraînement.