L’étude des logits de modèles ouverts montre qu’un nombre présenté comme aléatoire peut être rattaché à une distribution exploitable. Converties en bits et en tentatives, ces distributions offrent une mesure concrète du niveau de sécurité et de l’effort de déchiffrement associé.
Sécurité et effort : ce que révèlent les distributions
L'analyse des distributions de réponses issues des modèles d'IA permet d'évaluer la sécurité des nombres générés et d'estimer l'effort nécessaire pour les déchiffrer. L'examen des logits indique combien de tentatives seraient requises pour deviner un nombre produit par l'IA.
La recherche en IA te passionne ?
Les papers et avancées qui comptent, expliqués simplement, chaque soir. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
De la probabilité aux bits et aux tentatives
L'étude repose sur l'analyse des logits pour mesurer la probabilité d'obtenir une réponse exacte. Ces probabilités sont ensuite converties en bits et en nombre de tentatives nécessaires pour déchiffrer ou deviner le nombre généré, ce qui permet de quantifier concrètement l'effort de déchiffrement.
Modèles concernés : base et instruction-tunés
L'analyse porte sur des modèles ouverts, qu'ils soient de base ou ajustés pour l'instruction. Dans les deux cas, les distributions de réponses observées peuvent être exploitées, ce qui interroge sur le caractère réellement aléatoire des nombres produits par ces IA.
