Brief IA : In the Weights : l'IA sait-elle vraiment qui vous êtes ?

In the Weights : l'IA sait-elle vraiment qui vous êtes ?

Brief IA
Tom Levy·1 min·16 vues

In the Weights, lancé par Joey Flynn et Thomas Dimson, deux anciens d'OpenAI, évalue la reconnaissance des modèles d'IA à travers un score de force. Ce site révèle que des figures comme Mozart, Shakespeare et Taylor Swift sont parmi les plus mémorisées, soulevant des questions sur la confidentialité et l'utilisation des données personnelles dans l'entraînement des IA.

En bref
1Deux anciens d'OpenAI ont lancé 'In the Weights', un site Web novateur.
2Le site évalue la reconnaissance des modèles d'IA grâce à un score de force.
3Mozart, Shakespeare et Taylor Swift figurent parmi les plus mémorisés.
💡Pourquoi c'est importantCela soulève des questions sur la confidentialité et la portée des données personnelles dans l'entraînement des IA.
Le brief IA que lisent les pros

Tu suis la course aux modèles IA ?

Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Dans les Poids : l'IA sait-elle vraiment qui vous êtes ?

Le site In the Weights révèle quelles personnes sont "stockées" dans les poids des grands modèles de langage. Ces "poids" sont des milliards de valeurs numériques où les modèles d'IA encodent leurs connaissances. Si vous y figurez, cela signifie que le modèle vous a jugé suffisamment pertinent durant l'entraînement pour être rappelé sans outils comme la recherche web.

Le site interroge plusieurs modèles pour identifier qui est une personne spécifique, combine les résultats et attribue un score de force. Par exemple, mon collègue Maximilian Schreiner et moi avons actuellement des scores de force de 175 et 262. Selon le classement, le score de force maximum est de 996, réservé à des noms comme Mozart, Shakespeare ou Taylor Swift.

Le site a été conçu par Joey Flynn et Thomas Dimson, tous deux anciens employés d'OpenAI. Selon les créateurs, les modèles plus petits rendent plus difficile l'apparition dans les résultats. Ainsi, quiconque apparaît dans Llama de Meta, qui compte un milliard de paramètres, est considéré comme très pertinent. Les créateurs soulignent également les limites évidentes des LLM, comme le fait que les modèles peuvent halluciner des détails biographiques, que les fautes de frappe diminuent les scores, et que les noms courants produisent souvent de moins bons résultats.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires