Brief IA : Qwen 3.8 27B identifie des jeux vidéo à partir de poids bruts

Qwen 3.8 27B identifie des jeux vidéo à partir de poids bruts

Brief IA
Tom Levy·4 min

Qwen 3.8 27B a identifié Pac‑Man, Pong et Breakout à partir de poids bruts, avec des durées de calcul allant de 52 minutes à plus d’une heure et des dizaines de milliers de tokens de raisonnement. Cependant, le modèle a échoué à identifier Freeway, illustrant à la fois les avancées et les limites de l'analyse des poids de réseaux neuronaux par des LLMs.

En bref
1Qwen 3.8 27B, exécuté sur un ordinateur portable, a identifié Pac‑Man, Pong et Breakout à partir de poids bruts, avec des durées allant de 52 minutes à plus d’une heure et des dizaines de milliers de tokens de raisonnement, tout en échouant sur Freeway.
2L’expérience s’appuie sur des invites autonomes et un outillage local, avec des contraintes de fenêtre de contexte et de délai.
3Des chercheurs attribuent à GPT‑6 Astra des capacités plus larges de « programmation dans l’espace des poids », incluant l’édition ciblée de 0,016 % des poids et des hausses rapportées sur MATH‑500 et IFEval.
Pourquoi c'est important : Ces résultats illustrent les avancées et les limites concrètes de l’analyse et de la modification des poids de réseaux neuronaux par des LLMs, tout en nuançant la portée des extrapolations sur l’avenir du code source.

Un modèle Qwen 3.8 27B lancé sur un ordinateur portable a identifié Pac‑Man, Pong et Breakout à partir de poids bruts, avec des temps de calcul et des volumes de tokens conséquents. Ces essais répliquent partiellement une idée popularisée par des chercheurs, la « programmation dans l’espace des poids », attribuée à des capacités de GPT‑6 Astra. Les résultats locaux s’accompagnent d’échecs et de contraintes techniques que l’expérience détaille.

Des réussites, un échec et des délais mesurés

Sur une invite Pac‑Man, Qwen 3.8 27B a produit une réponse après 46 minutes 12 secondes et 43 506 tokens de raisonnement. La description évoquait un monde en grille de style Pac‑Man avec un labyrinthe 8x8, des murs centraux et d’angle, des objets ou fantômes en mouvement et des cibles de récompense. Le modèle a également identifié Pong en 1 heure 4 minutes 54 secondes, avec une formulation où l’agent contrôle un paddle vertical à droite se déplaçant vers le haut et le bas pour intercepter ou renvoyer une balle. Breakout a été reconnu en 52 minutes 25 secondes comme un jeu de paddle, balle et briques de type Arkanoid. En revanche, l’invite Freeway a conduit à une mauvaise hypothèse, assimilant le jeu à une grille de type Pac‑Man avec déplacements en quatre directions. Les traces de raisonnement générées, denses en références à des canaux et des positions de grille, sont décrites comme amusantes mais presque incompréhensibles.

Contraintes techniques locales et configuration utilisée

Le modèle Qwen 3.8 27B a été exécuté en local sur un ordinateur portable ; la version utilisée pèse 17 Go. Le chargement a nécessité une fenêtre de contexte plus longue, la valeur par défaut de 8 192 ayant échoué avec des erreurs. Pour piloter l’inférence via LM Studio, l’extension llm‑lmstudio a été installée. L’exécution de la commande a en outre nécessité la variable d’environnement LMSTUDIO_TIMEOUT=900.

Le brief IA que lisent les pros

Vous codez avec l’IA ?

Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisissez votre rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

Méthode : invites autonomes et comparaison avec Kimi

Les invites d’évaluation sont autonomes et disponibles sur GitHub. L’outil llm accepte un fichier distant comme invite grâce à l’option -f/--fragment. Un exemple a consisté à exécuter l’invite Breakout contre Kimi K3.1 Pro via OpenRouter, avec le plugin llm‑openrouter requis. Dans ce cadre, Kimi K3.1 Pro a deviné Breakout après 9 minutes 41 secondes et 19 493 tokens de raisonnement.

Ce que la recherche attribue à GPT‑6 Astra

Des chercheurs décrivent la capacité de certains LLMs à lire et écrire les poids de réseaux de neurones. Ils citent GPT‑6 Astra comme capable d’interpréter et de modifier des poids bruts, ces derniers étant considérés comme une description textuelle remplie de valeurs flottantes. D’après ces travaux, Astra peut déterminer la tâche d’un réseau en observant ses poids et écrire de petits réseaux de jeu depuis zéro sans retour d’environnement, avec des performances supérieures à celles obtenues après 100 millions d’étapes d’entraînement par PPO. Astra a détecté des boucles de raisonnement dans Qwen3.5‑0.8B lors d'une tentative d'amélioration en mathématiques sans gradients et a corrigé le problème en modifiant 0,016 % des poids. Avec les mêmes paramètres d’échantillonnage, MATH‑500 serait passé de 7,9 % à 48,1 %, et l’effet se généraliserait à l’exécution d’instructions, avec un IFEval multiplié par trois. L’ensemble est désigné comme de la « programmation dans l’espace des poids », et s’effectuerait sans écrire de boucles d’entraînement, en s’appuyant sur le raisonnement du modèle pour déterminer ce que calcule chaque composant du réseau.

Des réserves sur la portée des conclusions

Un essai local conclut que Qwen 3.8 27B peut interpréter des poids pour inférer des jeux, mais l’auteur exprime des réserves sur les interprétations généralistes qui en découlent. Il juge intéressantes les expériences rapportées dans la littérature tout en considérant que certains commentaires ambitieux ne sont pas étayés. Il n’affirme ni la fin de l’ère du code source ni l’avènement d’un futur de machines modifiant leurs poids de façon incompréhensible. Il estime par ailleurs qu’un humain expérimenté pourrait, avec suffisamment d’efforts, parvenir à des identifications similaires.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires