Goodfire dévoile Silico, outil clé pour déboguer les IA

Goodfire, une startup innovante basée à San Francisco, a récemment lancé un outil révolutionnaire nommé Silico. Cet outil est conçu pour offrir aux chercheurs et ingénieurs la possibilité d'explorer et d'ajuster les paramètres des modèles d'intelligence artificielle (IA) durant leur phase d'entraînement. Cette capacité pourrait transformer la manière dont les modèles sont développés, en permettant un contrôle plus précis que ce qui était auparavant possible. Goodfire affirme que Silico est le premier outil prêt à l'emploi de ce type, capable d'aider les développeurs à déboguer toutes les étapes du processus de développement, de la création d'un ensemble de données à l'entraînement d'un modèle.

La mission de Goodfire est de rendre la construction de modèles d'IA moins semblable à de l'alchimie et plus à une science rigoureuse. Les modèles de langage de grande taille (LLM) tels que ChatGPT et Gemini peuvent accomplir des tâches impressionnantes, mais leur fonctionnement interne reste souvent un mystère. Cette opacité complique la correction de leurs défauts ou la prévention de comportements indésirables. Eric Ho, PDG de Goodfire, a exprimé lors d'une conversation exclusive avec le MIT Technology Review que l'écart entre la compréhension des modèles et leur déploiement généralisé est préoccupant. Selon lui, l'approche dominante dans les laboratoires de pointe consiste à augmenter l'échelle, la puissance de calcul et les données pour atteindre l'intelligence générale artificielle (AGI), mais Goodfire propose une alternative plus efficace.

Goodfire s'inscrit parmi un groupe restreint d'entreprises, aux côtés de leaders comme Anthropic, OpenAI et Google DeepMind, qui explorent l'interprétabilité mécaniste. Cette technique vise à comprendre ce qui se passe à l'intérieur d'un modèle d'IA lorsqu'il exécute une tâche, en cartographiant ses neurones et les connexions entre eux. Goodfire souhaite utiliser cette approche non seulement pour auditer les modèles déjà entraînés mais aussi pour les concevoir dès le départ. « Nous voulons éliminer l'essai et l'erreur et transformer l'entraînement des modèles en ingénierie de précision », déclare Ho. « Et cela signifie exposer les boutons et les cadrans afin que vous puissiez réellement les utiliser pendant le processus d'entraînement. »

Silico permet aux utilisateurs de zoomer sur des parties spécifiques d'un modèle entraîné, telles que des neurones individuels ou des groupes de neurones, et de réaliser des expériences pour observer leurs fonctions. Bien que l'accès aux modèles propriétaires comme ChatGPT ou Gemini soit limité, Silico peut être utilisé pour explorer de nombreux modèles open-source. Par exemple, Goodfire a identifié un neurone dans le modèle open-source Qwen 3, qui était associé au problème du trolley, influençant les réponses du modèle en termes de dilemmes moraux. « Lorsque ce neurone est actif, toutes sortes de choses étranges se produisent », explique Ho.

L'outil utilise des agents pour automatiser une grande partie du travail complexe d'interprétabilité, rendant ces techniques accessibles aux petites entreprises et équipes de recherche. « Les agents sont maintenant suffisamment puissants pour effectuer une grande partie du travail d'interprétabilité que nous faisions avec des humains », explique Ho. Cette automatisation comble le fossé nécessaire pour que Silico devienne une plateforme viable que les clients peuvent utiliser eux-mêmes.

Leonard Bereska, chercheur à l'Université d'Amsterdam, qui a travaillé sur l'interprétabilité mécaniste, estime que Silico semble être un outil utile. Cependant, il remet en question les ambitions plus larges de Goodfire, affirmant qu'ils ajoutent de la précision à l'alchimie, et que l'appeler ingénierie pourrait donner une impression plus fondée qu'elle ne l'est réellement.

Silico offre également la possibilité d'ajuster les paramètres des neurones pour modifier les comportements indésirables. Un exemple illustratif est celui où un modèle a été interrogé sur la divulgation de comportements trompeurs affectant 200 millions d'utilisateurs. Initialement, le modèle a répondu négativement, mais en renforçant les neurones liés à la transparence, la réponse est devenue positive dans la majorité des cas. « Le modèle avait déjà le circuit de raisonnement éthique, mais il était éclipsé par l'évaluation des risques commerciaux », déclare Ho.

L'outil permet aussi d'orienter l'entraînement des modèles en filtrant certaines données pour éviter de définir des valeurs indésirables dès le départ. Par exemple, de nombreux modèles peuvent être influencés par des associations erronées avec des textes bibliques ou des dépôts de code, ce qui peut être corrigé grâce à Silico. En lançant Silico, Goodfire souhaite mettre des techniques auparavant réservées à quelques laboratoires de pointe entre les mains de petites entreprises et d'équipes de recherche qui souhaitent construire leur propre modèle ou adapter un modèle open-source.

L'outil sera disponible moyennant des frais déterminés au cas par cas selon les besoins des clients, bien que Goodfire ait refusé de fournir des détails spécifiques sur la tarification. Bereska convient que des outils comme Silico pourraient aider les entreprises à construire des modèles plus fiables, en particulier pour des applications critiques en matière de sécurité dans des domaines tels que la santé et la finance. « Les laboratoires de pointe ont déjà des équipes internes d'interprétabilité », ajoute-t-il. « Silico arme le prochain niveau d'entreprises, où la valeur réside dans le fait de ne pas avoir à embaucher des chercheurs en interprétabilité. »