«Associer toute la distillation à ces attaques, qui est à ce jour une norme industrielle pour le post-entrainement, des modèles ouverts et fermés, sera un énorme tir dans le pied.»
Citation originale
Associating all of distillation with these attacks, which is to date an industry standard for post-training, from open and closed models alike will be a massive own goal.
Nathan Lambert
Researcher · AI2 · US
Pourquoi ça compte
L'auteur met en garde contre l'association erronée de la distillation, une technique essentielle en IA, avec des attaques malveillantes, ce qui pourrait nuire à l'innovation et à la recherche aux États-Unis.
Source
www.interconnects.ai
Reçois chaque soir les 7 meilleures actus IA, décryptées en 5 min. Gratuit.
« Interdire l'open source, un sujet très mal compris et malmené dans l'IA, serait une grave erreur. »
« J'essaie de construire un écosystème ouvert et un mouvement pour une véritable science ouverte à la pointe de l'IA. »
« La forme d'une recette de post-formation a changé plus au cours de la dernière année que dans les trois précédentes. »