PrismML porte un LLM 1 bit sur des lunettes Snapdragon

PrismML dévoile une version de son LLM Bonsai capable de tourner en local sur des lunettes équipées de la plateforme Snapdragon AR1 Gen 1. L'initiative s'inscrit dans une stratégie d'IA à poids ouverts exécutée sur l'appareil, sans annonce commerciale de lunettes à ce stade.

Pas d'appareil annoncé, mais un pas vers l’IA embarquée

Aucune lunette intelligente intégrant PrismML n’a été annoncée. La publication d’un modèle pour une puce de Qualcomm marque une étape vers l’objectif de PrismML : proposer une IA à poids ouverts fonctionnant directement sur les appareils. PrismML cherche à exploiter la puissance de calcul déjà présente dans ces terminaux et présente cette approche comme une alternative à la dépendance envers les laboratoires propriétaires, leurs promesses de confidentialité et leur demande croissante en ressources.

Le LLM Bonsai s’exécute en local sur Snapdragon AR1 Gen 1

Lors du Snapdragon Summit, Qualcomm a présenté Bonsai, un LLM à 1 bit développé par PrismML. Ce modèle peut fonctionner localement sur des lunettes intelligentes équipées de la plateforme Snapdragon AR1 Gen 1. PrismML adapte ainsi ses petits modèles de langage aux puces Snapdragon, visant des usages sur lunettes intelligentes avec traitement sur l’appareil.

Spécifications pour lunettes : 2 milliards de paramètres et vision-langage

La déclinaison conçue pour les lunettes comprend 2 milliards de paramètres et a été spécialement adaptée pour des usages associant la vision et le langage, offrant la possibilité aux utilisateurs de questionner en direct ce qu’ils observent. PrismML, créé par des chercheurs de Caltech et bénéficiant des conseils d’Ion Stoica de l’UC Berkeley, se distingue par sa faculté à diviser par quatre la taille des modèles tout en préservant quasiment l’ensemble de leurs performances sur des benchmarks standards, selon une source.