Apple et PrismML : révolutionner Siri avec une IA compressée

Apple et PrismML : révolutionner Siri avec une IA compressée

Apple discute avec PrismML, une startup capable de compresser un modèle d'intelligence artificielle de 27 milliards de paramètres pour le faire fonctionner sur un iPhone. La technique réduit la mémoire nécessaire jusqu'à 15 fois, une piste qu'Apple évalue pour renforcer le traitement local de Siri.

Selon CNBC, le directeur général de PrismML confirme des échanges avec Apple autour de sa technologie de compression, qualifiés de préliminaires. Ces discussions surviennent alors qu'Apple cherche à déporter davantage de calcul d'intelligence artificielle directement sur ses appareils.

Comment PrismML fait tenir 27 milliards de paramètres dans moins de 4 Go

PrismML, issue d'un groupe de recherche du California Institute of Technology, a publié une version compressée du modèle open source Qwen d'Alibaba, baptisée Bonsai 27B. Ce modèle fait passer le poids d'environ 54 Go à moins de 4 Go tout en conservant ses 27 milliards de paramètres. Par ailleurs, ce dernier fonctionnerait sur un iPhone 15 selon l'entreprise. Babak Hassibi, directeur général, indique à CNBC qu'Apple évalue la vitesse, la consommation énergétique et les performances de la technologie sur ses appareils. La société a levé 16,25 millions de dollars en mars.

La méthode repose sur une simplification du stockage des valeurs internes du modèle. Un LLM classique retient ce qu'il a appris sous forme de milliards de valeurs numériques (ses paramètres). Chacune de ces valeurs est habituellement codée sur 16 bits. D'un côté, cela autorise des dizaines de milliers de nuances possibles par valeur et garantit une bonne précision, mais de l'autre, cela fait aussi grossir le poids du fichier. PrismML réduit drastiquement ce nombre de nuances. Chaque valeur ne peut plus prendre qu'un ou trois états possibles, un peu comme si on remplaçait une palette de milliers de couleurs par seulement deux ou trois teintes.

Hassibi compare cette démarche à ce qu'a connu l'industrie des puces en passant du calcul huit bits au calcul quatre bits : moins de nuances par valeur, mais un gain en vitesse et en légèreté. PrismML pousse cette logique encore plus loin, jusqu'à un niveau quasi binaire. Au final, la mémoire est divisée par 10 à 15, les réponses sont 6 à 8 fois plus rapides et la consommation d'énergie réduite de 3 à 6 fois.

Deux versions gratuites sont proposées :

• La première, pour ordinateur portable, conserverait environ 95% des performances.
• La seconde, d'environ 3,9 Go, est calibrée pour la mémoire d'un iPhone 17 Pro, tout en conservant près de 90% de précision.

Un tableau de benchmarks publié par PrismML dans son whitepaper détaille cet écart par catégorie. La perte reste la plus faible sur les mathématiques (95,3 à 91,7 points, soit -3,8%), tandis qu'elle se creuse davantage sur l'agentivité et l'appel d'outils (80,0 à 66,0 points, soit -17,5%) ainsi que sur la vision (72,6 à 59,6 points, soit -17,9%).

L'annonce survient un jour après l'ouverture par Apple de la bêta publique d'iOS 27, marquée chez nous par l'absence de Siri AI pour les utilisateurs. Traiter davantage de requêtes sur l'iPhone réduirait le délai de réponse, limiterait les coûts serveurs et permettrait à certaines fonctions d'être exécutées hors connexion, en accord avec le discours d'Apple sur la confidentialité. Carolina Milanesi, de Creative Strategies, cite la photographie computationnelle, la génération vidéo ou les outils de santé, des usages où les données restent sensibles.

Précautions et défis à relever

Plusieurs analystes appellent à la prudence. Tarun Pathak, de Counterpoint Research, rappelle que la fiabilité d'un tel modèle ne se jugera qu'à l'épreuve de millions de requêtes sur des milliers de configurations. Phil Solis, d'IDC, pointe la consommation énergétique comme principale inconnue. Un modèle sollicité en continu pourrait épuiser la batterie, même avec un poids réduit.

Selon Morgan Stanley, le coût de la mémoire vive pourrait grimper d'environ 190% sur un an pour Apple en 2027, et celui du stockage flash NAND de près de 180%, ce qui pousserait la firme à augmenter le prix des iPhone 18 d'environ 200 dollars pour préserver ses marges. Gil Luria, de D.A. Davidson, estime que la réduction de la taille des modèles ne fera pas disparaître le besoin en puces, mais déplacerait une partie de cette demande des centres de données vers les appareils.