Tu suis la course aux modèles IA ?
Chaque sortie (GPT, Claude, Gemini, Mistral…) décryptée le soir même, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Qualcomm innove avec l'IA mobile sans cloud
Qualcomm AI Research a récemment dévoilé une avancée majeure dans le domaine de l'intelligence artificielle mobile. L'entreprise a mis au point un système modulaire qui permet d'exécuter des modèles de langage avec des capacités de raisonnement directement sur les smartphones. Cette innovation élimine la nécessité d'une connexion constante au cloud, ce qui représente un pas significatif vers une autonomie accrue des appareils mobiles.
Les modèles de langage traditionnels, connus pour leur capacité de raisonnement, sont souvent gourmands en ressources, nécessitant une grande quantité de mémoire et d'énergie pour fonctionner. Pour surmonter ces défis, Qualcomm a utilisé l'apprentissage par renforcement afin de compresser les sorties des modèles tout en préservant leur précision. Cette technique permet de réduire la charge sur les appareils tout en maintenant des performances élevées.
Un modèle polyvalent grâce aux adaptateurs LoRA
Au lieu de créer un nouveau modèle de langage de toutes pièces, Qualcomm a choisi une approche modulaire. Le modèle de base utilisé est le Qwen2.5-7B-Instruct, qui est enrichi par des adaptateurs LoRA. Ces petits modules spécialisés peuvent être activés ou désactivés selon les besoins, permettant au modèle de fonctionner soit comme un chatbot rapide, soit comme un système de raisonnement complexe.
Les chercheurs de Qualcomm ont découvert qu'il n'était nécessaire de former qu'environ 4 % des paramètres pour atteindre des performances comparables à celles de modèles beaucoup plus lourds, comme le DeepSeek-R1-Distill-Qwen-7B. Un classificateur intégré évalue chaque requête pour déterminer si un raisonnement complexe est nécessaire, optimisant ainsi l'utilisation des ressources.
Réduction drastique de la verbosité grâce à l'apprentissage par renforcement
Un des défis majeurs après l'entraînement initial des modèles est leur tendance à produire des réponses excessivement longues. Ce phénomène, appelé "hésitation épistémique", se traduit par une sur-analyse des problèmes, où les modèles consomment des milliers de tokens pour vérifier leurs propres conclusions.
Pour contrer cela, Qualcomm a mis en place un apprentissage par renforcement qui pénalise les réponses trop verbeuses. En conséquence, les réponses ont été réduites en moyenne par un facteur de 2,4, et jusqu'à 8 fois pour certaines tâches spécifiques. Par exemple, une simplification algébrique qui nécessitait initialement 3 118 tokens a été ramenée à seulement 810 tokens, tout en conservant une précision élevée.
Exploitation de chemins parallèles et compression avancée
Le cadre développé par Qualcomm permet également au modèle de poursuivre plusieurs chemins de solution en parallèle. Une petite tête d'évaluation intégrée au modèle de base estime quelle réponse est la plus probable d'être correcte. Avec huit exécutions parallèles, l'exactitude sur le benchmark mathématique MATH500 a augmenté d'environ 10 %, sans impact significatif sur le temps de réponse.
Pour rendre le modèle fonctionnel sur un smartphone, Qualcomm a compressé les poids du modèle à 4 bits. Les adaptateurs de raisonnement doivent être entraînés directement sur ce modèle compressé pour éviter de produire du texte aléatoire. Malgré cette compression, le modèle ne perd qu'environ 2 % de précision par rapport à sa version non compressée.
Vers une IA mobile plus intégrée
Depuis plusieurs années, Qualcomm s'efforce de rendre l'IA accessible sur les appareils mobiles. L'entreprise a déjà publié 80 modèles d'IA pré-optimisés pour les appareils Snapdragon et a développé un orchestrateur d'IA pour gérer les interactions entre les données personnelles, les applications et les modèles d'IA sur appareil.
Google a également exploré des voies similaires, en démontrant comment de petits modèles de langage peuvent opérer localement sur Android. Cependant, jusqu'à présent, ces initiatives restent principalement des démonstrations techniques. Pour une intégration complète, où l'IA pourrait accéder directement aux e-mails, photos et calendriers, les entreprises continuent de s'appuyer sur des modèles basés sur le cloud. Par exemple, la fonctionnalité "Personal Intelligence" de Google, qui connecte Gemini avec Gmail, Google Photos et Search, fonctionne entièrement côté serveur.
