Alibaba et Qwen 3 : l'IA locale accessible à tous

L'essor des modèles de langage de grande taille

Mettre en place son propre modèle de langage de grande taille peut sembler complexe, mais l'avenir est prometteur. Les modèles d'IA de pointe sont de plus en plus menacés par des contrôles d'exportation stricts ou des coûts d'API croissants. Alors que cette technologie s'intègre dans la vie quotidienne, le mouvement open-source n'est pas seulement une préférence philosophique, mais un mécanisme nécessaire pour garder l'IA entre les mains des utilisateurs ordinaires.

La parité n'est pas encore atteinte; les modèles propriétaires des grands laboratoires technologiques conservent un avantage significatif en termes de performance pure. Cependant, il est possible d'espérer que l'écart se réduise rapidement. Une communauté indépendante de chercheurs et de développeurs travaille sans relâche pour garantir que cette technologie soit accessible à quiconque possède un ordinateur. Aujourd'hui, les bases d'une véritable démocratisation sont déjà là : il est possible d'exécuter un modèle hautement capable entièrement sur un ordinateur portable personnel. Pour cette expérience, l'auteur de la tribune a décidé de trouver un modèle de langage de grande taille pouvant fonctionner entièrement sur son ordinateur portable et de l'utiliser pour les tâches simples qu'il confierait normalement à un grand modèle de laboratoire.

Qwen 3 8B : Un modèle puissant à portée de main

L'auteur de la tribune a installé Qwen 3 8B sur son MacBook Air, le faisant fonctionner entièrement hors ligne, et a enfin un modèle de langage sur sa propre machine plutôt que dans un centre de données éloigné. La famille de modèles Qwen a été entraînée par Alibaba (la société chinoise) et est entièrement open-source, disponible sur Internet pour que tout le monde puisse la télécharger. Le modèle possède 9 milliards de poids et occupe environ 6 Go de RAM lorsqu'il est chargé.

Ce qui suit est un guide pratique, de A à Z, pour exécuter un véritable modèle de langage local sur un Mac Apple Silicon, incluant les commandes terminal nécessaires. Mais avant d'ouvrir le terminal, il est important de discuter de l'intérêt de cette démarche.

Pourquoi installer un modèle local ?

La plupart du temps, les modèles cloud sont meilleurs et plus faciles à utiliser. L'auteur de la tribune ne prétend pas qu'un modèle de 8 milliards de paramètres sur un ordinateur portable surpasse l'IA de pointe. Ce n'est pas le cas, et il continuera d'utiliser les modèles cloud massifs pour les tâches lourdes.

Cependant, les fluctuations de prix et les guerres de souveraineté autour de l'IA pourraient rendre les modèles open-source et locaux très pertinents pour un avenir où l'accès à la technologie fera une énorme différence. Chaque fois que l'on utilise Claude ou ChatGPT, les données sont envoyées à des serveurs distants où l'accès peut être bloqué à tout moment.

La notion de « souveraineté numérique » est une grande phrase pour un désir très ordinaire : les utilisateurs veulent posséder ce qui lit leurs pensées les plus sensibles, tout comme ils possèdent un carnet physique ou gardent de l'argent chez eux.

Un modèle local répond à ce besoin de manière claire dans le monde de l'IA. Une fois téléchargé, rien ne quitte la machine. Pas de clés API, pas de changements de conditions d'utilisation, pas de politiques de conservation des données discrètes. Il est possible de retirer la carte Wi-Fi et il continue de fonctionner. Pour la partie très sensible du travail, cela peut valoir le coût d'entrée.

Les gens aiment dire que les modèles locaux « démocratisent » l'IA. L'auteur de la tribune souhaite que ce soit vrai, mais ce n'est pas encore le cas. Faire fonctionner cette configuration suppose toujours que l'on possède un ordinateur portable à 1 500 € avec une mémoire unifiée massive et que l'on est à l'aise avec la ligne de commande. C'est une tranche étroite et chanceuse du monde.

Cependant, la trajectoire est en train de se démocratiser. Il y a deux ans, faire fonctionner un modèle hors ligne décent nécessitait une station de travail dédiée et des douleurs techniques sérieuses. Ce week-end, cela a pris quelques heures et 5 Go d'espace disque.

La machine et les spécifications

L'auteur de la tribune a construit cela sur un MacBook Air M4 avec 24 Go de mémoire unifiée et environ 235 Go de stockage libre. C'était un nouveau départ : pas de Homebrew, pas de cauchemars d'environnement Python.

Le chiffre qui compte ici est le 24 Go. La « mémoire unifiée » d'Apple Silicon est le truc magique qui rend les Macs si exceptionnellement bons pour cela. Comme le CPU et le GPU partagent exactement le même pool de mémoire, les poids massifs des réseaux neuronaux n'ont pas besoin d'être lentement transférés d'un côté à l'autre.

Un modèle de 8 milliards prend environ 5 Go sur disque et occupe environ 6 Go en mémoire lorsqu'il est chargé. Sur une machine de 24 Go, c'est très confortable. Il est possible d'exécuter un modèle de 14 milliards et de garder encore des dizaines d'onglets de navigateur ouverts. (Si vous avez un Mac de 8 Go, restez sur les modèles de 1,5 milliard ou 3 milliards et fermez vos autres applications).

Il existe une douzaine de façons d'exécuter une IA locale, et la plupart d'entre elles demandent de se soucier des drapeaux de compilation et des arbres de dépendance. Cela ne devrait pas être nécessaire.

Ollama est un cadre et un outil open-source qui fonctionne simplement. C'est un binaire unique qui regroupe un exécuteur de modèle hautement optimisé (llama.cpp utilisant le Metal d'Apple pour l'accélération GPU), un registre de modèles de style Docker, et une API HTTP locale. On l'installe, on tire un modèle, et on communique avec lui. C'est tout !

Étape 1 : Installer Ollama (Pas besoin de Homebrew)

Ollama est livré en tant qu'application standard macOS dans un fichier zip. L'interface en ligne de commande (CLI) se trouve secrètement à l'intérieur du bundle de l'application, donc elle peut être configurée entièrement à la main.

• Télécharger la version Apple Silicon :

curl -L -o Ollama-darwin.zip https://ollama.com/download/Ollama-darwin.zip

• Dézipper et déplacer l'application dans le dossier Applications :

unzip -o -q Ollama-darwin.zip
mv Ollama.app /Applications/

Si vous ne savez pas comment ouvrir le terminal, allez dans vos applications Mac et cherchez « terminal ».

Étape 2 : Mettre Ollama dans votre PATH

L'auteur de la tribune ne voulait pas se battre avec les permissions sudo dans /usr/local/bin, donc il a créé un lien symbolique vers la CLI dans un répertoire local qu'il possède — c'est juste un raccourci pratique pour accélérer l'installation et faire fonctionner le LLM.

• Créer un répertoire bin local et lier la CLI :

mkdir -p ~/.local/bin
ln -sf /Applications/Ollama.app/Contents/Resources/ollama ~/.local/bin/ollama

• Rendre cela permanent dans le profil zsh :

echo 'export PATH="$HOME/.local/bin:$PATH"' >> ~/.zshrc

• L'appliquer au shell actuel :

export PATH="$HOME/.local/bin:$PATH"
ollama --version

Étape 3 : Démarrer le serveur

Ollama exécute un serveur léger en arrière-plan pour exposer l'API et gérer la mémoire de l'ordinateur.

• Démarrer le serveur et enregistrer la sortie :

mkdir -p ~/.ollama/logs
nohup ollama serve > ~/.ollama/logs/serve.log 2>&1 &

• Vérifier s'il est actif :

curl -s http://127.0.0.1:11434/api/version

Si la commande ci-dessus renvoie une « version », Ollama est configuré !

Étape 4 : Tirer le modèle

C'est aussi simple que cela :

ollama pull qwen3:8b

Allez vous faire un café. Le téléchargement fait environ 5,2 Go.

Après avoir exécuté ollama list, vous verrez le modèle disponible pour vous.

Étape 5 : Interagir avec le nouveau cerveau numérique de votre ordinateur

Il y a trois façons distinctes d'interagir avec le nouveau modèle local.

1. Chat interactif (le plus facile)

ollama run qwen3:8b

Exécuter la commande suivante lancera le chat interactif. Dans le mode par défaut, le modèle affichera les « tokens de réflexion », quelque chose qui est normalement abstrait et caché dans la plupart des outils commerciaux.

L'auteur de la tribune commence par demander à son modèle local ce qu'il pense des modèles open-source.

1. Commandes terminal à la volée Pour interagir avec le modèle local, il est également possible de fournir la question en dehors du mode interactif :

ollama run qwen3:8b "écris un script python qui me dit combien de voyelles un mot a"

Voici le script que le modèle de langage local a construit :

# Demander à l'utilisateur un mot
word = input("Entrez un mot : ")
# Définir l'ensemble des voyelles
vowels = {'a', 'e', 'i', 'o', 'u'}
# Initialiser un compteur
count = 0
# Convertir le mot en minuscules et vérifier chaque caractère
for char in word.lower():
    if char in vowels:
        count += 1
# Afficher le résultat
print(f"Nombre de voyelles : {count}")

1. L'API HTTP (pour scripts et applications) Il est également possible d'utiliser cela en dehors des commandes terminales. Si vous êtes à l'aise avec Python, vous pouvez créer n'importe quel script local utilisant votre modèle local :

import json, urllib.request
req = urllib.request.Request(
    "http://127.0.0.1:11434/api/generate",
    data=json.dumps({
        "model": "qwen3:8b",
        "[prompt](/glossaire/prompt)": "Donnez-moi trois utilisations d'un LLM local.",
        "stream": False,
        "headers": {"Content-Type": "application/json"},
    })
)
print(json.loads(urllib.request.urlopen(req).read())["response"])

Voici la réponse du modèle après l'exécution de ce script Python : Bien sûr ! Voici trois utilisations courantes et pratiques d'un LLM local (modèle de langage de grande taille) :

• Assistance personnalisée et productivité : Un LLM local peut agir comme un assistant IA privé, aidant avec des tâches comme la rédaction d'e-mails, la planification, la prise de notes, et même le codage. Comme il fonctionne localement, il préserve la vie privée de l'utilisateur et ne dépend pas de la connectivité Internet.

• Création de contenu et traitement du langage : Vous pouvez utiliser un LLM local pour générer du contenu créatif tel que des articles de blog, des histoires, des scripts ou des textes marketing. Il peut également aider à la traduction de langues, à la vérification grammaticale et à la synthèse de textes.

• Applications personnalisées et intégration : Un LLM local peut être intégré dans des applications ou des flux de travail personnalisés, tels que des chatbots, des systèmes de support client ou des outils d'analyse de données. Cela permet des solutions sur mesure sans exposer des données sensibles à des serveurs externes.

Faites-moi savoir si vous souhaitez des exemples de la manière de mettre en œuvre ces utilisations !

Affiner l'expérience — Dompter les « tokens de réflexion »

Qwen 3 est un modèle de raisonnement hybride. Par défaut, il génère un bloc verbeux <think>...</think> décrivant sa chaîne de pensée avant de fournir la réponse finale.