Petits modèles sur l'appareil : où ils suffisent, où le cloud garde l'avantage

Ce que les petits modèles font bien, et où ils échouent

Par petit modèle de langage (SLM), nous entendons jusqu'à environ 10 milliards de paramètres ; sur un téléphone, 1 à 4 milliards (le modèle local d'Apple en compte 3 milliards). Un tel modèle tient en quelques gigaoctets, se passe de réseau et se montre efficace pour :

• Classification et routage : intention, sentiment, langue, choix du modèle qui traite une requête.
• Extraction vers un format fixe : champs d'une facture, d'un e-mail ou d'un formulaire.
• Reformulation, résumés courts et autocomplétion : une notification, un avis, une réponse suggérée.
• Assistants hors ligne : Mu, modèle de Microsoft de 330 millions de paramètres, pilote les Paramètres de Windows en langage courant.

Les limites apparaissent vite. Sur l'indice d'intelligence d'Artificial Analysis (26 septembre 2026), les meilleurs modèles ouverts jusqu'à 4B obtiennent de 6 à 16 points, contre environ 58 pour le premier modèle de pointe. Les petits modèles retiennent peu, inventent des réponses aux questions ouvertes et planifient mal : les agents à plusieurs étapes cassent.

Ce qui est disponible en septembre 2026

Intégré à la plateforme

Ni modèle à distribuer ni facture au token ; en contrepartie, vous ne choisissez ni le modèle, ni sa version, ni les appareils qui le reçoivent.

Les modèles ouverts que vous embarquez

Vous choisissez la version et pouvez l'affiner ; vous payez en téléchargement, mémoire, mises à jour et licences.

Les huit couvrent l'espagnol et le français, du moins sur le papier. Attention aux licences : Tiny Aya exclut l'usage commercial, et la licence LFM2 de Liquid ne permet l'usage commercial gratuit que sous 10 millions de dollars de chiffre d'affaires. Pour les exécuter : LiteRT-LM (Google), Core AI et MLX (Apple) ou Foundry Local (Microsoft, environ 20 Mo par application).

Matériel : NPU, mémoire et navigateur

Les TOPS font vendre les portables ; la mémoire et la bande passante décident de ce qui tourne. Google estime Gemma 4 E2B à 2,9 Go en INT4 (11,4 Go en BF16), et Apple réserve son plus grand modèle local (AFM 3 Core Advanced, parcimonieux, 20B dont 1 à 4B actifs) à ses iPhone les plus récents et aux Mac et iPad récents dotés d'au moins 12 Go. Dans les tests MLX d'Apple, la génération était de 19 à 27 % plus rapide sur M5 que sur M4, en ligne avec 28 % de bande passante en plus. Voir notre guide de la quantification.

Dans le navigateur, Chrome partage un téléchargement de Gemini Nano entre les sites, sur ordinateur uniquement ; LiteRT.js de Google fait tourner votre propre modèle sur CPU (WebAssembly), GPU (WebGPU) ou, à titre expérimental, NPU (WebNN), au prix d'un téléchargement par utilisateur. Plus de détails dans le matériel pour l'IA locale en 2026.

Pour : confidentialité et latence. Contre : batterie, mémoire, fragmentation

L'argument le plus fort est juridique. Si les données ne quittent jamais l'appareil, il n'y a ni fournisseur d'IA à encadrer comme sous-traitant (article 28 du RGPD), ni transfert international à justifier (chapitre V du RGPD, article 26 de la loi colombienne 1581). Vous restez responsable de vos traitements, mais la conformité se simplifie. Sur Android, selon Google, AICore n'a pas d'accès direct à internet et ne conserve aucune trace des entrées ni des sorties.

Ensuite, latence et hors-ligne : Microsoft annonce plus de 100 tokens par seconde pour Mu sur NPU de PC Copilot+ ; Liquid AI, 70 pour LFM2.5-1.2B sur le CPU d'un Galaxy S25 Ultra, avec 719 Mo. En face :

• Batterie : Google a mesuré 0,75 % de la batterie d'un Pixel 9 Pro pour 25 conversations avec Gemma 3 270M en INT4 ; sur un GPU de bureau, un modèle de 7B a consommé jusqu'à 4,4 fois plus d'énergie par token qu'un modèle de 1B.
• Stockage et contexte : Chrome exige 22 Go libres pour Gemini Nano et le supprime sous 10 Go ; le modèle d'Apple accepte quelques milliers de tokens par session.
• Mises à jour et couverture : Windows remplace Phi Silica par Aion Instruct en novembre 2026, la Prompt API de ML Kit est une bêta sans SLA et Android ne sert que l'app au premier plan.

Spécialiser un petit modèle : LoRA et distillation

Affiné pour une seule tâche, un généraliste moyen peut devenir suffisant. LoRA entraîne de petites matrices d'adaptation au-dessus de poids figés ; la distillation fait produire par un grand modèle les exemples dont un petit apprend. Les outils existent : mlx-lm prend en charge LoRA sur Mac, et Apple propose depuis 2025 un outil pour entraîner des adaptateurs LoRA pour son modèle local. DeepSeek a entraîné Qwen3-8B sur des traces de raisonnement de R1-0528 et affirme qu'il égale Qwen3-235B en mode raisonnement sur AIME 2024.

1. Choisissez une tâche bornée avec une métrique de réussite ou d'échec (bonne étiquette, bon champ, JSON valide).
2. Constituez un jeu de test de cas réels anonymisés et mesurez d'abord le modèle de base ; un bon prompt suffit parfois.
3. Générez les données d'entraînement avec un grand modèle dont les conditions le permettent, et faites relire un échantillon par des personnes.
4. Entraînez sur la version exacte du modèle de base que vous livrez, quantifiez, puis retestez sur de vrais appareils : dans une étude, des poids en 4 bits conservaient 93,5 % de la précision en raisonnement à 1,5B, contre 99,5 % à 32B.
5. Déployez derrière un repli cloud et réentraînez quand le modèle de base change. S'il manque des connaissances, voyez fine-tuning ou RAG.

Appareil, serveur ou API de pointe

On décide fonction par fonction, pas application par application.

Le schéma hybride : local d'abord, repli dans le cloud

1. Vérifiez à l'exécution que le modèle local est présent et gère la langue de l'utilisateur.
2. Routez par tâche : le travail borné reste local ; les questions ouvertes, les longs documents et les agents partent vers le cloud.
3. Contraignez la sortie locale par la génération structurée (la génération guidée d'Apple, les schémas JSON de la Prompt API de Chrome) et validez-la.
4. Escaladez quand la validation échoue ou que l'entrée dépasse le contexte local, si l'utilisateur accepte que ses données quittent l'appareil.

Apple l'intègre désormais : depuis iOS 27, une même API de session atteint le modèle de l'appareil, Private Cloud Compute (32 000 tokens ; sans coût d'API pour les développeurs sous 2 millions de premiers téléchargements) ou, via le nouveau protocole LanguageModel, d'autres modèles ; selon Apple, Anthropic et Google publieront des paquets Swift pour Claude et Gemini.

Règle pratique : journalisez le taux d'escalade, sans contenu, par appareil et version du système. S'il bondit après une mise à jour, le modèle de la plateforme a changé : relancez votre évaluation.

Ce que cela coûte : une méthode aux hypothèses explicites

Prenons une fonction qui classe et résume des messages courts : 1 million de tâches par mois, 500 tokens en entrée et 100 en sortie chacune (hypothèses illustratives, pas des mesures).

Face à un modèle ouvert servi par API, l'économie est négligeable ; face à un modèle de pointe, elle est réelle mais rarement décisive. Les coûts qui tranchent sont l'ingénierie et les tests par plateforme, le trafic de repli et les téléchargements (2,9 Go par utilisateur pour Gemma 4 E2B en INT4, à chaque mise à jour). La même logique fixe le seuil de rentabilité : à 18 $ par mois, un GPU à 2 000 $ mettrait plus de neuf ans à s'amortir. D'autres leviers dans le vrai coût de l'IA.

Ce que cela signifie en Colombie, en Amérique latine et en Europe

Colombie et Amérique latine : concevoir pour le parc réel. Les modèles intégrés n'atteignent que les téléphones récents (Pixel 9, Galaxy S25, iPhone 15 Pro et suivants) ; le milieu de gamme et les appareils plus anciens ont besoin d'un autre chemin. Pour les applications mobiles utilisées sans réseau en vente terrain, logistique ou agriculture, un modèle de 1B embarqué (environ 1 Go en 4 bits) peut extraire des données hors ligne. Évitez les gros téléchargements sur données mobiles : Chrome lui-même attend une connexion non facturée à l'usage.

Colombie : moins de questions sur les données. La SIC applique la loi 1581 à l'IA (Circular Externa 002 de 2024). Les États-Unis figurent sur sa liste de pays adéquats : une API américaine n'est donc pas interdite, mais vous devez démontrer votre responsabilité ; sur l'appareil, la question disparaît.

Europe : la minimisation par construction. Rien n'atteint vos serveurs sans décision de votre part, et un adaptateur LoRA ne fait pas de vous un fournisseur de modèle d'IA à usage général au sens de l'AI Act : les lignes directrices de la Commission placent ce seuil au-delà d'un tiers du calcul d'entraînement d'origine.