Accueil › Glossaire › Neural Processing Unit

Neural Processing Unit (NPU)

Un NPU (Neural Processing Unit, ou unité de traitement neuronal) est un processeur spécialisé intégré dans les SoC (System-on-Chip) des smartphones, PC et tablettes, optimisé pour exécuter les opérations de réseaux de neurones (multiplication matricielle, convolution, fonctions d’activation) directement sur l’appareil, avec une consommation d’énergie nettement inférieure à celle d’un CPU ou d’un GPU.

Pourquoi les NPU existent

Un CPU est un généraliste : il exécute n’importe quelle instruction, mais traite les opérations principalement en séquence. Un GPU est un paralléliste puissant : il accélère les calculs matriciels mais consomme beaucoup d’énergie. Un NPU occupe une niche spécifique : il exécute les opérations typiques des réseaux de neurones (inférence) en parallèle, avec une fraction de la consommation énergétique d’un GPU.

La différence d’efficacité est spectaculaire. Des benchmarks montrent que les NPU consomment 35 à 70 % moins d’énergie que les GPU pour les mêmes tâches d’inférence. Dans une comparaison, un NPU utilisait 94 watts en charge maximale tandis qu’un GPU effectuant le même travail consommait plus de 314 watts. Sur un laptop fonctionnant sur batterie, cette différence se traduit directement en heures d’autonomie supplémentaires.

C’est cette efficacité qui rend possible l’IA on-device : la reconnaissance faciale, la traduction en temps réel, le flou d’arrière-plan en visioconférence, l’amélioration photo, la transcription vocale, tout cela directement sur votre téléphone ou PC, sans envoyer de données au cloud. Les avantages : latence quasi nulle, confidentialité des données (rien ne quitte l’appareil), et fonctionnement hors ligne. C’est un argument central dans le débat IA locale vs cloud.

Comment fonctionne un NPU

Au niveau matériel, un NPU contient des unités de calcul spécialisées pour la multiplication matricielle et les convolutions. Son architecture repose sur le principe SIMD (Single Instruction, Multiple Data) : une seule instruction est appliquée simultanément à un grand lot de données. Le NPU utilise aussi de la mémoire rapide on-chip pour minimiser les déplacements de données, qui sont le principal goulot d’étranglement des calculs IA.

Trois caractéristiques distinguent les NPU des autres processeurs :

Arithmétique basse précision. Les NPU travaillent en INT8, INT4 ou FP16, des formats numériques qui demandent moins de bits par opération. Les modèles d’IA tolèrent cette précision réduite sans perte significative de qualité, et cela permet de multiplier le nombre d’opérations par seconde tout en réduisant la consommation.

Mémoire haute bande passante on-chip. Les NPU intègrent des tampons mémoire dédiés qui gardent les données proches des unités de calcul, réduisant la latence et la consommation liées aux accès mémoire.

Architecture systolique. Beaucoup de NPU utilisent des réseaux systoliques (arrays) où les données « circulent » d’une unité à l’autre dans un flux continu, maximisant l’utilisation du matériel. C’est le même principe que les Google TPU, mais à une échelle adaptée aux appareils mobiles.

Un NPU ne fonctionne jamais seul. Il est intégré dans un SoC aux côtés du CPU et du GPU. Le système d’exploitation (Windows, Android, iOS) décide dynamiquement quel processeur est le mieux adapté à chaque tâche. L’IA « légère » (reconnaissance vocale, amélioration photo) va au NPU. L’IA « lourde » (génération d’image, LLM local) va au GPU. Les tâches généralistes vont au CPU.

Comparatif des NPU en 2026

Écosystèmes logiciels : la vraie différence

Chaque fabricant a son propre SDK pour cibler le NPU, ce qui crée une fragmentation pour les développeurs :

Apple (Core ML) : l’écosystème le plus intégré. Core ML route automatiquement les opérations vers le Neural Engine, le GPU ou le CPU selon ce qui est optimal. Expérience développeur très fluide, mais fermée à l’écosystème Apple.

Intel (OpenVINO) : le toolkit le plus mature sur x86. OpenVINO supporte la conversion de modèles depuis PyTorch, TensorFlow et ONNX, et optimise automatiquement pour le NPU Intel. Bonne documentation, roadmap visible (74 TOPS prévus pour 2026-2027).

AMD (Vitis AI / ONNX Runtime) : AMD mise sur l’approche Windows et l’intégration ONNX Runtime avec le « VitisAIExecutionProvider » qui partitionne automatiquement entre NPU et CPU. Encore en cours de maturation, mais progresse rapidement.

Qualcomm (AI Engine Direct / SNPE) : très performant sur Android, mais l’intégration PC (via Copilot+ PC) est plus récente. Le Snapdragon X2 à 85 TOPS pourrait changer la donne.

Le standard ONNX (Open Neural Network Exchange) est le principal pont entre ces écosystèmes, permettant aux développeurs de créer un modèle une fois et de le déployer sur plusieurs NPU. Mais en pratique, des optimisations spécifiques à chaque plateforme restent nécessaires pour tirer le meilleur de chaque NPU.

Copilot+ PC et l’ère de l’AI PC

En 2024, Microsoft a lancé la catégorie « Copilot+ PC » : des PC Windows équipés d’un NPU d’au moins 40 TOPS, capables d’exécuter des fonctionnalités IA on-device. Les premiers modèles utilisaient le Qualcomm Snapdragon X Elite, puis AMD (Ryzen AI 300) et Intel (Core Ultra 200V) ont suivi.

Les fonctionnalités Copilot+ incluent : Windows Recall (historique visuel de votre activité, recherche par description), Live Captions (sous-titrage en temps réel avec traduction), Windows Studio Effects (flou d’arrière-plan, correction du regard, cadrage automatique en visioconférence), et des capacités de génération IA intégrées.

Le seuil de 40 TOPS a créé une ligne de démarcation nette : les PC avec des NPU plus lents (comme les premiers Intel Meteor Lake à ~10 TOPS) n’ont pas accès aux fonctionnalités Copilot+, ce qui a frustré certains early adopters. La leçon : les spécifications NPU sont devenues un critère d’achat aussi important que la RAM ou le stockage pour les laptops.

Cas d’usage concrets du NPU

Sur smartphone

Photographie computationnelle. Les smartphones modernes prennent des séquences de photos à grande vitesse et les fusionnent via le NPU pour produire une image HDR, réduire le bruit, améliorer les détails. Le Google Pixel et les iPhones utilisent massivement le NPU pour cette tâche. C’est pourquoi les photos de smartphones rivalisent avec les reflex malgré des capteurs physiquement plus petits.

Reconnaissance faciale. Face ID (Apple) utilise le Neural Engine pour analyser la carte 3D de votre visage en millisecondes, directement sur l’appareil. Les données biométriques ne quittent jamais le téléphone.

Traduction en temps réel. Les modèles de traduction s’exécutent sur le NPU pour traduire des conversations en direct sans connexion internet. Samsung et Google proposent cette fonctionnalité sur leurs smartphones récents.

Assistants vocaux. Le traitement initial de la voix (wake word detection, transcription) est effectué par le NPU avant d’être envoyé au cloud, réduisant la latence et la consommation de données.

Sur PC et laptop

Visioconférence. Windows Studio Effects utilise le NPU pour le flou d’arrière-plan, le cadrage automatique, la correction du regard et la suppression de bruit, dans n’importe quelle application vidéo, sans consommer de GPU.

LLM locaux. Les modèles de langage quantifiés (INT4/INT8) peuvent tourner partiellement ou totalement sur le NPU pour des tâches légères. Les modèles plus lourds utilisent le GPU, mais le NPU gère les opérations auxiliaires (embedding, prétraitement). Des frameworks comme Ollama commencent à supporter le déchargement vers le NPU.

Génération d’image locale. Stable Diffusion peut utiliser le NPU AMD via Vitis AI pour générer des images localement. La performance est inférieure au GPU pour le workflow itératif, mais l’avantage est la préservation de la batterie et du headroom thermique.

Productivité IA. Les fonctionnalités comme le résumé de documents, la réécriture de texte, la recherche sémantique dans les fichiers locaux peuvent être exécutées par le NPU sans envoyer de données au cloud.

En edge computing et IoT

Les NPU sont essentiels pour l’IA edge : caméras de surveillance intelligentes (détection d’objets en temps réel), véhicules autonomes (ADAS), dispositifs médicaux (analyse d’imagerie sur site), et robots industriels. Les architectures TinyML poussent encore plus loin cette logique L’automobile est le segment à la croissance la plus rapide pour les NPU, avec un CAGR de 22,8 % jusqu’en 2033.

NPU vs GPU : quand utiliser quoi

Les trois processeurs (CPU, GPU, NPU) ne sont pas en compétition, ils sont complémentaires. Le NPU libère le GPU pour les tâches graphiques et l’IA lourde, tandis que le CPU gère l’orchestration et les tâches généralistes. L’intelligence est dans la répartition automatique des charges par le système d’exploitation.

Évolution et perspectives

La trajectoire des NPU est claire : plus de TOPS, plus de modèles supportés, et une intégration plus profonde dans l’OS.

Performance. Intel prévoit 74 TOPS dans ses processeurs desktop de 2026-2027 (5x la performance en deux générations). Qualcomm cible 85 TOPS avec le Snapdragon X2. La course aux TOPS ressemble à celle des mégapixels pour les appareils photo : un indicateur marketing qui ne capture pas toute la réalité, mais qui reflète une tendance réelle d’amélioration.

Standardisation. Le Khronos Group (organisation derrière OpenGL et Vulkan) travaille sur la standardisation des interfaces IA pour réduire la fragmentation entre les SDK propriétaires (Core ML, OpenVINO, SNPE, Vitis AI). L’objectif : un standard ouvert qui permette aux développeurs de cibler tous les NPU avec un seul code, comme Vulkan l’a fait pour les GPU.

LLM on-device. La prochaine frontière est l’exécution de LLM complets sur le NPU. Les modèles quantifiés (4 bits) de 7 à 13 milliards de paramètres commencent à tourner de manière acceptable sur les NPU de 50+ TOPS. À mesure que les NPU gagnent en puissance et que les modèles sont optimisés pour les architectures basse précision, l’IA conversationnelle 100 % locale deviendra courante.

Neuromorphique. Au-delà des NPU classiques, des architectures neuromorphiques comme Intel Loihi 2 imitent plus fidèlement le fonctionnement des neurones biologiques (événementiel plutôt que synchrone), promettant des efficacités énergétiques encore supérieures pour certaines charges de travail.

Verdict

Le NPU est devenu un composant incontournable des appareils modernes. En 2026, tout laptop sérieux intègre un NPU de 40+ TOPS (seuil Copilot+ PC), tout smartphone flagship en possède un, et l’IA on-device est passée du gadget à la fonctionnalité quotidienne.

Le choix entre fabricants dépend de votre écosystème. Apple offre l’intégration la plus fluide (Neural Engine + Core ML), Intel le toolkit développeur le plus mature sur x86 (OpenVINO), AMD le meilleur rapport TOPS/prix, et Qualcomm la meilleure efficacité énergétique. La fragmentation logicielle reste le principal frein, mais ONNX et les initiatives de standardisation Khronos progressent.

Pour les utilisateurs : si vous achetez un nouveau laptop, vérifiez que le NPU atteint 40+ TOPS pour accéder aux fonctionnalités Copilot+. Pour les développeurs : ciblez ONNX Runtime comme couche d’abstraction, avec des optimisations spécifiques par plateforme si la performance le justifie. Pour les décideurs : l’IA on-device n’est plus une option premium, c’est le standard. Planifiez vos déploiements en conséquence.