IntermédiaireInfrastructure & matériel
NPU (processeur neuronal)
En anglais : Neural Processing Unit
Composant intégré à de nombreux smartphones et ordinateurs portables récents, spécialisé dans l’exécution économe en énergie des calculs d’IA directement sur l’appareil.
Le NPU est un petit accélérateur dédié aux opérations des réseaux de neurones, souvent installé dans la même puce que le processeur principal et le processeur graphique. Il est conçu pour exécuter l’inférence de modèles compacts en consommant peu d’énergie, ce qui préserve l’autonomie de la batterie. Il prend en charge des fonctions comme le flou d’arrière-plan en visioconférence, la retouche photo, la transcription ou certains assistants locaux. Bien moins puissant qu’un GPU de centre de données, il n’est pas destiné à entraîner de grands modèles.
Exemple
Un ordinateur portable récent utilise son NPU pour sous-titrer en direct une réunion vidéo, sans envoyer l’audio vers un serveur distant.
Notions liées
GPU (processeur graphique)
DébutantProcesseur composé de milliers de petits cœurs de calcul travaillant en parallèle, conçu à l’origine pour l’affichage graphique et devenu central pour entraîner et exécuter l’IA.
IA embarquée (edge AI)
IntermédiaireIA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.