IntermédiaireInfrastructure & matériel
IA embarquée (edge AI)
En anglais : Edge AI
IA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.
Plutôt que d’envoyer chaque image ou mesure vers le cloud, l’appareil analyse lui-même les données grâce à un modèle compact et, souvent, à une puce spécialisée comme un NPU. Cela réduit la latence, permet de fonctionner sans connexion et limite la circulation de données personnelles. Les contraintes sont fortes : peu de mémoire, une batterie à préserver et une puissance de calcul limitée, ce qui impose des modèles petits et optimisés. L’IA en local sur un ordinateur personnel en est un cas voisin, alors que l’IA embarquée vise surtout des objets et des systèmes spécialisés.
Exemple
Une caméra de contrôle qualité sur une chaîne de production détecte les pièces défectueuses en temps réel, sans transmettre les vidéos à un serveur.
Notions liées
IA en local
DébutantExécution d’un modèle d’IA directement sur son propre ordinateur ou serveur, sans envoyer les données à un service distant, généralement grâce à un modèle open weights.
Latence
DébutantDélai d’attente entre l’envoi d’une requête à un modèle d’IA et l’arrivée de la réponse, souvent mesuré par le temps avant l’affichage du premier token.