DébutantInfrastructure & matériel
IA en local
En anglais : Local AI
Exécution d’un modèle d’IA directement sur son propre ordinateur ou serveur, sans envoyer les données à un service distant, généralement grâce à un modèle open weights.
Au lieu d’interroger un service en ligne, l’utilisateur télécharge les poids d’un modèle et les fait tourner sur sa machine avec un logiciel adapté. Les données restent sur place, l’outil fonctionne hors connexion et il n’y a pas de facturation à l’usage. En contrepartie, les performances dépendent du matériel disponible, notamment de la VRAM, ce qui pousse souvent à choisir des modèles plus petits ou quantifiés. C’est la différence entre cuisiner chez soi avec son propre équipement et commander au restaurant.
Exemple
Un cabinet d’avocats fait tourner un modèle open weights sur un serveur interne pour résumer des dossiers confidentiels sans les transmettre à un prestataire extérieur.
Notions liées
IA embarquée (edge AI)
IntermédiaireIA exécutée directement sur un appareil, comme un smartphone, une caméra, une voiture ou un capteur industriel, plutôt que dans un centre de données distant.
Modèle à poids ouverts (open weights)
IntermédiaireModèle dont les paramètres entraînés, appelés poids, sont publiés et téléchargeables, ce qui permet de l’exécuter, de l’héberger et de l’adapter soi-même, selon les conditions de sa licence.