DébutantInfrastructure & matériel
GPU (processeur graphique)
En anglais : Graphics Processing Unit
Processeur composé de milliers de petits cœurs de calcul travaillant en parallèle, conçu à l’origine pour l’affichage graphique et devenu central pour entraîner et exécuter l’IA.
Un processeur classique (CPU) traite un nombre limité de tâches complexes à la fois, alors qu’un GPU mène en parallèle des milliers d’opérations simples. Or les réseaux de neurones reposent massivement sur des multiplications de matrices, un calcul qui se découpe très bien en morceaux indépendants. C’est la différence entre un chef cuisinier très polyvalent et une brigade de cent commis qui épluchent chacun leurs légumes en même temps. NVIDIA et AMD figurent parmi les principaux fabricants de GPU destinés à l’IA, utilisés aussi bien dans les centres de données que dans les ordinateurs personnels.
Exemple
Une start-up loue pour quelques heures des GPU dans le cloud afin d’affiner un modèle open weights sur ses propres données.
Notions liées
CUDA
AvancéPlateforme logicielle et modèle de programmation créés par NVIDIA, qui permettent d’utiliser ses GPU pour du calcul généraliste, notamment l’entraînement et l’inférence de modèles d’IA.
Centre de données IA (datacenter)
DébutantBâtiment regroupant un grand nombre de serveurs équipés d’accélérateurs comme des GPU, reliés par des réseaux très rapides, pour entraîner et faire fonctionner des modèles d’IA.