DébutantInfrastructure & matériel
Puissance de calcul (compute)
En anglais : Compute
Capacité de traitement mobilisée pour entraîner ou faire fonctionner des modèles d’IA, qui dépend du type de puces, de leur nombre et de leur durée d’utilisation.
Dans le jargon de l’IA, le mot compute désigne à la fois le matériel (GPU, TPU, serveurs) et la quantité totale de calcul consommée, souvent exprimée en FLOP. C’est l’une des trois grandes ressources de l’IA moderne, avec les données et les algorithmes. Les lois d’échelle ont montré que les performances progressent souvent avec davantage de calcul, ce qui explique en partie la course aux centres de données. L’accès au calcul soulève des questions de coût, d’énergie et de souveraineté, car il est fortement concentré entre quelques acteurs.
Exemple
Un laboratoire universitaire obtient des heures de calcul sur un supercalculateur public pour entraîner un modèle de langage spécialisé en français.
Notions liées
Centre de données IA (datacenter)
DébutantBâtiment regroupant un grand nombre de serveurs équipés d’accélérateurs comme des GPU, reliés par des réseaux très rapides, pour entraîner et faire fonctionner des modèles d’IA.
Empreinte environnementale de l’IA
DébutantEnsemble des impacts sur l’environnement liés au cycle de vie des systèmes d’IA, de la fabrication du matériel à l’entraînement et à l’utilisation des modèles : énergie, eau, émissions, ressources minérales.