IntermédiaireInfrastructure & matériel
TPU (Tensor Processing Unit)
En anglais : Tensor Processing Unit
Puce spécialisée conçue par Google pour accélérer les calculs des réseaux de neurones, utilisée dans ses propres centres de données et proposée à la location via son offre cloud.
Là où un GPU reste un processeur polyvalent pour le calcul parallèle, le TPU est un circuit spécialisé (ASIC) optimisé pour les opérations sur les tenseurs, ces tableaux de nombres manipulés par les réseaux de neurones. Cette spécialisation peut améliorer l’efficacité énergétique sur les charges d’IA, au prix d’une moindre flexibilité. Les TPU sont assemblés en grands ensembles interconnectés pour entraîner et servir de grands modèles. Pour la plupart des utilisateurs, on y accède via le cloud de Google plutôt qu’en achetant le matériel.
Exemple
Une équipe de recherche entraîne un modèle de traduction sur des TPU loués dans le cloud plutôt que d’acheter et d’installer ses propres serveurs.
Notions liées
Centre de données IA (datacenter)
DébutantBâtiment regroupant un grand nombre de serveurs équipés d’accélérateurs comme des GPU, reliés par des réseaux très rapides, pour entraîner et faire fonctionner des modèles d’IA.
FLOPS / FLOP
AvancéUnités de mesure du calcul : le FLOP compte des opérations sur des nombres à virgule flottante, tandis que les FLOPS mesurent combien une machine en effectue par seconde.