MLOps / LLMOps
Ensemble de pratiques et d’outils qui industrialisent le cycle de vie des modèles d’IA, du développement au déploiement, puis à la surveillance et à la mise à jour en production.
Entraîner un modèle sur un poste de travail ne suffit pas : il faut versionner les données et le code, automatiser les tests, déployer le modèle, suivre ses performances et réagir quand elles se dégradent. Le MLOps applique au machine learning les principes du DevOps, issus du développement logiciel. Le LLMOps adapte ces pratiques aux grands modèles de langage, avec des enjeux propres : gestion des versions de prompts, évaluations automatisées, suivi des coûts en tokens, détection des hallucinations et garde-fous. C’est l’équivalent, pour l’IA, de la chaîne de contrôle qualité d’une usine.
Exemple
Une banque met en place une chaîne MLOps qui réentraîne chaque mois son modèle de détection de fraude et alerte l’équipe si ses performances baissent.
Notions liées
API (interface de programmation)
DébutantInterface qui permet à un logiciel d’utiliser les fonctions ou les données d’un autre selon des règles définies, par exemple pour envoyer un prompt à un modèle d’IA et recevoir sa réponse.
Évals (évaluation de modèles)
IntermédiaireEnsemble de tests conçus pour mesurer de façon systématique la qualité, la fiabilité et la sécurité des réponses d’un modèle ou d’une application d’IA sur des tâches précises.