Il s’agit d’un ingénieur logiciel spécialisé dans l’intelligence artificielle. Il comprend les modèles de machine learning, mais se concentre sur leur déploiement à grande échelle, leur mise à disposition via API, leur intégration dans les systèmes existants et leur suivi dans la durée. Le ML Engineer construit l’environnement technique qui permet à un modèle d’être réellement utilisé en production.
Il intervient dans des projets de scoring en temps réel, de recommandation, de détection d’anomalies, d’analyse prédictive ou encore de NLP, à partir de modèles conçus par les Data Scientists. Il connaît les contraintes de l’architecture logicielle, de la CI/CD, des formats de serialization de modèle (ONNX, Pickle, PMML…) et des frameworks de serving (MLflow, Seldon, TensorFlow Serving, etc.).
Parce qu’un bon modèle n’est rien sans infrastructure pour le faire tourner. La plupart des prototypes réalisés en notebooks ne passent jamais en production. Le ML Engineer est celui qui rend ces modèles réellement utilisables dans les systèmes métier, en tenant compte de la charge, des performances, de la sécurité, et de la supervision.
Ce rôle est également critique pour :
Sans ML Engineer, le risque est fort de rester bloqué au stade du POC ou de la démo technique. Il permet le passage à l’échelle.
Le ML Engineer intervient après la phase de conception du modèle, avec pour objectifs de rendre la solution :
Il travaille en lien avec les Data Scientists, les Data Engineers, les équipes DevOps et les responsables applicatifs. Il peut aussi contribuer à la création de plateformes IA internes (MLOps platform), mutualisées pour tous les projets.
Le ML Engineer devient indispensable dès qu’une organisation :
Il est souvent recruté après les premiers succès data science, lorsque les limites de l’approche manuelle ou artisanale deviennent visibles (déploiements manuels, pertes de version, retrain non suivi, etc.).
Le Data Scientist conçoit le modèle. Le ML Engineer le transforme en produit opérationnel. Ils sont complémentaires, mais leurs priorités sont différentes : l’un cherche la performance prédictive, l’autre la stabilité, la scalabilité et l’intégration.
Le Data Engineer construit les pipelines de données. Il veille à la qualité des flux, à leur transformation, et à leur mise à disposition. Le ML Engineer, lui, utilise ces pipelines comme matière première, mais va plus loin : il orchestre l’entraînement, le déploiement et la supervision du modèle.
Enfin, le DevOps Engineer se concentre sur l’automatisation de l’infrastructure, la mise en production des applications, les conteneurs, la sécurité réseau. Le ML Engineer partage certains outils et pratiques (Docker, Kubernetes, CI/CD), mais les applique à un cycle de vie particulier : celui des modèles de machine learning.
On peut dire que le ML Engineer est l’ingénieur de la chaîne de valeur IA, de la dernière ligne de code jusqu’à l’usage en production.