Présentation client

Notre client est un acteur majeur de  la production, de la distribution et de la fourniture d'électricité.

Besoin

Notre client a saisi l’impact et l’importance de l’IA générative dans leur souhait de simplifier et améliorer leur process interne et leur expérience client. Après quelques cas d’usage réussi, ils souhaitaient passer à l’échelle et se doter d’une nouvelle plateforme d’IA générative pour accélérer le développement de nouveaux cas d’usage.

L'objectif de cette plateforme est de permettre aux data scientists de l’entreprise de développer, d'entraîner et de tester facilement des modèles et des cas d’usage basés sur l'IA générative, dans un environnement sécurisé, flexible, et prêt pour la mise en production.

Notre client était jusque-là sur une architecture on-premise pour entraîner leurs modèles, avec un environnement de travail qui ne correspondait pas à leur besoin de flexibilité et en puissance de calcul pour entraîner, tester et déployer des modèles d’IA générative. 

Solutions

Ippon Technologies a accompagné cette société sur la création d’une plateforme d’IA générative destinée à accélérer le prototypage puis la mise en production de nouveaux cas d’usages Gen AI. 

Nous avons développé une plateforme d’IA générative permettant aux data scientists de notre client de travailler dans le cloud et de facilement entraîner et tester des modèles, ainsi que de déployer des IHM de test. 

La création d’un environnement de travail sur AWS fournit aux collaborateurs de l’entreprise les outils nécessaires, la puissance du cloud et implémentant les bonnes pratiques de MLOps pour le prototypage puis la mise en production de cas d’usages IA et IA Gen. La flexibilité et l'évolutivité d'AWS SageMaker ont ainsi permis  de remplacer la plateforme d'IA sur site du client, devenue obsolète et en sous-capacité avec l'avènement de l'IA générative.

Le développement sur mesure de cette plateforme d'IA permet de l'adapter aux problématiques et aux métiers spécifiques du client. La plateforme est entièrement terraformée. Les data scientists peuvent se concentrer sur leur cœur de métier. Ils peuvent créer des équipes et des cas d'usage, qui sont surveillés, dont les coûts sont suivis et dont les données sont complètement isolées.

La plateforme fournit des outils pour l'industrialisation et le déploiement en production de l'IA générative, notamment le monitoring des données et des modèles.

De plus, chaque cas d’usage a son propre environnement de travail sécurisé et séparé des autres, afin que les équipes ne puissent accéder qu’aux données sur lesquelles elles sont autorisées (réseau virtuel, clés de chiffrement, rôles et ressources dédiés).

Bénéfices

Cette plateforme permet le développement et déploiement plus faciles et accélérés de modèles d'IA générative. Les Data Scientists ont également la possibilité de déployer facilement des démonstrateurs basés sur une interface graphique ou une API pour démontrer les performances des modèles aux utilisateurs métier.

Un 1er cas d’usage a montré que les data scientists de l’entreprise ont été en mesure de développer un nouveau modèle d’IA gen, incluant des démonstrateurs en 1 mois seulement.