Challenge

Fiabiliser à l'échelle d'un groupe bancaire un chatbot IA interne

Crédit Agricole CIB (CACIB) a déployé Alfred, son chatbot IA interne, auprès de l'ensemble de ses collaborateurs. Un outil complet qui combine une partie conversationnelle de reformulation, rédaction, recherche web, génération et synthèse de documents aux couleurs de la banque et une partie documentaire, avec des bases de connaissance internes permettant de répondre aux questions réglementaires et métiers.

Porté par une équipe à cheval entre le pôle Innovation et l'IA Factory de CACIB, le projet doit garantir la stabilité et la disponibilité de la plateforme pour des milliers d'utilisateurs, tout en maîtrisant les coûts d'usage des modèles IA et en outillant les métiers avec des agents spécialisés.

Cadre du projet

Banque - finance de marché

Montrouge

Depuis 2025

Dispositif INOCO

Industrialiser l'infrastructure et le pilotage d'un agent IA au quotidien

L'équipe INOCO

Thomas, spécialisé développement front et cloud AWS.
Baptiste, ingénieur d'affaires chez INOCO, a assuré la prise de besoin et le suivi de la prestation.

Notre collaboration

Thomas intervient sur l'infrastructure AWS qui porte Alfred, connectée à Amazon Bedrock pour les modèles Claude et à Amazon SageMaker pour l'hébergement des modèles custom de la pipeline d'ingestion documentaire. Il écrit et maintient le socle Terraform de la plateforme : déclaration des ressources, gestion fine des droits IAM et chaîne de déploiement CI/CD.

Il pilote également tout le volet monitoring : dashboards de disponibilité et de stabilité, ainsi qu'un chantier d'allocation des coûts qui rattache la consommation de tokens à chaque requête pour suivre l'usage entité par entité et réguler les accès en conséquence. Les données extraites alimentent des reportings mensuels partagés avec les équipes de contrôle de gestion.

Thomas contribue enfin à l'amélioration continue de la plateforme (nettoyage des ressources et droits Terraform devenus inutiles, tests end-to-end).

Environnement technique

Cloud & IA : AWS, Amazon Bedrock (Claude), Amazon SageMaker
Infra & DevOps : Terraform, CI/CD, GitLab
Orchestration IA : LangChain, architecture à base d'agents/skills/tools
Langages : Python, JavaScript
Méthodologie : Agile (sprints d'une semaine), tests d'intégration, amélioration continue

Pourquoi ça nous plait ?

"Ce qui me plaît sur cette mission, c'est de voir l'impact direct de l'infra qu'on construit : ce chat est utilisé au quotidien par tous les collaborateurs de CACIB. Le sujet du monitoring des coûts est aussi hyper concret : comprendre qui utilise l'IA, comment et pourquoi, ça a autant d'enjeux techniques que politiques en interne."

Thomas.B

Consultant développeur angular et IA