Sovereign LLM Inference at scale

Dans ce talk, Xuan-Son Nguyen partagera les challenges techniques de la mise à l’échelle de l’IA générative au sein de BNP Paribas avec le déploiement d’une plateforme souveraine hybride et d’un produit LLM as a Service pour plus de 150 cas d’usages d’IA génératives dans le groupe.