La Douane industrialise son IA générative sur un cloud souverain 

Comment déployer de l’IA générative dans une administration soumise à de fortes contraintes réglementaires sans passer par les hyperscalers américains ? Lors d’une conférence organisée le 22 septembre par Devoteam, Scaleway et Sopra Steria, les équipes impliquées dans Diane, plateforme GenAI déployée sur cloud souverain, ont détaillé le passage du POC à la production de cette plateforme destinée à la Douane française. Le projet est parti d’un besoin concret : permettre aux agents de naviguer dans le nouveau code des douanes. Pour garantir la pertinence juridique des réponses, l’architecture combine un RAG, chargé de retrouver les données juridiques indexées, un moteur de règles métier pour les références réglementaires et un LLM pour formuler les réponses. Après ce premier cas d’usage, le projet a évolué vers une plateforme plus large, reposant notamment sur Open WebUI et des modèles Mistral.  

SecNumCloud impose de reconstruire plusieurs briques techniques 

La souveraineté a toutefois un coût technique. Déployée sur un Kubernetes managé en environnement SecNumCloud, la plateforme a dû composer avec une offre moins riche que celles des grands clouds publics. Registre de conteneurs, authentification de bases de données ou encore certains outils de supervision et de FinOps n'étaient pas disponibles sous forme de services managés. Les équipes ont donc dû déployer, configurer et maintenir elles-mêmes plusieurs composants. À cela s'est ajoutée l'intégration au système d'information historique de la Douane, dont le référentiel d'authentification ne prend notamment pas en charge des standards comme OIDC ou SAML. "La difficulté dans un projet IA comme ça, avec des contraintes réglementaires fortes, ce n'est pas forcément l'IA en tant que telle", résume l'un des intervenants, qui pointe plutôt le poids de l'intégration au SI existant et des audits de sécurité.  

Le passage en production révèle la dette technique et le défi de l'adoption 

L'industrialisation a également mis en lumière les limites des raccourcis pris pour respecter les délais. Plusieurs déploiements ont été réalisés manuellement et l'automatisation a été repoussée, créant une dette technique désormais coûteuse à chaque nouvelle mise en production. En parallèle, le projet doit gérer un défi moins technique : l'appropriation de l'IA par les agents et le décalage entre leurs attentes et les capacités réelles des modèles. La plateforme doit désormais servir de socle à de nouveaux usages métier, avec notamment l'intégration de vingt années de documents issus de l'intranet douanier. Le retour d'expérience montre ainsi que le passage du POC à une GenAI souveraine en production repose autant sur l'industrialisation, l'intégration au SI et l'accompagnement des utilisateurs que sur le choix du LLM.