CONTEXTE
Nous recherchons une expertise technique DevSecOps/LLMOps afin de maintenir et faire évoluer le Portail Multi-IAG face aux besoins croissants d’industrialisation, de sécurité, de conformité et de performance, et de contribuer à la montée en compétence de l’équipe sur les pratiques propres aux modèles génératifs.
Missions clés
La prestation s’articule autour de cinq missions clés :
1. Fiabilisation et accélération du Portail V1
- Objectif : Améliorer et industrialiser les pratiques opérationnelles pour sécuriser et optimiser les services existants.
- Périmètre : Mise en œuvre de la CI/CD, renforcement de la sécurité (IAM, secrets), structuration de l’observabilité (traces, métriques, logs) et des pratiques FinOps.
2. Conception et préparation du Portail V2 (cible 2026)
- Objectif : Définir et construire les fondations techniques de la future version du portail.
- Périmètre : Conception de l’architecture DevSecOps cible, production des artefacts documentaires (HLD/LLD), développement de l’Infrastructure as Code (IaC) et des pipelines, et pilotage de la migration.
3. Structuration de la filière LLMOps
- Objectif : Définir et mettre en œuvre les standards, outils et processus pour industrialiser le cycle de vie des modèles génératifs.
- Périmètre : Intégration des évaluations continues (qualité, sécurité, coûts) dans la CI, mise en place de « guardrails » et de politiques de sécurité (Policies as Code), et garantie de la conformité (RGPD / AI Act).
4. Anticipation de l’IA Agentique
- Objectif : Préparer la plateforme à l’intégration future des technologies d’agents IA.
- Périmètre : Veille technologique, prototypage des briques d’orchestration et de contrôle (HITL, guardrails spécifiques), et contribution à l’architecture cible.
5. Accompagnement et transfert de compétences
- Objectif : Assurer la montée en compétence et l’autonomie des équipes internes (Portail et Plateforme Data).
- Périmètre : Acculturation, production de documentation (playbooks, runbooks), formation et support méthodologique.
Activités détaillées
Pour réaliser ces missions, le prestataire mènera les activités suivantes :
- Ingénierie et industrialisation : Développement de pipelines CI/CD (GitLab), de scripts d’automatisation, d’Infrastructure as Code (Terraform), et de charts Helm.
- Qualité et sécurité : Mise en œuvre des tests (unitaires, performance, SAST/SCA/SBOM), intégration des évaluations de LLM et des « guardrails » (input/output, LLMGuard) comme étapes bloquantes dans la CI.
- Déploiement : Gestion et déploiement des modèles d’IA génératif, gestion et déploiement applicatif (solutions open source : LangFlow, LangFuse, OpenWebUI, n8n, LiteLLM, etc…) à l’échelle de l’entreprise.
- Support et MCO : Résolution d’incidents de niveau 2/3, optimisation des performances et des coûts, assistance technique aux équipes.
Exigences transverses
Respect du référentiel technique et méthodologique de l’Entreprise, des procédures en vigueur (tests/validation), des contraintes & délais du présent document et du cadre contractuel associé.
COMPETENCES
- Jenkins
- Prometheus
- Grafana
- Loki
- OpenTelemetry
- LangSmith
- Langfuse
- Google Cloud Platform (Landing Zone, Vertex AI, GKE)
- Infrastructures On-Premise
Bénin Digital est une Entreprise de Services du Numérique (ESN) spécialisée dans la digitalisation des processus métiers.