capacité 03
Cloud souverain EU ou vos propres GPU.
Modèles ouverts servis sur cluster H100 ou L40S dans votre datacenter, en colocation EU ou cloud SecNumCloud. vLLM, batching, quantization. Coût d'inférence prévisible, aucune donnée vers une API américaine.
ce que ça fait
Les modèles ouverts (Mistral, Llama, Qwen) sont servis sous vLLM, avec batching continu pour saturer le GPU et tenir le débit en charge. La quantization (AWQ, GPTQ) réduit l'empreinte mémoire et le coût sans casser la qualité utile. On mesure la latence au p95, pas la moyenne qui ment.
On taille le matériel sur votre volume réel : H100 quand le débit ou le contexte long l'exige, L40S pour un rapport coût-performance équilibré, RTX 6000 Ada pour les charges modérées. Le cluster est dimensionné une fois, opéré ensuite, sans surprovision au cas où.
Vos GPU dans votre datacenter, une colocation en Europe, ou un cloud certifié SecNumCloud. Aucun hyperscaler américain dans la chaîne : ni Cloud Act, ni Patriot Act, ni transfert hors UE. Le lieu se choisit selon votre contrainte réglementaire, pas selon notre catalogue.
Monitoring du débit, de la latence et du coût à la requête, gestion des versions de modèle, ré-entraînement programmé, alerting quand la qualité dérive. On opère le run sous SLA contractuel, ou on transfère les manettes à vos équipes avec la passation. À votre main.
où tourne le modèle
Le mode se choisit sur votre contrainte réelle : régulation, contrôle physique du matériel, volume d'inférence. Dans les trois cas, aucune donnée ne sort de l'Union européenne et aucune API américaine n'entre dans la chaîne.
| Cloud SecNumCloud | Colocation EU | On-premise GPU | |
|---|---|---|---|
| Localisation matériel | datacenter du fournisseur EU | votre baie en datacenter EU | votre datacenter, vos murs |
| Conformité | qualification SecNumCloud (ANSSI) | hébergeur EU sous votre contrat | périmètre 100 % interne |
| Exposition extra-UE | nulle, fournisseur souverain | nulle, opérateur européen | nulle, rien ne sort du réseau |
| Capacité GPU | élastique, à la demande | fixe, garantie par contrat | fixe, propriété pleine |
| Modèle de coût | abonnement capacité réservée | loyer baie + run | CapEx matériel puis run |
| Délai de mise en route | rapide, provisioning logiciel | moyen, installation baie | selon achat et intégration |
| Justifié quand | souveraineté sans achat matériel | contrôle physique sans bâtir un DC | volume soutenu, secret industriel |
stack d'inférence servie chez vous
Un abonnement IA qui appelle une API américaine expose vos données au Cloud Act, quel que soit le lieu de stockage affiché. Servir le modèle sur votre infrastructure ferme la question : aucune requête ne quitte le périmètre que vous contrôlez.
Zéro fuite hors UE, par construction. Et un coût d'inférence prévisible : vous payez de la capacité, pas un compteur de tokens qui s'emballe avec l'usage. Le calcul lourd reste déterministe et codé en dur ; le modèle gère les étapes floues. Le budget se pose à l'avance et tient.
Pour une entreprise régulée, un cabinet international ou un fonds, c'est la seule manière de mettre l'IA en production sans déléguer la garde de la donnée à un tiers situé hors de votre droit.
pour qui
Cabinets internationaux, entreprises régulées, fonds : partout où la confidentialité de la donnée et le contrôle de l'infrastructure ne se négocient pas. Voici deux déploiements souverains en production, anonymisés.
Cadrage d'un agent multi-compétences en finance (valuation, audit, due diligence) pour homogénéiser la production des 22 bureaux.
Un pipeline détecte les homologations d'accord de conciliation (article L.611-10 du Code de commerce) et qualifie les cibles pour les équipes.
Le déploiement souverain est le socle des autres capacités : les agents autonomes et la base RAG souveraine tournent dessus, opérés par le socle data et MLOps.
Si votre usage tient en quelques centaines de requêtes par mois et qu'aucune contrainte de confidentialité ne pèse sur vos données, une API hébergée suffit, et on vous le dira. L'infrastructure dédiée prend son sens à partir d'un volume soutenu ou d'une contrainte réglementaire réelle. On ne facture pas une souveraineté dont vous n'avez pas besoin.
trente minutes
Visio avec un ingénieur senior. Vous posez le volume, la régulation et le périmètre, on tranche entre cloud SecNumCloud, colocation EU et GPU on-premise, et on chiffre le run.
