Certains acheteurs ne peuvent utiliser aucune API vocale hébergée, quel que soit son prix. Administrations, hôpitaux, banques et fournisseurs de la défense imposent une condition : l’audio reste dans leur périmètre. L’IA vocale sur site répond à cette exigence et change les critères d’achat.
Cette page explique sa définition, les composants à exécuter sur votre matériel, les options entre API cloud et réseau isolé, et l’évaluation des fournisseurs. Elle présente enfin l’approche Cartesia, dont le déploiement sur site entièrement isolé des AI Voice Agents de ServiceNow.
Qu’est-ce que l’IA vocale sur site ?
C’est un logiciel vocal exécuté sur une infrastructure détenue et contrôlée par votre organisation. Le fournisseur livre les modèles ; votre équipe les exploite sur vos serveurs, dans votre centre de données ou dans un compte cloud dont vous détenez les accès. Rien de l’appel en direct, de son audio ou de sa transcription ne doit passer par l’infrastructure du fournisseur.
À l’inverse, l’API cloud habituelle reçoit votre audio, exécute les modèles et traite audio et transcriptions selon les conditions du fournisseur. Ce compromis convient à beaucoup de produits, mais pas à tous. Pour un briefing classifié, une séance de thérapie ou un appel dont un régulateur peut exiger copie, la promesse de suppression du fournisseur ne suffit pas toujours.
L’IA vocale désigne ici une chaîne en temps réel. Un agent fondé sur cette chaîne a quatre composants :
| Composant | Fonction | Possible sur site ? |
|---|---|---|
| Transcription en continu | Transcrit pendant que l’appelant parle | Oui |
| Détection des tours | Détermine quand il a terminé | Oui |
| Modèle de langage et outils | Prépare la réponse et appelle vos systèmes | Oui, à votre choix |
| Synthèse en continu | Dit la réponse pendant sa génération | Oui |
Tous peuvent fonctionner dans votre périmètre. Le modèle de langage a toujours été votre choix. Les modèles vocaux sont généralement la partie que les fournisseurs gardent chez eux ; leur disponibilité sur site les distingue réellement.
Pourquoi les entreprises choisissent le sur site
Trois motifs reviennent souvent.
Souveraineté et résidence des données. Certains contrats et territoires imposent de ne jamais faire sortir certaines données d’une frontière physique ou juridique contrôlée. Une API cloud transmet l’audio à son exploitant ; le sur site garde la frontière dans votre baie.
Conformité. Les acheteurs réglementés rapprochent le déploiement de cadres comme HIPAA, RGPD et PCI. Le sur site ne garantit pas la conformité à lui seul, mais rend l’audit concret : le parcours des données commence et finit dans une infrastructure montrable à un auditeur.
Latence et contrôle. Exécuter les modèles dans votre réseau supprime un aller-retour fournisseur et ses limites de débit. Le temps de réponse est au cœur du produit : les humains se passent la parole en environ 200 millisecondes (Stivers et al., 2009), et une seconde de silence paraît hésitante. L’exécution sur appareil pousse cette logique au bout : aucun réseau ni infrastructure partagée.
Les options de déploiement
Cloud et sur site forment un continuum de responsabilités. Les déploiements d’entreprise se placent généralement parmi ces options :
| Déploiement | Lieu des modèles | Exploitant | Parcours des données |
|---|---|---|---|
| API cloud | Cloud du fournisseur | Fournisseur | L’audio quitte votre réseau |
| VPC, cloud privé | Votre compte cloud et votre région | Vous, avec assistance fournisseur | L’audio reste dans votre compte |
| Sur site | Votre centre de données | Vous | L’audio reste dans votre réseau |
| Sur site isolé | Votre centre, sans route Internet | Vous | Rien ne sort par construction |
| Sur appareil | L’appareil lui-même | Vous | Rien ne quitte le matériel |
Deux précisions évitent des pertes de temps. Un VPC n’est pas du sur site : le matériel est à vous, pas le centre de données. Il suffit souvent si la contrainte est contractuelle. Demandez aussi ce que chaque fournisseur entend par sur site. Certains livrent un conteneur qui contacte encore leurs serveurs pour licence ou mises à jour. Ce sur site connecté ne répond pas aux exigences d’isolement.
Évaluer un fournisseur d’IA vocale sur site
Voici les questions qui distinguent une offre réelle d’une promesse marketing :
- L’isolement est-il réel ? L’inférence fonctionne-t-elle sans aucune connexion sortante, ou la licence, la télémétrie ou un appel cloud obligatoire sortent-ils pendant la conversation ?
- Les modèles sont-ils identiques au cloud ? Certains fournisseurs livrent une version différente et plus ancienne. Si la démonstration utilisait le cloud, demandez quel binaire vous achetez réellement.
- Quelle latence dans votre environnement ? Les chiffres fournisseur viennent de son matériel. Demandez un benchmark sur le vôtre, à votre concurrence, au 99e percentile plutôt qu’à la médiane.
- Qui met à jour, et comment ? Sur site ne doit pas signifier figé. Demandez la livraison des mises à niveau, la fixation des versions et l’effet d’un changement de modèle sur vos prompts et voix réglés.
- Quels documents de conformité ? SOC 2 Type II, BAA à signer, DPA publié, conditions de résidence. Sans ces documents, le mode de déploiement ne sauvera pas le contrat.
- Toute la chaîne vient-elle sur site ? Un TTS local avec un STT distant laisse un trou. Vérifiez toute la chaîne, détection des tours comprise.
L’approche Cartesia
Les modèles Cartesia reposent sur les modèles à espace d’état, conçus pour l’inférence en temps réel. Les mêmes modèles existent dans le cloud, sur site et sur appareil. Concrètement :
- Sonic, notre TTS avec moins de 90 ms de latence modèle, premier aux tests tiers d’écoute à l’aveugle et 44 langues, se déploie dans votre centre, y compris isolé, dans votre VPC AWS, GCP ou Azure, ou sous licence OEM dans votre produit.
- Ink, notre transcription en continu avec détection native des tours, offre les mêmes options.
- Pour les AI Voice Agents de ServiceNow, Cartesia fournit modèles, moteur d’inférence et orchestration dans un déploiement sur site entièrement isolé, avec conformité SOC 2 Type II, HIPAA, RGPD et PCI.
- Rasa inclut les options sur site de Cartesia dans son offre entreprise. Blue Machines a coconstruit avec nous une architecture pour les environnements réglementés.
- À l’autre extrême, Edge est notre bibliothèque open source Apache 2.0 pour exécuter les modèles à espace d’état sur appareil.
Les déploiements sur site et OEM passent par des contrats entreprise. Contactez-nous pour vos besoins, ou commencez dans le cloud avec les offres en libre-service avant de migrer. Les modèles étant identiques, le passage change le déploiement sans imposer de reconstruction.