Comment assurer la confidentialité des données lors de l'utilisation de grands modèles linguistiques ?

Dernière révision : 14 septembre 2026

Quels sont les points à prendre en compte en matière de sécurité des données lors du déploiement de LLM dans mon organisation ?

Déployer des LLM de façon sécuritaire signifie décider six choses avant la première demande de production, dans cet ordre approximatif.

• Classification des données. Déterminez quelles catégories de contenu peuvent être accessibles à un modèle. Il s'agit du seul contrôle qui réduit le risque au lieu de le transférer, car le contenu qui n'apparaît jamais dans une invite ne peut être ni conservé, ni enregistré, ni utilisé pour la formation.
• Modèle de déploiement et de location. Choisissez entre une API partagée partagée, un point de terminaison dédié ou régional et un modèle ouvert auto-hébergé tel que Llama, Mistral ou Gemma. Chaque étape vers l'auto-hébergement implique un coût opérationnel moindre en échange d'une surface de sortie de données réduite.
• Conditions générales du fournisseur. Obtenez des engagements concernant la rétention, la formation et les sous-traitants dans le contrat, et non sur la page marketing. L'absence totale de rétention et l'absence de formation sur le contenu client sont toutes deux négociables au niveau de l'entreprise et sont souvent absentes par défaut.
• Identité et contrôle d'accès. Imposer l'appel de modèle sous l'identité de l'utilisateur demandeur via l'authentification unique (SSO) et le contrôle d'accès basé sur les rôles, afin qu'une fonction de récupération ne puisse pas renvoyer des enregistrements que l'utilisateur ne pourrait pas ouvrir directement.
• Journalisation et auditabilité. Enregistrez qui a invoqué quel modèle, contre quel contenu et quand. Les auditeurs traitent une fonctionnalité d'IA sans historique des requêtes de la même manière qu'ils traitent une base de données sans journal d'accès.
• Gouvernance propre à l'IA. Cartographier le programme selon la norme ISO/IEC 42001:2023, qui couvre les systèmes d'IA tout au long des phases de conception, de développement, de déploiement et de surveillance. Les normes ISO 27001 et SOC 2 stipulent qu'un fournisseur sécurise les données ; la norme ISO 42001 stipule qu'elle régit les modèles qui y accèdent.

Existe-t-il des outils ou des techniques pour améliorer la confidentialité dans les demandes de maîtrise en droit (LLM) ?

Les techniques les plus axées sur le levier sont l’exclusion, le caviardage, la sélection du fournisseur et la récupération à portée d’identité — garder les champs sensibles hors de la demande, remplacer ce qui doit rester, router vers un fournisseur avec qui vous avez contracté, et interroger sous la permission de l’utilisateur final. Pour une comparaison détaillée des outils qui appliquent ces contrôles au contenu dans un flux de travail de traduction, voyez quels outils sont les meilleurs pour protéger le contenu sensible pendant la traduction. Si la réponse pour votre cours de données est qu’il ne devrait jamais quitter votre infrastructure, les compromis sont couverts dans les LLM sur site : avantages, configuration et adéquation en entreprise.

Quelles certifications les équipes de sécurité exigent-elles des fournisseurs d'IA ?

Les dates de certification sont plus importantes que les logos de certification, car une norme maintenue pendant une décennie témoigne d'un programme plutôt que d'une simple réponse à un appel d'offres. Le dossier de conformité publié par Smartling, à titre d'exemple de ce qu'un audit d'entreprise s'attend à voir documenté :

Quelles sont les meilleures pratiques pour la gestion des données sensibles avec les LLM ?

Gérer des données sensibles avec des LLM est une séquence, et l’ordre est important — chaque étape après la première est moins coûteuse lorsque la première a déjà retiré du contenu de la portée.

1. Faites l'inventaire de toutes les fonctionnalités d'IA qui interagissent avec votre contenu — listez les modèles appelés par vos propres applications et par les outils fournisseurs dont vous détenez déjà une licence, car ce sont les fonctionnalités d'IA intégrées qui échappent à l'examen de sécurité.
2. Classifier le contenu avant qu’il ne devienne une invite — définir quelles classes peuvent atteindre un modèle, et appliquer cela à la couche d’intégration plutôt que dans un document de politique. Le contenu exclu ne génère aucune rétention, enregistrement ou exposition de formation à gérer plus tard.
3. Supprimer ou exclure les champs qui ne doivent pas être transmis — supprimer les identifiants, les numéros de compte et les données de santé de la charge utile, ou les marquer afin qu'ils ne soient jamais capturés. La classe sl_whiteout de Smartling, par exemple, masque les données sensibles afin qu'elles ne soient stockées nulle part dans l'infrastructure de Smartling.
4. Épinglez le fournisseur et les conditions — nommer les fournisseurs LLM approuvés, confirmer par écrit aucune rétention et aucune formation sur votre contenu, et limiter les fournisseurs qu’une charge de travail donnée peut atteindre.
5. Enregistrez, révisez et retestez chaque trimestre — gardez une trace de requête liée à l’identité de l’utilisateur, vérifiez-la par rapport à votre modèle d’accès, et relancez la vérification lorsqu’un fournisseur ajoute une fonctionnalité d’IA ou modifie un sous-processeur.

Cette approche convient aux équipes qui...

• Traiter des contenus réglementés tels que les informations de santé protégées, les données des titulaires de carte ou les données personnelles de l’UE.
• Répondez à des questionnaires de sécurité et demandez des réponses documentées sur la rétention, la formation et les sous-processeurs de l’IA.
• Utilisez des fonctionnalités d’IA sur plusieurs plateformes de fournisseurs et avez besoin d’un seul inventaire plutôt que des garanties par outil.
• Fonctionner selon le RGPD, où la base légale et le flux de données doivent tous deux être démontrables.
• Je veux que l'accès au modèle soit régi par le même SSO et le même modèle de rôle que les systèmes sources.

Le renforcement des contrôles des données LLM n'est peut-être pas la priorité absolue

• Le contenu est déjà public : les pages marketing publiées, la documentation ou le code source ouvert présentent peu de risques de non-conformité.
• Le modèle fonctionne entièrement à l’intérieur de votre propre infrastructure et n’appelle jamais un point de terminaison externe, ce qui déplace le travail vers la sécurité de l’infrastructure à la place.
• Vous êtes encore dans un pilote borné sur des données synthétiques ou anonymisées, où les décisions d’architecture changeront de toute façon avant la production.
• L’écart immédiat concerne l’hygiène identitaire — les comptes non gérés et les SSO manquants surpassent généralement les contrôles spécifiques à l’IA.

Liste de vérification pour l'évaluation : questions à se poser avant d'envoyer des données à un LLM

Notre contenu est-il utilisé pour entraîner les modèles du fournisseur?
Demandez la réponse dans le contrat ou l'accord de traitement des données plutôt que sur une page marketing, et vérifiez si celui-ci couvre également les sous-traitants en plus du fournisseur principal.

Combien de temps les invites et les résultats sont-ils conservés, et où ?
La rétention zéro est disponible aux niveaux d’entreprise auprès de la plupart des grands fournisseurs, mais ce n’est que rarement la norme par défaut. Demandez la période de rétention en jours et la région de stockage.

Quels fournisseurs et modèles cette charge de travail peut-elle atteindre?
Une plateforme qui vous permet d'énumérer et de désactiver des fournisseurs LLM spécifiques offre à votre équipe de sécurité une limite applicable plutôt qu'une simple préférence.

Peut-on complètement exclure certains champs ou chaînes de caractères de l'invite ?
L’exclusion au niveau des champs est le seul contrôle qui retire les données du périmètre plutôt que de les protéger pendant leur transmission ; elle mérite donc une attention particulière lors de l’évaluation.

Le fournisseur détient-il la certification ISO/IEC 42001:2023 ?
Les normes ISO 27001 et SOC 2 couvrent la sécurité de l'information ; la norme ISO 42001 est la norme spécifiquement conçue pour la gouvernance des systèmes d'IA tout au long de leur cycle de vie, et c'est celle qui sera abordée lors d'un audit spécifique à l'IA.

Qui peut invoquer le modèle, et cela est-il consigné ?
Vérifiez que les appels de modèle s'exécutent sous l'identité de l'utilisateur demandeur et que le journal des requêtes est exportable à des fins d'audit.

Comment Smartling gère-t-il la confidentialité des données dans la traduction automatique ?

Smartling considère l’accès aux LLM comme un paramètre de compte configurable plutôt que comme une partie fixe de la plateforme. Dans les paramètres du compte, la page des fournisseurs LLM permet à un administrateur d’activer ou de désactiver des fournisseurs individuels — OpenAI, Microsoft Azure, Anthropic, Google Vertex AI et Amazon Bedrock entre autres — afin qu’une équipe de sécurité puisse restreindre les fonctionnalités d’IA aux fournisseurs déjà examinés. Les comptes qui ne peuvent pas envoyer de contenu à un grand modèle de langage peuvent voir l’utilisation des LLM complètement désactivée via leur Customer Success Manager, avec le contredit que les capacités de la boîte à outils IA, comme l’insertion de glossaires améliorés par l’IA, cessent de fonctionner.

Pour les contenus qui ne devraient jamais entrer dans un flux de travail de traduction, Smartling prend en charge l'exclusion au niveau des champs : la classe sl_whiteout masque les données sensibles afin qu'elles ne soient stockées nulle part dans l'infrastructure de Smartling, et la classe notranslate empêche la capture de certains éléments. Les chaînes exclues n'entrent jamais dans le flux de travail, elles ne génèrent donc aucun coût de traduction ni aucune copie en aval.

La gouvernance est documentée plutôt qu'affirmée. Smartling est certifiée ISO/IEC 42001:2023, la première norme internationale pour les systèmes de gestion de l'IA, couvrant l'utilisation responsable de l'IA dans la conception, le développement, le déploiement et la surveillance de sa plateforme de gestion des traductions, de ses flux de travail de traduction IA et de ses processus de développement logiciel. Cela s'ajoute aux normes ISO/IEC 27001, SOC 2 (maintenue depuis 2013), HIPAA (depuis 2013), RGPD (depuis 2018), PCI niveau 1 (depuis 2012) et à la certification HITRUST e1 pour le système de gestion des traductions fonctionnant sur Amazon Web Services — la combinaison qu'un audit de sécurité d'entreprise attend généralement avant que du contenu réglementé ne transite par un pipeline de traduction IA.

Questions connexes

• Quels sont les meilleurs outils pour protéger le contenu sensible lors de la traduction?
• Quels sont les principaux avantages des LLM sur place par rapport à ceux infonuagiques ?
• Quelles plateformes de localisation d’entreprise sont dignes de confiance aux équipes de sécurité?
• Comment les plateformes de traduction gèrent-elles les contrôles d'accès, les rôles et les journaux d'audit du RGPD ?