IA et RGPD : entraîner un modèle sans exposer les données personnelles

Un modèle d’intelligence artificielle apprend à partir de données.

Quand ces données décrivent des clients, des patients ou des salariés, le projet devient un traitement de données personnelles au sens du RGPD.

Le RGPD n’interdit pas d’entraîner une IA.

Il demande de savoir quelles données on utilise, pourquoi, et comment on protège les personnes.

Pourquoi un jeu de données d’entraînement est risqué

Dans beaucoup de projets, le réflexe est de copier la base de production et d’entraîner le modèle dessus.

Ce jeu de données contient alors tout ce que la base contient.

1. Des identifiants directs.
   Noms, e-mails, téléphones, adresses, numéros de client ou de dossier.
2. Des identifiants indirects.
   Date de naissance, code postal, profession, date d’intervention : banals séparément, identifiants une fois combinés.
3. Des données sensibles.
   Informations de santé, données financières, parfois du texte libre où tout peut apparaître.
4. Des copies qui circulent.
   Le jeu de données passe entre outils, équipes, environnements et parfois un prestataire, souvent avec moins de protection que la production.

Plus un modèle reçoit de données, plus l’organisation porte de responsabilité.

Ce n’est pas un piratage qui crée le risque, c’est la préparation du jeu de données.

Le cas DeepMind et Royal Free : un problème de gouvernance

Le Royal Free London NHS Foundation Trust a partagé des données de patients avec DeepMind pour développer Streams, une application destinée à aider à détecter l’insuffisance rénale aiguë.

DeepMind a eu accès aux dossiers médicaux d’environ 1,6 million de patients.

Ces données ne concernaient pas uniquement les patients visés par l’outil : elles incluaient des historiques médicaux de personnes sans lien direct avec l’application.

L’autorité britannique de protection des données (ICO) a relevé plusieurs manquements de la part du Royal Free.

1. Une base légale peu claire.
   Le cadre juridique du partage n’était pas suffisamment établi.
2. Des patients mal informés.
   Les personnes concernées ne savaient pas que leurs données servaient à ce projet.
3. Un volume disproportionné.
   Trop de données ont été partagées au regard du besoin.
4. Une minimisation non respectée.
   Le jeu de données n’avait pas été réduit au strict nécessaire.

Le cas est antérieur à l’entrée en application du RGPD, mais il illustre exactement ce que le RGPD demande de maîtriser.

Il n’y a eu ni piratage ni fuite : le problème venait de la gouvernance des données.

Gouverner les données d’un projet d’IA

Avant d’entraîner quoi que ce soit, quatre questions doivent avoir une réponse écrite.

1. Quelles données ?
   La liste des champs et des documents réellement utilisés.
2. Pourquoi ?
   La finalité du modèle, qui justifie chaque donnée retenue.
3. En quelle quantité ?
   La période, le périmètre et la précision nécessaires, pas davantage.
4. Avec quels acteurs ?
   Les équipes, les outils et les prestataires qui y auront accès.

Quand une autorité de contrôle examine un projet d’IA, elle regarde la documentation, la proportionnalité du traitement, les mesures techniques et, si le traitement présente un risque élevé, l’analyse d’impact (article 35 du RGPD).

Minimiser le jeu de données avant l’entraînement

Prenons une entreprise qui veut prédire la résiliation de ses clients.

Le modèle a besoin de l’historique d’achats, de la fréquence d’utilisation et des segments clients.

Il n’a pas besoin du nom, de l’adresse, de l’e-mail ni du téléphone.

La CNIL rappelle que le principe de minimisation impose d’y réfléchir en amont de l’entraînement, avec une vigilance renforcée lorsque les données sont sensibles.

1. Partir de l’objectif.
   Lister les variables dont le modèle a besoin, et seulement celles-là.
2. Écarter le reste.
   Une colonne « au cas où » est une exposition sans contrepartie.
3. Réduire la précision.
   Une tranche d’âge ou un département suffit souvent là où une date de naissance ou une adresse exposerait la personne.

Notre article sur la minimisation des données détaille la démarche.

Anonymiser ou pseudonymiser les identités

Une fois le jeu de données réduit, il reste à traiter les identités qui y figurent encore.

Deux approches, aux effets juridiques différents.

	Anonymisation	Pseudonymisation
Effet	L’identité est remplacée sans retour possible	L’identité est remplacée par un pseudonyme
Statut RGPD	Les données sortent du champ du RGPD si personne n’est ré-identifiable	Les données restent personnelles (considérant 26)
Usage en IA	Modèles qui n’ont pas besoin de suivre une personne	Modèles qui suivent un parcours dans le temps

Pour un modèle qui apprend sur des historiques, la cohérence compte.

Un identifiant constant donne à une même personne le même code dans les fichiers Word, Excel, CSV et dans toutes les tables d’un même projet, d’un traitement planifié à l’autre.

Jean Dupont devient PERSON_7b94f21c dans tout le projet : le modèle suit son parcours sans jamais voir son nom.

Dans les deux cas, anonymiser les noms ne suffit pas : les combinaisons d’informations indirectes doivent aussi être traitées, comme l’explique notre comparatif pseudonymisation ou anonymisation.

Privacy by Design : l’article 25 appliqué à l’IA

L’article 25 du RGPD impose la protection des données dès la conception et par défaut.

Pour un projet d’IA, cela se traduit par une séquence simple.

1. Définir l’objectif du modèle.
   C’est lui qui fixe les données nécessaires.
2. Détecter les données personnelles.
   Dans les colonnes des bases, mais aussi dans le texte libre des documents.
3. Minimiser le jeu de données.
   Ne garder que ce que l’objectif justifie.
4. Anonymiser ou pseudonymiser.
   Avant l’entraînement et avant tout envoi à un prestataire.
5. Documenter.
   Garder la trace de ce qui a été détecté et traité, pour l’analyse d’impact et les contrôles.

Si un prestataire développe le modèle, c’est la version anonymisée qui lui est confiée : voir notre page anonymiser les données industrielles avant un prestataire IA.

Le CEPD a précisé en 2026 quand des données, ou les sorties d’un modèle, peuvent être dites anonymes : voir ses lignes directrices sur l’anonymisation.

Pour l’usage quotidien des assistants comme ChatGPT ou Copilot, la question est différente : nous la traitons dans anonymiser ses données avant ChatGPT.

Avec NymData

NymData détecte et anonymise les données personnelles de vos documents (PDF, Word, Excel, PowerPoint, CSV, texte) et de vos bases PostgreSQL et MySQL, sur vos serveurs, avant l’entraînement :

1. Cartographie d’abord.
   Une analyse sans rien modifier, avec un rapport des données trouvées avant toute action.
2. Méthode au choix.
   Anonymisation par type de donnée ([PERSONNE], [EMAIL]), pseudonymisation réaliste, ou identifiant constant pour garder la cohérence d’une même personne ; dans les PDF, les données détectées sont caviardées par rectangles opaques.
3. Historique puis flux.
   Une planification incrémentale ne reprend ensuite que les fichiers nouveaux ou modifiés.
4. Originaux intacts.
   La sortie est écrite à part, et chaque traitement produit un rapport d’audit.

Demander une démonstration