Accueil › Glossaire › Transparency

Transparency (Transparence en IA)

La transparence en IA désigne l’ensemble des pratiques qui rendent le fonctionnement, les capacités, les limitations et les processus décisionnels des systèmes d’intelligence artificielle compréhensibles et accessibles à leurs parties prenantes : utilisateurs, déployeurs, régulateurs et personnes affectées par les décisions.

La transparence n’est pas une propriété technique unique. C’est un concept multidimensionnel qui englobe la traçabilité (pouvoir retracer l’origine d’une décision), l’explicabilité (fournir des raisons compréhensibles), l’interprétabilité (comprendre les mécanismes internes) et la divulgation (informer les utilisateurs qu’ils interagissent avec une IA). L’AI Act européen en fait une obligation juridique contraignante à partir du 2 août 2026, avec des sanctions pouvant atteindre 35 millions d’euros ou 7% du chiffre d’affaires mondial.

Les quatre dimensions de la transparence

La transparence en IA n’est pas un concept monolithique. Elle se décompose en quatre dimensions complémentaires, chacune répondant à des besoins différents.

Traçabilité

La traçabilité est la capacité de retracer l’historique complet d’une décision IA : quelles données ont été utilisées, quel modèle a produit la prédiction, quels paramètres étaient en vigueur, et quelles transformations ont été appliquées aux données d’entrée. C’est l’équivalent de l’audit trail en comptabilité.

En pratique, la traçabilité exige un système de logging structuré qui enregistre pour chaque prédiction : l’identifiant de l’observation, la version du modèle, les features d’entrée (ou un hash si les données sont sensibles), la prédiction, le score de confiance, et un horodatage. Sans traçabilité, il est impossible de reproduire, vérifier ou contester une décision.

Explicabilité

L’explicabilité est la dimension technique de la transparence : fournir des raisons compréhensibles pour chaque décision. C’est le domaine des méthodes de feature attribution (SHAP, Integrated Gradients), des explications contrefactuelles et de l’attention visualization. L’explicabilité transforme une prédiction opaque en diagnostic compréhensible.

Interprétabilité

L’interprétabilité va plus loin que l’explicabilité : elle permet de comprendre les mécanismes internes du modèle, pas seulement ses décisions individuelles. Un modèle intrinsèquement interprétable (arbre de décision, régression linéaire) est transparent par construction. Un modèle boîte noire peut être rendu partiellement interprétable via des méthodes post-hoc ou l’interprétabilité mécanistique.

Divulgation (Disclosure)

La divulgation est la dimension « interface utilisateur » de la transparence : informer les personnes qu’elles interagissent avec une IA ou qu’elles sont exposées à du contenu généré par IA. C’est le volet le plus visible de l’article 50 de l’AI Act. Concrètement, cela signifie : un chatbot doit annoncer qu’il est une IA, un deepfake doit être étiqueté, un texte généré par IA et publié dans l’intérêt public doit être identifié comme tel.

La transparence dans l’AI Act : ce que dit le texte

L’AI Act structure ses obligations de transparence en trois niveaux, selon le type de système IA.

Systèmes à haut risque (Article 13)

Les systèmes d’IA à haut risque (scoring crédit, recrutement, diagnostic médical, justice prédictive, etc.) doivent être conçus pour garantir une transparence « suffisante » permettant aux déployeurs de comprendre et d’utiliser correctement les résultats du système. L’article 13 exige :

Les instructions d’utilisation doivent inclure l’identité du fournisseur, les caractéristiques et limitations de performance du système, les conditions d’utilisation prévues, les risques connus, les métriques de performance pertinentes (y compris pour des sous-groupes spécifiques), les spécifications des données d’entrée, et la possibilité d’interpréter les résultats du système.

C’est un cahier des charges dense. En pratique, il se traduit par la création de model cards complètes, l’intégration de méthodes d’explicabilité (SHAP, contrefactuels) et un programme de monitoring continu.

Obligations générales de transparence (Article 50)

L’article 50 impose quatre types d’obligations de divulgation, applicables à tout système IA concerné (pas seulement les systèmes haut risque) :

La Commission européenne a publié un premier projet de Code de pratique sur la transparence du contenu généré par IA en décembre 2025. La version finale est attendue pour juin 2026, juste avant l’entrée en vigueur. Ce code promeut une approche de marquage multicouche (métadonnées, watermarking, labels visibles) et l’utilisation du standard C2PA comme infrastructure technique de provenance.

Droit à l’explication (Article 86)

L’article 86 accorde aux personnes affectées par une décision d’un système IA à haut risque le droit d’obtenir des explications claires et compréhensibles sur le rôle du système dans la prise de décision et les principaux éléments de cette décision. Ce droit renforce les dispositions du RGPD (article 22) et donne une base juridique solide aux demandes d’explication individuelles.

En pratique, les méthodes de feature attribution et les contrefactuels sont les outils techniques les plus directement applicables pour répondre à cette exigence.

Mise en œuvre technique de la transparence

Model cards et documentation

Les model cards (introduites par Mitchell et al., Google, 2019) sont le standard de documentation des modèles ML. Une model card documente les caractéristiques du modèle (architecture, données d’entraînement, métriques de performance), ses limitations connues, ses cas d’usage prévus et non-prévus, et les considérations éthiques. L’AI Act exige une documentation équivalente pour les systèmes à haut risque (article 13) et pour les modèles d’IA à usage général (annexes XI et XII).

Couche d’explicabilité

La transparence technique repose sur l’intégration de méthodes d’explicabilité dans le pipeline d’inférence. Les architectures typiques incluent :

Explicabilité embarquée. Les valeurs SHAP ou les attributions sont calculées à chaque prédiction et stockées avec le résultat. C’est l’approche la plus robuste pour les systèmes haut risque, mais aussi la plus coûteuse en calcul.

Explicabilité à la demande. Les explications sont générées uniquement quand un utilisateur ou un régulateur le demande. C’est suffisant pour les systèmes à risque modéré et réduit les coûts d’infrastructure.

Explicabilité agrégée. Les distributions d’attributions sont monitorées de manière agrégée (importance moyenne des features, drifts d’attribution) sans explications individuelles systématiques. C’est utile pour le monitoring et le débogage, mais insuffisant pour satisfaire le droit à l’explication individuelle.

Marquage du contenu IA (watermarking)

Pour les systèmes génératifs (texte, image, audio, vidéo), l’article 50 impose le marquage des sorties en format lisible par machine. Le standard C2PA (Coalition for Content Provenance and Authenticity), soutenu par Adobe, Microsoft, Google et d’autres, émerge comme la norme technique de facto. Il intègre des métadonnées de provenance directement dans les fichiers, permettant de tracer l’origine et les modifications du contenu. Le watermarking invisible complète cette approche en intégrant des marqueurs indétectables par l’humain mais lisibles par machine.

Détection de contenu IA

Le projet de Code de pratique exige que les fournisseurs de systèmes génératifs mettent à disposition des outils de détection gratuits, avec des scores de confiance, pour permettre aux tiers de vérifier l’origine IA du contenu. C’est un complément indispensable au marquage, car les métadonnées peuvent être supprimées (screenshot, re-upload).

Obligations par secteur

Finance

Le secteur financier est doublement réglementé : par l’AI Act et par les réglementations sectorielles existantes (Bâle III, DORA, MiFID II, directives anti-blanchiment). Les systèmes de scoring crédit, de détection de fraude et de tarification algorithmique sont classés haut risque. La transparence exige des model cards, des explications individuelles pour les refus de crédit (SHAP + contrefactuels), et un monitoring continu. L’article 86 donne aux clients le droit d’obtenir une explication de toute décision financière prise par un système IA.

Santé

Les systèmes IA intégrés dans des dispositifs médicaux doivent satisfaire à la fois l’AI Act et le règlement sur les dispositifs médicaux. Les systèmes d’aide au diagnostic, de recommandation de traitement et de triage sont classés haut risque. La transparence doit être calibrée pour le médecin (explications techniques via feature attribution) et pour le patient (explications compréhensibles via contrefactuels). Les systèmes de dispositifs médicaux IA bénéficient d’un délai supplémentaire (août 2027), mais la préparation doit commencer dès maintenant.

Recrutement

Les systèmes de tri de CV, d’évaluation de candidats et de matching emploi-candidat sont classés haut risque. L’accountability exige de pouvoir expliquer pourquoi un candidat a été sélectionné ou écarté. L’audit de biais (par genre, âge, origine) est un prérequis de conformité.

Médias et contenu

Les obligations de l’article 50 sont particulièrement lourdes pour les plateformes qui diffusent du contenu généré par IA. Les deepfakes doivent être étiquetés, les textes IA publiés dans l’intérêt public doivent être identifiés, et le contenu généré doit porter des marqueurs machine-readable. Les plateformes doivent faciliter l’affichage de ces labels et préserver les métadonnées de provenance.

Transparence aux États-Unis

Les États-Unis n’ont pas de loi fédérale unique sur la transparence IA, mais un patchwork croissant de régulations étatiques. Le Colorado AI Act (en vigueur février 2026) impose des évaluations d’impact et des divulgations pour les systèmes IA à haut risque. La Californie a adopté l’AI Transparency Act (SB 942) qui exige la divulgation du contenu généré par IA. L’Illinois impose une notification pour l’utilisation d’IA dans l’analyse vidéo de candidats.

Pour les entreprises opérant à l’international, la convergence entre l’AI Act européen et les régulations américaines crée un plancher de transparence élevé. Concevoir les systèmes pour la conformité AI Act couvre généralement les exigences américaines.

Limites et tensions

Transparence vs secret commercial

Trop de transparence peut révéler des secrets commerciaux (architecture du modèle, données d’entraînement propriétaires, features engineering). L’AI Act reconnaît cette tension : l’article 78 prévoit des mesures de confidentialité pour protéger les informations sensibles. Les méthodes post-hoc comme SHAP et les contrefactuels sont particulièrement adaptées car elles fournissent des explications sans exposer l’architecture interne du modèle.

Transparence et surcharge informationnelle

Fournir trop d’information est aussi problématique qu’en fournir trop peu. Un rapport technique de 50 pages sur le fonctionnement d’un algorithme de scoring n’aide pas un client à comprendre pourquoi son crédit a été refusé. La transparence effective est calibrée : technique pour le développeur, synthétique pour le déployeur, actionnable pour l’utilisateur final.

Risque de gaming

Plus un système est transparent, plus il est vulnérable au gaming (manipulation stratégique des entrées pour obtenir un résultat favorable). Les contrefactuels révèlent explicitement la frontière de décision du modèle. En scoring crédit ou en détection de fraude, trop de transparence sur les critères exacts peut faciliter la fraude. Un équilibre doit être trouvé entre le droit à l’explication et la robustesse du système.

Transparence performative

Le risque le plus insidieux : satisfaire formellement les exigences de transparence sans réellement informer. Publier une model card remplie de jargon technique, afficher un message « décision assistée par IA » en caractères minuscules, ou fournir des SHAP values sans explication contextuelle. La lettre de la loi est respectée, mais pas son esprit. L’accountability exige que la transparence soit réelle, pas cosmétique.

Checklist de conformité transparence AI Act

Voici une feuille de route pratique pour préparer la conformité aux obligations de transparence de l’AI Act avant le 2 août 2026.

Phase 1 : Inventaire (à faire immédiatement)

Cataloguez tous vos systèmes IA. Listez chaque système qui utilise du machine learning ou de l’IA dans votre organisation. Incluez les modèles internes, les API tierces (OpenAI, Anthropic, Google), et les systèmes embarqués dans des logiciels achetés. Pour chaque système, identifiez : le type de données traitées, le domaine d’application, les décisions prises ou assistées, et les personnes affectées.

Classifiez par niveau de risque. Appliquez la grille de l’AI Act : le système est-il à risque inacceptable (interdit), haut risque (conformité complète requise), à risque de transparence (article 50), ou à risque minimal (pas d’obligation spécifique) ? Portez une attention particulière aux systèmes de scoring, de recrutement, de santé et de sécurité.

Phase 2 : Documentation (6-12 mois avant la deadline)

Créez des model cards. Pour chaque système haut risque, rédigez une model card couvrant : l’objectif du modèle, les données d’entraînement (source, taille, biais connus), les métriques de performance globales et par sous-groupes, les limitations connues, les cas d’usage prévus et non-prévus, et les instructions pour les déployeurs.

Documentez les méthodes d’explicabilité. Pour chaque système nécessitant des explications (haut risque + article 86), documentez la méthode d’explicabilité choisie (SHAP, contrefactuels, Integrated Gradients), ses limitations, la taille du background dataset (pour SHAP), et les contraintes de faisabilité (pour les contrefactuels).

Phase 3 : Implémentation technique (3-6 mois avant)

Intégrez le logging structuré. Chaque prédiction d’un système haut risque doit être traçable. Implémentez un pipeline de logging qui capture l’identifiant de l’observation, la version du modèle, les features d’entrée (ou un hash), la prédiction, le score de confiance, et l’horodatage.

Déployez la couche d’explicabilité. Intégrez SHAP (TreeSHAP pour les modèles arborescents) ou les Integrated Gradients (pour les réseaux de neurones) dans votre pipeline d’inférence. Stockez les attributions avec les prédictions. Pour les contrefactuels, implémentez un service « à la demande » déclenché par l’utilisateur ou le régulateur.

Implémentez le marquage du contenu IA. Pour les systèmes génératifs, intégrez le standard C2PA pour les métadonnées de provenance et le watermarking invisible. Assurez-vous que les labels de divulgation sont activés par défaut dans l’interface utilisateur.

Phase 4 : Monitoring et audit (continu)

Monitorez les distributions d’attributions. Mettez en place des alertes sur les changements soudains dans l’importance relative des features (via SHAP agrégé). Un shift significatif peut indiquer un data drift, un concept drift ou un problème de qualité des données.

Testez les explications sur des utilisateurs réels. Organisez des sessions de test avec des représentants de vos audiences cibles (clients, déployeurs, régulateurs) pour valider la compréhensibilité et l’utilité des explications fournies.

Préparez les procédures de recours. L’article 86 implique que les personnes affectées puissent demander et recevoir des explications. Mettez en place un processus opérationnel pour traiter ces demandes dans un délai raisonnable.

Positionnement dans l’écosystème XAI

La transparence est le concept le plus large de l’écosystème de l’IA responsable. Elle englobe l’explicabilité (fournir des explications), l’interprétabilité (comprendre les mécanismes), l’accountability (assumer la responsabilité), la fairness (équité des décisions) et la sécurité. Ces concepts se renforcent mutuellement : sans transparence, il n’y a pas d’accountability. Sans explicabilité, il n’y a pas de transparence effective. Sans fairness, la transparence peut révéler mais pas corriger les discriminations.

Les méthodes techniques de feature attribution (SHAP, LIME), les contrefactuels, l’attention visualization et l’inférence causale sont les outils opérationnels qui rendent la transparence concrète. Les model cards, le watermarking et la provenance du contenu sont les outils de documentation et de traçabilité. L’ensemble constitue le toolkit de conformité pour l’AI Act.

Bonnes pratiques

Cartographiez vos systèmes IA. Identifiez tous les systèmes IA déployés dans votre organisation, classez-les par niveau de risque AI Act, et documentez les obligations de transparence associées à chacun.

Calibrez la transparence par audience. Les développeurs ont besoin de métriques de performance et de SHAP values. Les déployeurs ont besoin de model cards et de limitations documentées. Les utilisateurs finaux ont besoin de messages clairs (« vous interagissez avec une IA ») et d’explications actionnables (contrefactuels).

Intégrez la transparence dès la conception. Transparency by design : le marquage du contenu IA, le logging des prédictions et l’explicabilité doivent être des composants architecturaux du système, pas des ajouts après coup.

Testez vos explications sur des utilisateurs réels. Une explication que le développeur comprend n’est pas nécessairement compréhensible par un juge, un médecin ou un client. Les tests utilisateurs sont indispensables pour valider l’efficacité de la transparence.

Monitorez la transparence en continu. Les explications doivent rester fiables au fil du temps. Un modèle qui dérive (concept drift) peut produire des explications obsolètes. Intégrez le monitoring des distributions d’attributions dans votre pipeline MLOps.

Documentez avec des model cards. Chaque modèle en production doit avoir une model card à jour. C’est le livrable de base de la conformité AI Act.