Accueil › Glossaire › Causal AI

Causal AI (Intelligence Artificielle Causale)

La Causal AI est un paradigme d’intelligence artificielle qui dépasse la reconnaissance de patterns et la corrélation pour modéliser, découvrir et exploiter les relations de cause à effet entre variables, permettant de répondre à des questions d’intervention (« que se passe-t-il si je change X ? ») et de contrefactuel (« que se serait-il passé si X avait été différent ? »).

Le problème fondamental : corrélation n’est pas causalité

Le machine learning traditionnel est bâti sur la corrélation. Il trouve des patterns dans les données historiques pour prédire des résultats futurs, en supposant que le système reste constant. C’est puissant pour la prédiction, mais fondamentalement insuffisant pour la décision.

L’exemple classique : les ventes de glaces et les noyades augmentent simultanément en été. Un modèle ML standard pourrait conclure qu’augmenter les ventes de glaces cause plus de noyades (ou l’inverse). C’est une corrélation spurieuse, la chaleur estivale est la cause commune. Un modèle causal identifie cette structure et évite la conclusion erronée.

En entreprise, ce problème est omniprésent. Un modèle prédit que les clients qui contactent le support ont plus de chances de churner. Faut-il supprimer le support pour réduire le churn ? Évidemment non : c’est le problème sous-jacent (non résolu) qui cause à la fois le contact support et le churn. Sans raisonnement causal, les décisions basées sur les corrélations peuvent être non seulement inefficaces mais activement nuisibles.

La Causal AI résout ce problème en modélisant explicitement les mécanismes de cause à effet. Elle permet de répondre à trois niveaux de questions, formalisés par Judea Pearl dans son « Ladder of Causation » :

Niveau 1 : Association (seeing). « Les clients qui achètent A achètent-ils aussi B ? » C’est le territoire du ML classique.

Niveau 2 : Intervention (doing). « Si je baisse le prix de 10 %, combien de ventes supplémentaires vais-je générer ? » Le do-operator de Pearl formalise cette question.

Niveau 3 : Contrefactuel (imagining). « Ce client a churné. Serait-il resté si je lui avais offert un discount ? » C’est la question la plus puissante et la plus difficile.

Concepts fondamentaux

Structural Causal Models (SCM)

Un SCM est un modèle mathématique qui décrit comment les variables d’un système se déterminent mutuellement. Chaque variable est définie comme une fonction de ses causes directes et d’un terme de bruit. Le SCM encode la structure complète du système : quelles variables causent quelles autres, et comment.

Directed Acyclic Graphs (DAG)

Un DAG est la représentation visuelle d’un SCM : un graphe orienté sans cycle où les nœuds sont les variables et les arêtes dirigées indiquent les relations causales. Par exemple : Météo → Ventes de glaces, Météo → Noyades. Le DAG montre explicitement que les glaces et les noyades ne se causent pas mutuellement, elles partagent une cause commune.

Le DAG est l’outil central de la Causal AI. Il permet d’identifier les confondeurs (variables qui influencent à la fois la cause et l’effet), les médiateurs (variables par lesquelles transite l’effet), et les colliders (variables causées par deux variables simultanément). Ces structures déterminent quelles variables il faut contrôler (ou ne pas contrôler) pour estimer un effet causal correctement.

Le do-operator et l’intervention

Le do-operator de Pearl, noté do(X = x), distingue formellement observer que X = x (P(Y | X = x)) et intervenir pour fixer X = x (P(Y | do(X = x))). Cette distinction est cruciale : observer que les patients qui prennent un médicament ont de meilleurs résultats ne prouve pas que le médicament est efficace (les patients en meilleure santé prennent peut-être plus souvent le médicament). Intervenir, en forçant l’assignation du traitement (comme dans un essai clinique randomisé), isole l’effet causal.

Le do-calculus fournit des règles algébriques pour calculer les effets d’interventions à partir de données observationnelles, sans avoir à mener un essai randomisé, à condition de connaître la structure causale (le DAG).

Raisonnement contrefactuel

Le contrefactuel répond à « que se serait-il passé si les choses avaient été différentes ? ». Ce client a annulé son abonnement. Si on lui avait proposé un discount de 20 %, serait-il resté ? Le raisonnement contrefactuel est fondamental pour l’uplift modeling, l’évaluation des politiques et la personnalisation des interventions.

Confondement et paradoxe de Simpson

Le confondement se produit quand une variable non mesurée influence à la fois la cause présumée et l’effet. Le paradoxe de Simpson en est l’illustration la plus frappante : une tendance qui apparaît dans les données globales peut s’inverser quand on conditionne sur un confondeur. Un médicament peut sembler inefficace globalement mais être efficace dans chaque sous-groupe, si la sévérité de la maladie (le confondeur) n’est pas contrôlée.

Méthodes et techniques

Causal discovery (découverte causale)

La causal discovery apprend la structure du DAG à partir des données, quand elle n’est pas connue a priori. Les algorithmes principaux :

PC (Peter-Clark). Teste les indépendances conditionnelles dans les données pour éliminer les arêtes non causales. Produit un graphe partiel (certaines directions d’arêtes restent ambiguës).

FCI (Fast Causal Inference). Extension du PC qui gère les variables latentes (non observées).

GES (Greedy Equivalence Search). Approche par score : parcourt l’espace des DAGs pour trouver celui qui maximise un critère de qualité (BIC, par exemple).

Méthodes basées sur les non-linéarités. LiNGAM exploite les propriétés des distributions non gaussiennes pour identifier les directions causales que les tests d’indépendance ne peuvent pas distinguer.

Estimation d’effets causaux

Une fois le DAG connu (ou supposé), l’estimation quantifie l’ampleur de l’effet causal. Les méthodes principales :

Adjustment formula / backdoor criterion. Si vous connaissez les confondeurs et pouvez les mesurer, vous les contrôlez statistiquement pour isoler l’effet causal. Le backdoor criterion de Pearl identifie quelles variables il faut contrôler.

Propensity Score Matching / Weighting. Estime la probabilité de recevoir le traitement (le propensity score) et l’utilise pour créer des groupes comparables. L’IPW (Inverse Probability Weighting) pondère les observations pour simuler une assignation aléatoire.

Instrumental Variables (IV). Quand des confondeurs non mesurés existent, un instrument (variable qui affecte le traitement mais pas directement le résultat) permet d’estimer l’effet causal. L’IV est la méthode de référence en économétrie.

Difference-in-Differences (DiD). Compare l’évolution d’un groupe traité vs un groupe contrôle avant et après l’intervention. Élimine les différences structurelles constantes entre les groupes.

Regression Discontinuity Design (RDD). Exploite un seuil d’assignation (ex : un programme offert aux clients avec un score > 80) pour estimer l’effet causal en comparant les individus juste au-dessus et juste en dessous du seuil.

Contrôle synthétique. Construit un groupe contrôle artificiel comme combinaison pondérée de groupes non traités, pour estimer ce qui se serait passé sans l’intervention.

Causal Machine Learning

L’intersection du ML et de l’inférence causale produit des méthodes puissantes pour estimer les effets causaux hétérogènes (qui varient selon les individus) :

Double Machine Learning (DML). Utilise le ML pour estimer les relations nuisance (confondeurs) et l’inférence statistique pour l’effet causal. Développé par Chernozhukov et al., implémenté dans EconML.

Causal Forests. Extension des Random Forest pour estimer les effets de traitement hétérogènes (CATE). Implémenté dans la librairie grf (R) et EconML (Python). Permet de découvrir quels sous-groupes bénéficient le plus d’une intervention.

Meta-learners (S-learner, T-learner, X-learner). Frameworks qui utilisent n’importe quel modèle ML supervisé pour estimer les effets de traitement.

Architectures deep learning causales. TARNet, CFRNet et DragonNet sont des réseaux de neurones conçus pour l’estimation d’effets causaux en haute dimension. Ils apprennent des représentations qui séparent les facteurs confondants des signaux causaux.

Outils et librairies

L’écosystème pyWhy de Microsoft est le point d’entrée recommandé pour les data scientists : il regroupe DoWhy (inférence causale), EconML (effets de traitement ML), et plusieurs librairies spécialisées sous une interface unifiée. Pour les applications business (marketing, pricing, rétention), CausalML d’Uber excelle en uplift modeling.

Applications concrètes

Marketing et attribution

Le ML traditionnel attribue les conversions aux derniers touchpoints visibles (last-click attribution), ce qui sur-évalue certains canaux et sous-évalue d’autres. La Causal AI estime l’effet incrémental réel de chaque canal marketing en contrôlant les confondeurs (le type de client qui voit chaque publicité diffère). L’uplift modeling identifie les clients dont le comportement sera effectivement modifié par une campagne, plutôt que ceux qui auraient acheté de toute façon.

Pricing et élasticité

Estimer l’impact d’un changement de prix sur les ventes nécessite un raisonnement causal. Les données observationnelles confondent l’effet du prix avec la saisonnalité, les promotions et le mix produit. Les méthodes DiD et IV permettent d’isoler l’élasticité-prix causale, cruciale pour optimiser le pricing sans biaiser les estimations.

Santé et pharma

L’estimation des effets de traitement est l’application historique de l’inférence causale. Les essais cliniques randomisés (RCT) sont le gold standard, mais la Causal AI permet d’exploiter les données observationnelles (dossiers médicaux électroniques, registres) quand les RCT sont impossibles, coûteux ou éthiquement discutables. Aitia se spécialise dans les digital twins causaux pour la pharma et la médecine de précision.

Supply chain et opérations

Comprendre les causes de retard de livraison, de rupture de stock ou de défauts qualité permet d’agir sur les leviers réels plutôt que sur des corrélations spurieuses. La Causal AI identifie les nœuds critiques du réseau logistique dont la défaillance cause des cascades d’impacts.

RH et gestion des talents

Quelles initiatives de rétention causent réellement une baisse du turnover ? Quel programme de formation cause réellement une amélioration de la productivité ? Sans raisonnement causal, les corrélations (les employés qui suivent des formations sont plus productifs) peuvent refléter un biais de sélection (les employés déjà motivés s’inscrivent plus aux formations).

Équité et conformité IA

La Causal AI aide à distinguer les discriminations causales (le modèle traite différemment des individus à cause de leur genre ou ethnie) des corrélations non discriminatoires (le modèle utilise une variable corrélée au genre mais causalement justifiée). C’est un enjeu majeur dans le contexte du EU AI Act qui impose la transparence et l’équité des systèmes IA.

Marché et adoption

Le marché de la Causal AI est en pleine explosion. Les estimations varient considérablement selon les cabinets (de quelques centaines de millions à plusieurs dizaines de milliards selon la définition retenue), mais tous s’accordent sur un CAGR de 40 à 50 %. Fortune Business Insights estime le marché à environ 81 milliards de dollars en 2025, avec une projection à près de 2 000 milliards d’ici 2034 (CAGR 42,5 %).

L’Amérique du Nord domine avec environ 45 % du marché, tirée par la recherche universitaire (Stanford, MIT, Carnegie Mellon) et l’adoption enterprise. L’Asie-Pacifique affiche la croissance la plus rapide (CAGR ~44 %), portée par la transformation digitale en Chine, Inde et au Japon. L’Europe bénéficie du EU AI Act qui impose des exigences de transparence et d’explicabilité alignées avec les forces de la Causal AI.

Environ 45 % des organisations utilisant l’IA intègrent déjà le raisonnement causal, et 25 % supplémentaires prévoient de l’adopter d’ici 2026. Cela signifie que près de 70 % des organisations IA incorporeront la causalité à court terme.

causaLens domine le segment plateforme avec sa DecisionOS, qui combine discovery causale, inférence et prise de décision, renforcée par l’intégration avec les LLM (partenariat Google Cloud en 2024). Les hyperscalers (Microsoft, Google, AWS) intègrent progressivement des composants causaux dans leurs portfolios IA, souvent par acquisition de startups spécialisées.

Causal AI vs ML traditionnel : quand utiliser quoi ?

Verdict : les deux approches sont complémentaires, pas concurrentes. Le ML prédit bien quand le passé ressemble au futur. La Causal AI guide les décisions quand on veut changer le système (nouvelle politique, nouveau prix, nouvelle intervention). Les organisations les plus matures combinent les deux : le ML pour le scoring opérationnel, la Causal AI pour les décisions stratégiques.

Limites et défis

Dépendance aux hypothèses causales. La Causal AI n’est pas magique. Elle nécessite des hypothèses sur la structure causale (le DAG). Si le DAG est faux (une cause importante est omise, une relation est inversée), les conclusions seront biaisées. La causal discovery aide mais ne garantit pas un DAG correct.

Confondeurs non mesurés. Si une variable qui influence à la fois la cause et l’effet n’est pas observée ni contrôlée, l’estimation causale est biaisée. Les variables instrumentales et les analyses de sensibilité atténuent ce risque mais ne l’éliminent pas.

Complexité technique. L’inférence causale est conceptuellement plus complexe que le ML supervisé. Les concepts de DAG, do-calculus, backdoor criterion et contrefactuels nécessitent une formation spécifique que la majorité des data scientists n’ont pas encore reçue.

Absence de standardisation. Les méthodologies varient entre économétrie, épidémiologie, informatique et sciences sociales. L’absence de standards unifiés freine l’adoption, surtout dans les organisations multinationales soumises à des cadres réglementaires différents.

Évaluation difficile. En ML, on évalue un modèle sur un jeu de test. En causal AI, le « ground truth » causal est rarement observable (on ne connaît pas le vrai contrefactuel). Les méthodes d’évaluation (réfutation, analyse de sensibilité, tests A/B pour valider les prédictions causales) sont moins matures.

Lien avec l’A/B testing

L’A/B testing est la forme la plus directe d’inférence causale : la randomisation élimine les confondeurs et permet d’estimer l’effet causal d’un changement. La Causal AI intervient quand l’A/B testing est impossible (pas assez de trafic, éthique, contrainte technique) ou insuffisant (comprendre les mécanismes, pas seulement l’effet moyen).

La combinaison est puissante : la Causal AI génère des hypothèses causales à partir des données observationnelles, l’A/B testing les valide expérimentalement. Les Causal Forests identifient les sous-groupes qui bénéficient le plus d’un changement, puis un A/B test ciblé confirme l’effet sur ces sous-groupes.