Accueil › Glossaire › Active Learning (Data)

Active Learning (Data)

L’active learning (apprentissage actif) est une stratégie de machine learning dans laquelle le modèle sélectionne lui-même les échantillons de données les plus informatifs à faire annoter par un humain, plutôt que d’être entraîné sur un ensemble de données labellisé aléatoirement ou exhaustivement.

Le problème est universel : vous avez des milliers (ou des millions) d’exemples non annotés, un budget d’annotation limité, et un modèle à entraîner. L’approche naïve consiste à labelliser tout ou à tirer au hasard. L’active learning fait l’inverse : le modèle identifie les exemples sur lesquels il hésite le plus et demande à un annotateur humain de trancher uniquement sur ceux-là. Résultat : une réduction de 30 à 70 % du volume d’annotations nécessaires pour atteindre la même performance, selon les benchmarks récents. En 2026, avec un marché mondial des outils d’annotation qui atteint 8,26 milliards de dollars et des équipes ML qui passent plus de 80 % de leur temps sur la qualité des données plutôt que sur le tuning de modèles, l’active learning n’est plus un luxe académique : c’est un impératif économique.

Le mécanisme de l’active learning

L’active learning fonctionne comme une boucle itérative en quatre étapes. Contrairement à l’entraînement classique où l’on prépare un dataset fixe puis on lance l’entraînement, ici le modèle et le dataset co-évoluent.

La boucle active learning

Étape 1 : Entraînement initial. Vous partez d’un petit ensemble de données annotées (le « seed set ») et entraînez un premier modèle, même basique. Ce modèle n’a pas besoin d’être performant : il doit juste être capable de produire des prédictions avec un score de confiance.

Étape 2 : Sélection (query). Le modèle analyse le pool de données non annotées et identifie les échantillons les plus « informatifs » selon une stratégie de sélection (uncertainty, diversity, ou autre). Ce sont les exemples sur lesquels le modèle hésite le plus, ou ceux qui sont les plus différents de ce qu’il connaît déjà.

Étape 3 : Annotation humaine. Les échantillons sélectionnés sont envoyés à un annotateur humain (l’oracle) qui fournit les labels. C’est l’étape la plus coûteuse, et c’est précisément celle que l’active learning minimise en ciblant uniquement les données à haute valeur.

Étape 4 : Re-entraînement et itération. Le modèle est re-entraîné sur le dataset augmenté. Le cycle recommence à l’étape 2 jusqu’à ce que la performance atteigne un plateau ou que le budget d’annotation soit épuisé.

Stratégies de sélection (query strategies)

Le choix de la stratégie de sélection détermine quels exemples seront envoyés à l’annotateur. C’est le cœur algorithmique de l’active learning. Trois grandes familles dominent.

Uncertainty sampling (échantillonnage par incertitude)

La stratégie la plus simple et la plus utilisée. Le modèle sélectionne les exemples sur lesquels il est le moins confiant dans sa prédiction. Trois variantes principales existent.

Least confidence : on sélectionne les exemples dont la classe prédite a la plus faible probabilité. Si le modèle prédit « chat » avec 52 % de confiance, cet exemple est prioritaire par rapport à un autre prédit à 98 %. C’est la variante la plus intuitive et la plus courante.

Margin sampling : on mesure la différence de probabilité entre les deux classes les plus probables. Un écart faible (par exemple, 51 % vs 49 %) signale une forte incertitude. Cette variante est plus fine que le least confidence car elle prend en compte la compétition entre les classes.

Entropy sampling : on calcule l’entropie de la distribution de probabilités sur toutes les classes. Une entropie élevée indique une répartition uniforme des probabilités, donc une incertitude maximale. C’est la variante la plus complète mathématiquement, mais elle peut être bruitée dans les problèmes multi-classes.

Selon un benchmark extensif récent, l’uncertainty sampling avec des modèles compatibles reste la stratégie de premier choix pour les praticiens sur les données tabulaires, surpassant des approches plus complexes dans la majorité des cas testés.

Query-by-committee (QBC)

Au lieu d’un seul modèle, on entraîne un comité de modèles (typiquement 2 à 10 membres) sur des sous-ensembles différents du dataset. Les exemples sélectionnés sont ceux sur lesquels les membres du comité sont le plus en désaccord. Le désaccord est mesuré par vote entropy (entropie de la distribution des votes du comité) ou par disagreement margin.

Le QBC présente un avantage théorique : en utilisant plusieurs modèles avec des hypothèses différentes, il couvre mieux l’espace des possibles qu’un seul modèle. En pratique, il est plus coûteux en calcul (il faut entraîner et inférer avec N modèles au lieu d’un) mais peut être plus robuste, surtout quand le modèle unique a des zones aveugles systématiques.

Une variante moderne utilise le MC Dropout (Monte Carlo Dropout) pour simuler un comité à moindre coût : au lieu d’entraîner plusieurs modèles, on applique différents masques de dropout pendant l’inférence sur un seul modèle, ce qui produit des prédictions variées dont on mesure la dispersion. Cette approche, mathématiquement équivalente à une approximation de processus gaussien profond, est devenue populaire pour le deep learning.

Diversity sampling (échantillonnage par diversité)

Les stratégies basées sur l’incertitude ont une faiblesse : elles tendent à sélectionner des exemples proches de la frontière de décision, qui peuvent être redondants entre eux ou être des outliers. Le diversity sampling résout ce problème en sélectionnant des exemples qui sont à la fois informatifs et représentatifs de la distribution des données non annotées.

Concrètement, on combine un critère d’incertitude avec un critère de distance : les exemples sélectionnés doivent être incertains ET éloignés les uns des autres dans l’espace des features. Les méthodes comme IDEAL (Informative and Diverse Exploration in Active Learning) utilisent une pondération par distance inverse pour favoriser l’exploration de régions peu couvertes du feature space.

Stratégies hybrides

Les approches les plus performantes en pratique combinent incertitude, représentativité et diversité. Le framework typique : (1) constituer un ensemble candidat d’exemples à forte incertitude, (2) appliquer un clustering (k-means kernel, par exemple) pour filtrer les redondances, (3) sélectionner un représentant par cluster. Cette approche triple (uncertainty + representativeness + diversity) élimine les outliers et les doublons tout en maximisant l’information par annotation.

Les trois scénarios d’active learning

Pool-based active learning

Le scénario le plus courant. Vous disposez d’un large pool de données non annotées, et le modèle sélectionne des lots (batches) d’exemples à labelliser à chaque itération. C’est le cas classique en vision par ordinateur, en NLP et en analyse de données tabulaires. La plupart des outils et des benchmarks ciblent ce scénario.

Stream-based active learning

Les données arrivent en flux continu (streaming). Pour chaque nouvel exemple, le modèle décide en temps réel s’il vaut la peine d’être annoté ou non. C’est le scénario adapté aux applications de monitoring, de détection d’anomalies en temps réel, ou de systèmes embarqués. Plus léger en mémoire que le pool-based, mais les décisions sont prises localement sans vision globale du pool.

Membership query synthesis

Le modèle génère lui-même les exemples qu’il souhaite voir annotés, plutôt que de les sélectionner dans un pool existant. Ce scénario est pertinent quand l’espace des inputs est continu (optimisation de paramètres, design de molécules, calibration de simulations). En pratique, il est moins utilisé car les exemples synthétisés peuvent être difficiles à interpréter pour un annotateur humain.

Outils et plateformes

L’écosystème d’outils intégrant l’active learning s’est considérablement enrichi. Voici les principales options en mars 2026.

Prodigy

Développé par l’équipe de spaCy (Explosion AI), Prodigy est un outil d’annotation extensible conçu nativement pour l’active learning. Son point fort : les « recipes », des fonctions Python qui décrivent des workflows d’annotation complets. Le modèle sélectionne les exemples les plus informatifs, l’annotateur labellise via une interface web minimaliste, et le modèle se re-entraîne en boucle. Prodigy tourne entièrement en local, ce qui convient aux exigences de confidentialité les plus strictes. Licence commerciale avec pas de lock-in sur les modèles produits.

Label Studio

Outil open source de labellisation avec des capacités d’active learning intégrées. Il supporte images, audio, texte et vidéo, et s’intègre avec les frameworks ML majeurs (TensorFlow, PyTorch, scikit-learn). L’interface est customisable et gère la collaboration d’équipe pour les projets à grande échelle. C’est le choix par défaut pour les équipes qui veulent un outil gratuit et flexible.

Encord Active

Encord Active va au-delà de l’annotation : il analyse les performances du modèle en comparant les prédictions aux ground truth, identifie les zones de faiblesse et les edge cases, puis intègre ce feedback dans le workflow d’annotation. L’entreprise a levé 60 millions de dollars en Series C, avec un focus sur la santé et l’IA physique (DICOM, LiDAR, audio). C’est l’option la plus complète pour les workflows data-centric en vision par ordinateur.

Amazon SageMaker Ground Truth

Service managé d’AWS qui intègre l’active learning nativement. Le modèle génère des pré-annotations, et les exemples incertains sont routés vers des annotateurs humains. L’avantage : l’intégration native avec l’écosystème AWS (SageMaker, S3, Lambda). L’inconvénient : le vendor lock-in et le coût qui peut grimper sur les grands volumes.

Bibliothèques Python : modAL et libact

Pour les équipes qui veulent implémenter l’active learning dans leur propre code, modAL (modulaire, basé sur scikit-learn) et libact (pool-based, avec méta-stratégie automatique) sont les deux bibliothèques de référence. modAL supporte uncertainty sampling, QBC, et les stratégies custom. libact ajoute une méta-stratégie qui apprend automatiquement la meilleure stratégie pour votre jeu de données. Les deux sont open source et s’intègrent dans n’importe quel pipeline Python.

Cas d’usage concrets

NLP : NER et classification de texte

En reconnaissance d’entités nommées (NER) et en classification de texte, une grande partie du corpus contient des exemples triviaux que le modèle classe déjà correctement. L’active learning identifie les phrases ambiguës, les entités rares ou les formulations inhabituelles qui font progresser le modèle. Prodigy a été spécifiquement conçu pour ce cas d’usage, avec des workflows optimisés pour le NLP.

Vision par ordinateur : détection d’objets

En détection d’objets, l’annotation est particulièrement coûteuse (bounding boxes, polygones, segmentation). L’active learning cible les images où le détecteur est incertain : objets partiellement occultés, angles inhabituels, conditions d’éclairage difficiles. Une étude sur des datasets retail montre qu’annoter seulement 20 à 24 % des données suffit pour atteindre 95 % de la performance du dataset complet, grâce à l’active learning.

Imagerie médicale

L’annotation d’images médicales requiert des experts coûteux (radiologues, pathologistes). L’active learning est particulièrement précieux ici : il concentre le temps de l’expert sur les cas diagnostiquement ambigus, pas sur les cas évidents. Les plateformes comme Encord supportent les formats DICOM natifs et intègrent des workflows human-in-the-loop adaptés au milieu médical.

Science des matériaux et découverte de médicaments

Dans les domaines où chaque « annotation » (synthèse de matériau, expérience de laboratoire, simulation coûteuse) prend des heures ou des jours, l’active learning réduit drastiquement le nombre d’expériences nécessaires. Des travaux récents en science des matériaux montrent qu’un schéma QBC permet d’atteindre la performance du dataset complet en n’utilisant que 30 % des données, soit une économie de 70 à 95 % en calcul.

Active learning et LLMs

L’émergence des LLMs a modifié le paysage de l’active learning de deux façons.

Premièrement, les LLMs servent de pré-annotateurs. Un modèle comme GPT ou Claude génère des annotations initiales (pré-labellisation) que les annotateurs humains corrigent. Cette approche hybride accélère le débit de 3 à 5× tout en maintenant la qualité. L’active learning intervient alors pour router les cas incertains du LLM vers les annotateurs humains, combinant ainsi automatisation et intelligence humaine.

Deuxièmement, l’active learning s’applique au fine-tuning des LLMs eux-mêmes. Plutôt que de fine-tuner sur un dataset statique, on sélectionne itérativement les exemples d’entraînement qui améliorent le plus le modèle. Cette approche est particulièrement utile pour le RLHF, où le coût d’obtention de préférences humaines est élevé : l’active learning identifie les paires de réponses sur lesquelles le feedback humain est le plus informatif.

Limites et précautions

Biais de sélection

L’active learning, par construction, ne labellise pas un échantillon représentatif des données. Il labellise les exemples les plus « difficiles ». Cela peut introduire un biais dans le dataset d’entraînement : les exemples proches de la frontière de décision seront surreprésentés, tandis que les exemples « faciles » mais informatifs pour d’autres raisons seront ignorés. La solution : combiner l’uncertainty sampling avec un critère de diversité ou de représentativité pour maintenir une couverture équilibrée.

Le problème du cold start

Le modèle initial doit être suffisamment bon pour que ses estimations d’incertitude soient significatives. Un modèle complètement aléatoire produit des incertitudes non informatives, et l’active learning ne fait pas mieux que le tirage aléatoire. La recommandation : commencez avec un modèle pré-entraîné (transfer learning) ou labellisez un seed set suffisant (quelques centaines d’exemples) avant de lancer la boucle.

Coût de la complexité

L’active learning ajoute de la complexité au pipeline : il faut un mécanisme de sélection, une interface d’annotation intégrée, une boucle de re-entraînement, et un critère d’arrêt. Pour les projets simples avec peu de données, cette complexité peut ne pas être justifiée. L’active learning est le plus rentable quand le coût d’annotation est élevé (experts médicaux, données sensibles) et le volume de données non annotées est important.

Pas toujours supérieur au random

Certains benchmarks montrent que l’active learning ne surpasse pas systématiquement le tirage aléatoire, notamment quand les caractéristiques des données d’entraînement et des données hors-échantillon diffèrent significativement (distributional shift), ou quand la stratégie de sélection est incompatible avec le modèle d’évaluation. L’entropy sampling, en particulier, peut sous-performer par rapport au random baseline dans certains contextes. C’est pourquoi le choix de la stratégie doit être validé empiriquement sur vos données, pas choisi théoriquement.

Verdict Polydesk

L’active learning est l’une des techniques les plus rentables en data-centric AI. Si votre pipeline ML est limité par le coût ou le temps d’annotation (et c’est le cas de la majorité des projets), c’est un levier immédiat.

En pratique : commencez par l’uncertainty sampling (least confidence). C’est la stratégie la plus simple, la mieux documentée, et elle surpasse les alternatives plus complexes dans la majorité des cas sur données tabulaires. Passez à des stratégies hybrides (uncertainty + diversity) uniquement si vous constatez des problèmes de redondance dans les batches sélectionnés.

Pour les outils : Prodigy si vous travaillez en NLP et que vous voulez un workflow intégré annotation-entraînement. Label Studio si vous cherchez une solution open source polyvalente. Encord Active si vous êtes en vision par ordinateur et que vous voulez l’analyse de performance en plus de l’annotation. Pour un prototype rapide en Python pur : modAL avec scikit-learn en quelques lignes de code.

Le point clé à retenir : l’active learning n’est pas un modèle, c’est une stratégie. Elle ne remplace pas votre modèle existant, elle optimise la façon dont vous le nourrissez en données. Comme le dit Jennifer Prendki (fondatrice d’Alectio) : « active learning is easy to understand, not easy to execute on ». L’investissement principal n’est pas algorithmique, il est dans l’infrastructure d’annotation et la boucle de feedback.