Accueil › Glossaire › Active Learning

Active Learning

L’active learning (apprentissage actif) est un paradigme de machine learning dans lequel le modèle sélectionne lui-même les exemples les plus informatifs à faire annoter par un humain, plutôt que d’apprendre passivement à partir d’un dataset aléatoire. L’objectif : atteindre la meilleure performance possible avec le minimum d’annotations, réduisant typiquement les coûts d’étiquetage de 30 à 70 %.

Qu’est-ce que l’active learning ?

Imaginez que vous construisez un modèle de classification d’images médicales. Vous avez 100 000 images non étiquetées et le budget pour en faire annoter 5 000 par des radiologues (à 2 € l’annotation, c’est déjà 10 000 €). La question cruciale : lesquelles annoter ?

L’approche naïve est d’en sélectionner 5 000 au hasard. L’active learning fait mieux : il identifie les 5 000 images dont l’annotation apportera le plus d’information au modèle. Typiquement, ce sont les images sur lesquelles le modèle hésite le plus (incertitude élevée) ou qui couvrent des zones sous-représentées de l’espace de données (diversité).

Le résultat est remarquable : en classificaton binaire, l’uncertainty sampling peut atteindre 90 % de la performance finale avec seulement 40 % des données étiquetées. Vous économisez 60 % du budget d’annotation tout en obtenant un modèle presque aussi bon.

La boucle d’active learning

L’active learning fonctionne comme un processus itératif en 5 étapes qui se répète jusqu’à ce que le modèle atteigne la performance cible ou que le budget d’annotation soit épuisé :

1. Entraînement initial. Le modèle est entraîné sur un petit ensemble d’exemples étiquetés (le « seed set »). Ce seed set peut être aussi petit que quelques dizaines d’exemples sélectionnés aléatoirement.

2. Estimation de l’informativeness. Le modèle évalue l’ensemble des données non étiquetées selon une stratégie de sélection (uncertainty, diversity, etc.) et identifie les exemples les plus « informatifs ».

3. Requête d’annotation. Les exemples sélectionnés sont envoyés à un annotateur humain (l’« oracle ») pour obtenir leurs labels. C’est l’étape la plus coûteuse.

4. Mise à jour du dataset. Les exemples nouvellement annotés sont ajoutés au dataset d’entraînement.

5. Réentraînement. Le modèle est réentraîné sur le dataset augmenté. Le cycle recommence à l’étape 2.

La boucle s’arrête quand la performance du modèle plafonne (chaque nouvelle annotation apporte un gain marginal), quand le budget d’annotation est épuisé, ou quand l’incertitude globale du modèle descend sous un seuil acceptable.

Les stratégies de sélection

Uncertainty sampling (la plus populaire)

Le modèle sélectionne les exemples sur lesquels il est le plus incertain. L’intuition : un exemple que le modèle ne sait pas classer est un exemple dont l’annotation lui apprendra le plus.

Plusieurs mesures d’incertitude existent :

L’uncertainty sampling est simple et efficace, mais il a un défaut : il tend à sur-sélectionner les exemples proches de la frontière de décision, ce qui peut mener à des échantillons redondants (beaucoup d’exemples similaires dans la zone ambiguë).

Query-By-Committee (QBC)

Un comité de modèles (entraînés sur des sous-ensembles différents des données) vote sur la classification de chaque exemple non étiqueté. Les exemples sur lesquels le comité est le plus en désaccord sont sélectionnés pour annotation. Le principe : si les modèles ne s’accordent pas, c’est une zone d’incertitude que des annotations supplémentaires permettront de résoudre.

Le QBC est plus robuste que l’uncertainty sampling d’un seul modèle car il agrège l’incertitude de plusieurs perspectives. Les mesures de désaccord courantes incluent le vote entropy (entropie du vote) et la max standard deviation (écart-type maximal des prédictions).

Diversity sampling

Au lieu de se focaliser sur l’incertitude, le diversity sampling sélectionne les exemples qui couvrent le mieux l’espace de données. L’idée : annoter des exemples variés donne au modèle une vue plus complète de la distribution des données. Les techniques incluent le clustering des embeddings (sélectionner un exemple par cluster) et le core-set selection (sélectionner les exemples qui minimisent la distance maximale entre un exemple non étiqueté et son voisin étiqueté le plus proche).

Stratégies hybrides

Les meilleures performances viennent souvent de la combinaison incertitude + diversité. USDM (Uncertainty Sampling with Diversity Maximization) sélectionne les exemples les plus incertains tout en maximisant la diversité de la sélection. Les stratégies dynamiques comme CLC et CNBSE commencent par de la diversité (exploration de l’espace) puis basculent vers l’incertitude (exploitation des zones ambiguës) au fur et à mesure que le modèle s’améliore.

Les scénarios d’active learning

Pool-based sampling. Le scénario le plus courant. Le modèle a accès à un large « pool » de données non étiquetées et sélectionne par batch les exemples à annoter. C’est le cas typique de la classification d’images ou du NER en NLP.

Stream-based sampling. Les données arrivent en flux continu (ex. vidéo de surveillance, données de capteurs). Le modèle doit décider en temps réel si chaque exemple vaut la peine d’être annoté. Utile quand l’accumulation de données en batch n’est pas possible.

Membership query synthesis. Le modèle génère lui-même des exemples synthétiques à soumettre à l’annotateur. Moins courant, car les exemples générés peuvent être hors-distribution et difficiles à annoter par un humain.

Applications concrètes

Imagerie médicale. L’annotation d’images médicales est extrêmement coûteuse (radiologues spécialisés, temps limité). L’active learning permet de construire des modèles de détection de tumeurs, de segmentation d’organes, ou de classification de pathologies avec 30 à 50 % d’annotations en moins. Des frameworks comme Suggestive Annotation combinent uncertainty sampling et pondération par densité pour la segmentation d’images médicales.

NLP et extraction d’entités cliniques. Des travaux récents (2024-2025) appliquent l’active learning au NER (Named Entity Recognition) clinique avec des modèles pré-entraînés comme BioClinicalBERT. Les stratégies dynamiques qui commencent par la diversité puis basculent vers l’incertitude montrent les meilleurs résultats sur les datasets i2b2 et n2c2.

Science des matériaux. Un benchmark récent (2025, Scientific Reports) évalue 17 stratégies d’active learning pour la prédiction de propriétés de matériaux. Les stratégies incertitude-diversité (LCMD, Tree-based) surpassent clairement les heuristiques géométriques, surtout en début d’acquisition quand les données sont très rares.

Détection d’objets. Le modèle MI-AOD (Multiple Instance Active Object Detection) utilise l’active learning pour sélectionner les images les plus informatives à annoter pour l’entraînement de détecteurs d’objets, réduisant significativement le coût d’annotation des bounding boxes.

LLMs et annotation assistée. L’active learning s’intègre de plus en plus dans les pipelines d’annotation pour les LLMs. Au lieu d’annoter aveuglément des données de fine-tuning, l’active learning sélectionne les exemples les plus informatifs. Combiné avec des outils human-in-the-loop (Prodigy, Label Studio), cela accélère considérablement la création de datasets de qualité.

Datation du bois par spectroscopie. Une application surprenante (2026) : l’active learning est utilisé pour sélectionner les échantillons de bois les plus informatifs à dater par dendrochronologie, réduisant le nombre d’échantillons nécessaires pour construire un modèle de datation précis.

Deep Active Learning et modèles fondamentaux

L’intersection entre active learning et deep learning pose des défis spécifiques. Les modèles profonds ont tendance à être overconfident (trop confiants dans leurs prédictions), ce qui rend les mesures d’incertitude classiques peu fiables. Les approches bayésiennes (Monte Carlo Dropout, ensembles de modèles) améliorent les estimations d’incertitude mais augmentent le coût de calcul.

Avec les modèles fondamentaux (CLIP, BERT, LLMs), l’active learning évolue. Le transfer learning réduit le nombre de labels nécessaires, et l’active learning réduit encore ce nombre en sélectionnant intelligemment les exemples à annoter. La combinaison active learning + pré-entraînement + semi-supervised learning est la plus efficace pour les situations à budget d’annotation très limité.

Limites et pièges de l’active learning

Overhead computationnel. À chaque itération, le modèle doit scorer tous les exemples non étiquetés pour identifier les plus informatifs. Avec un pool de millions d’exemples, ce scoring peut devenir un goulot d’étranglement. Les approches par batch (sélectionner 100-1000 exemples à la fois plutôt qu’un seul) et les approximations (sous-échantillonnage du pool) atténuent ce problème.

Overconfidence des modèles profonds. Les réseaux de neurones profonds ont tendance à être trop confiants dans leurs prédictions. L’uncertainty sampling se base sur cette confiance, qui peut être mal calibrée. Un modèle qui prédit « 95 % chat » peut en réalité n’être sûr qu’à 70 %. Les approches bayésiennes (Monte Carlo Dropout, ensembles) améliorent la calibration mais augmentent les coûts.

Biais de sélection. L’active learning peut introduire un biais dans le dataset d’entraînement. L’uncertainty sampling sur-représente les exemples ambigus proches des frontières de décision et sous-représente les exemples « faciles » mais importants. Cela peut dégrader la performance sur les cas courants tout en améliorant les cas limites.

Cold start. L’active learning a besoin d’un modèle initial pour commencer à scorer les exemples. Ce modèle initial est entraîné sur un seed set aléatoire, qui peut être de mauvaise qualité. Un mauvais départ peut biaiser tout le processus. Des seed sets plus grands et mieux diversifiés atténuent ce risque.

Coût d’intégration. L’active learning nécessite un pipeline technique complet : stockage du pool non étiqueté, interface d’annotation, boucle de réentraînement automatisée, monitoring de performance. C’est un investissement d’infrastructure qui ne se justifie que si le budget d’annotation est un facteur limitant significatif.

Le sampling aléatoire est un compétiteur solide. Pour les tâches simples ou les datasets relativement homogènes, le gain de l’active learning par rapport à l’échantillonnage aléatoire peut être modeste. Testez toujours contre une baseline aléatoire pour vérifier que l’active learning apporte un gain réel.

L’active learning en 2026

Intégration avec les modèles fondamentaux. La combinaison active learning + modèles pré-entraînés + semi-supervised learning est le paradigme dominant pour les situations à faible budget d’annotation. Le transfer learning réduit le nombre de labels nécessaires, et l’active learning réduit encore ce nombre en sélectionnant intelligemment.

LLMs comme annotateurs + active learning comme filtre. Un workflow émergent : un LLM pré-annote automatiquement les données, et l’active learning identifie les cas où l’annotation LLM est probablement fausse (haute incertitude), ciblant uniquement ces cas pour une vérification humaine. C’est le meilleur des deux mondes : la vitesse de l’automatisation et la précision de la vérification humaine.

Les stratégies dynamiques gagnent du terrain. Au lieu de garder la même stratégie tout au long de la boucle, les approches adaptatives commencent par de la diversité (explorer l’espace) puis basculent vers l’incertitude (exploiter les zones ambiguës). Cette transition exploration→exploitation mime les patterns de l’apprentissage humain.