Accueil › Glossaire › Deep Learning

Deep Learning (Apprentissage Profond)

Le deep learning a transformé l’IA de manière irréversible. Avant 2012, les systèmes d’IA nécessitaient que des experts définissent manuellement les caractéristiques pertinentes (features) pour chaque problème. Le deep learning a éliminé cette étape : donnez-lui des données brutes — pixels d’une image, caractères d’un texte, échantillons audio — et il apprend automatiquement quelles caractéristiques sont importantes.

Le terme « profond » fait référence au nombre de couches dans le réseau de neurones. Un réseau à une ou deux couches est « peu profond ». Un réseau moderne peut en compter des dizaines voire des centaines. Chaque couche apprend des abstractions de plus en plus complexes : les premières couches détectent des motifs simples (lignes, textures), les couches intermédiaires combinent ces motifs en formes (yeux, oreilles), et les couches finales reconnaissent des concepts complets (visage, chat).

Comment fonctionne le deep learning ?

Le neurone artificiel

Un réseau de neurones est composé de neurones artificiels interconnectés. Chaque neurone reçoit des entrées, les multiplie par des poids (weights), ajoute un biais, puis applique une fonction d’activation pour produire une sortie. L’entraînement consiste à ajuster ces poids pour minimiser l’écart entre les prédictions du modèle et les résultats attendus.

Le processus d’apprentissage repose sur deux mécanismes fondamentaux : la propagation avant (forward pass), qui calcule la prédiction, et la rétropropagation (backpropagation), qui propage l’erreur en sens inverse pour ajuster les poids. L’optimiseur (Adam, SGD) détermine comment les poids sont mis à jour à chaque itération.

Types de couches

Les architectures majeures du deep learning

Réseaux convolutionnels (CNN)

Les CNN ont dominé la vision par ordinateur pendant une décennie. Ils appliquent des filtres (convolutions) qui balaient l’image pour détecter des motifs — bordures, textures, formes — avec une efficacité remarquable. AlexNet (2012) a déclenché la révolution deep learning en remportant le challenge ImageNet avec une avance spectaculaire sur les méthodes classiques.

En 2026, les CNN sont progressivement complétés par les Vision Transformers (ViT) qui appliquent l’architecture Transformer aux images, mais restent pertinents pour les applications embarquées où l’efficacité computationnelle est critique.

Transformers

L’architecture Transformer, introduite dans le papier « Attention Is All You Need » en 2017, est la base de tous les modèles de langage modernes. Son innovation clé est le mécanisme d’auto-attention (self-attention) qui permet à chaque élément d’une séquence de « regarder » tous les autres éléments simultanément, contrairement aux RNN qui traitent les séquences de manière séquentielle.

Les Transformers sont derrière GPT, Claude, Gemini, BERT et la majorité des modèles d’IA de pointe. Leur parallélisabilité permet l’entraînement sur des corpus massifs, ce qui a ouvert la voie aux LLM à des centaines de milliards de paramètres.

Réseaux génératifs adverses (GAN)

Les GAN mettent en compétition deux réseaux : un générateur qui crée du contenu et un discriminateur qui tente de distinguer le vrai du faux. Cette compétition pousse le générateur à produire des résultats de plus en plus réalistes. Les GAN ont été pionniers dans la génération d’images photoréalistes avant d’être largement supplantés par les modèles de diffusion (Stable Diffusion, DALL-E, Midjourney).

Modèles de diffusion

Les modèles de diffusion apprennent à inverser un processus de bruitage progressif. Pendant l’entraînement, du bruit est ajouté graduellement aux images jusqu’à obtenir du bruit pur. Le modèle apprend ensuite à reconstruire l’image originale étape par étape. C’est la technologie derrière Stable Diffusion, DALL-E 3 et Midjourney — les générateurs d’images les plus performants en 2026.

L’entraînement des modèles deep learning

Pré-entraînement

Le pré-entraînement est la phase où le modèle apprend des représentations générales à partir de données massives non étiquetées. Pour un LLM, c’est l’apprentissage de la prédiction du mot suivant sur des centaines de milliards de tokens. Pour un modèle de vision, c’est l’apprentissage de représentations visuelles à partir de millions d’images.

Cette phase est extrêmement coûteuse : l’entraînement d’un modèle frontier mobilise des milliers de GPU pendant des semaines et coûte des dizaines à des centaines de millions de dollars. C’est pourquoi seules quelques organisations (OpenAI, Anthropic, Google, Meta) ont les ressources pour créer des modèles de fondation.

Fine-tuning et transfert d’apprentissage

Le fine-tuning consiste à adapter un modèle pré-entraîné à une tâche spécifique avec un jeu de données beaucoup plus petit. C’est le transfert d’apprentissage : le modèle réutilise les connaissances acquises pendant le pré-entraînement et les affine pour votre besoin précis.

En pratique, vous n’entraînez presque jamais un modèle de deep learning à partir de zéro. Vous prenez un modèle pré-entraîné (GPT, BERT, ResNet) et vous le fine-tunez sur vos données. C’est plus rapide, moins coûteux et souvent plus performant qu’un entraînement complet.

Deep learning vs Machine learning classique

Applications concrètes du deep learning en 2026

Traitement du langage naturel (NLP)

Les LLM basés sur les Transformers sont la colonne vertébrale du NLP moderne : chatbots (ChatGPT, Claude), traduction automatique, résumé de texte, génération de code, analyse de sentiment. En 2026, les modèles multimodaux traitent simultanément texte, images et audio pour des interactions plus naturelles.

Vision par ordinateur

Reconnaissance faciale, conduite autonome, diagnostic médical par imagerie, contrôle qualité industriel, analyse vidéo en temps réel. Les modèles de vision atteignent désormais des performances surhumaines sur de nombreuses tâches de classification et détection d’objets.

Génération de contenu

Les modèles de diffusion génèrent des images photoréalistes à partir de descriptions textuelles. Sora et Veo produisent des vidéos d’une qualité indiscernable de la production traditionnelle. Les modèles audio synthétisent de la parole naturelle et de la musique. Le deep learning est devenu un outil créatif à part entière.

Sciences et recherche

AlphaFold a résolu le problème du repliement des protéines. AlphaGenome prédit les fonctions des séquences ADN. Le deep learning accélère la découverte de médicaments, la modélisation climatique et la physique des particules. C’est un accélérateur de découvertes scientifiques sans précédent.

Les défis du deep learning

Problème de la boîte noire

Un modèle de deep learning avec des milliards de paramètres est fondamentalement opaque. Vous pouvez voir les entrées et les sorties, mais expliquer pourquoi le modèle a pris une décision spécifique reste un défi majeur. C’est problématique dans les domaines régulés (santé, finance, justice) où l’explicabilité des décisions est exigée par la loi, notamment avec l’EU AI Act.

Dépendance aux données

Le deep learning est gourmand en données. Un modèle de classification d’images performant nécessite typiquement des milliers d’exemples par catégorie. Un LLM nécessite des centaines de milliards de tokens. Les techniques de data augmentation, de few-shot learning et de synthetic data atténuent partiellement cette dépendance, mais elle reste significative.

Coût computationnel

L’entraînement et l’inférence des modèles de deep learning consomment énormément de ressources. Les techniques d’optimisation — quantification (réduction de la précision des poids), distillation (transfert des connaissances vers un modèle plus petit), pruning (suppression des connexions inutiles) — réduisent les coûts d’inférence, mais l’entraînement reste cher.

Outils et frameworks en 2026