VAE (Variational Autoencoder)
| Propriete | Detail |
|---|---|
| Categorie | Modele generatif probabiliste |
| Inventeurs | Kingma et Welling (2013), Rezende et al. (2014) |
| Principe | Encodage dans un espace latent gaussien + decodage reconstruit |
| Fonction de perte | ELBO = Reconstruction + KL-divergence |
| Role en 2026 | Composant essentiel de Stable Diffusion (encodeur/decodeur d’images) |
| Avantage | Espace latent structure, entrainement stable |
Principe fondamental
Le VAE se compose de deux parties : un encodeur qui transforme une donnee x en une distribution dans l’espace latent q(z|x), et un decodeur qui reconstruit x a partir d’un echantillon z tire de cette distribution. L’encodeur ne produit pas directement un vecteur latent, mais les parametres (moyenne mu et variance sigma) d’une distribution gaussienne. Un echantillon z est ensuite tire de cette distribution via le reparameterization trick.
Le reparameterization trick est l’innovation technique cle du VAE. Au lieu d’echantillonner directement z depuis N(mu, sigma), on ecrit z = mu + sigma * epsilon ou epsilon est tire de N(0, 1). Cette reformulation rend l’echantillonnage differentiable, permettant la retropropagation a travers l’encodeur. Sans cette astuce, l’entrainement par descente de gradient serait impossible.
La fonction de perte du VAE est l’Evidence Lower BOund (ELBO), composee de deux termes : un terme de reconstruction (qui mesure la fidelite de la reconstruction, typiquement via MSE ou cross-entropy binaire) et un terme de regularisation (la KL-divergence entre q(z|x) et la prior N(0, I), qui force l’espace latent a rester structure et regulier).
L’espace latent du VAE
La force du VAE par rapport a un autoencoder classique reside dans la structure de son espace latent. La contrainte de KL-divergence assure que l’espace latent est continu (des points proches dans l’espace latent produisent des sorties similaires) et regulier (des echantillons aleatoires de N(0, I) produisent des sorties coherentes).
Cette propriete permet l’interpolation : en se deplacant lineairement entre deux points de l’espace latent, les images decodees transitionnent de maniere fluide d’une representation a l’autre. Elle permet aussi la generation : echantillonner un point aleatoire de l’espace latent et le decoder produit une nouvelle donnee coherente, meme si ce point exact n’a jamais ete vu pendant l’entrainement.
Le probleme du « posterior collapse » se manifeste quand le modele ignore completement les variables latentes et que l’encodeur produit toujours une distribution proche de la prior. Cela se produit quand le decodeur est trop puissant (par exemple un LSTM autogressif) et peut reconstruire les donnees sans utiliser z. Des techniques comme le KL annealing (augmenter progressivement le poids du terme KL pendant l’entrainement) et le free bits (imposer un minimum de KL par dimension) adressent ce probleme.
Variantes du VAE
Beta-VAE
Le Beta-VAE (Higgins et al., 2017) introduit un coefficient beta devant le terme de KL-divergence. Avec beta > 1, le modele privilegie le demele (disentanglement) de l’espace latent : chaque dimension latente tend a capturer un facteur generatif independant (couleur, taille, orientation). Cela se fait au prix d’une moins bonne reconstruction.
VQ-VAE (Vector Quantized VAE)
Le VQ-VAE (van den Oord et al., 2017) remplace la distribution continue par un codebook discret. L’encodeur produit un vecteur continu qui est ensuite quantifie au vecteur le plus proche dans le codebook. Cette discretisation permet d’utiliser des modeles autogressifs puissants sur l’espace latent. VQ-VAE-2 a atteint une qualite de generation competive avec les GANs de l’epoque.
Conditional VAE (CVAE)
Le CVAE conditionne l’encodeur et le decodeur sur une information supplementaire (classe, texte, attribut). Cela permet de controler la generation : par exemple, generer une image de chiffre « 7 » en specifiant la classe comme condition.
Role du VAE dans Stable Diffusion
L’application la plus marquante du VAE en 2026 est son role dans les modeles de diffusion latents. Dans Stable Diffusion, un VAE pre-entraine compresse les images depuis l’espace pixel (512x512x3 = 786 432 dimensions) vers un espace latent beaucoup plus compact (64x64x4 = 16 384 dimensions). Le modele de diffusion opere ensuite dans cet espace latent reduit.
Le processus complet est : image originale -> encodeur VAE -> representation latente -> processus de diffusion (ajout/retrait de bruit) -> representation latente debruitee -> decodeur VAE -> image finale. Cette compression reduit le cout computationnel d’un facteur d’environ 48x, rendant la generation d’images accessible sur des GPUs grand public.
La qualite du VAE impacte directement la qualite des images generees. Un VAE avec un mauvais decodeur produit des images floues ou avec des artefacts. C’est pourquoi differentes versions du VAE sont disponibles dans la communaute Stable Diffusion : le VAE d’origine de SD 1.5, le VAE EMA fine-tune (msa-840000), et les VAEs ameliores de SDXL. Sur ComfyUI ou Automatic1111, choisir le bon VAE est une etape importante de la configuration.
VAE vs autres modeles generatifs
Par rapport aux GANs, les VAEs produisent des images legerement moins nettes (le terme de reconstruction tend a moyenner les details, creant un leger flou), mais offrent un espace latent beaucoup mieux structure et un entrainement plus stable. Par rapport aux modeles de diffusion, les VAEs seuls ne rivalisent pas en qualite de generation, mais ils servent de composant essentiel dans les architectures de diffusion latente.
Les VAEs permettent le calcul d’une borne inferieure de la vraisemblance (ELBO), ce qui n’est pas possible avec les GANs. Cette propriete est utile pour la comparaison de modeles et la detection d’anomalies : un point de donnee avec une faible vraisemblance est potentiellement anomal.
Applications pratiques
Au-dela de la generation d’images, les VAEs sont utilises en compression de donnees (les representations latentes sont des compressions apprises), en detection d’anomalies (les donnees anormales ont une faible vraisemblance sous le modele), en generation de molecules pour la decouverte de medicaments, en augmentation de donnees pour des datasets limites, et comme composant de systemes plus complexes (diffusion latente, representations disentangled).
En NLP, les VAEs ont ete utilises pour la generation de texte controlable, l’interpolation de phrases, et la representation de documents. Cependant, les LLMs modernes ont largement depasse les VAEs pour la generation de texte pure.
Questions frequentes
Quelle est la difference entre un VAE et un autoencoder classique ?
Un autoencoder classique encode les donnees en un vecteur latent fixe. Un VAE encode en une distribution (moyenne + variance) et regularise l’espace latent avec une contrainte de KL-divergence. Cela rend l’espace latent continu et regulier, permettant la generation de nouvelles donnees par echantillonnage.
Pourquoi le VAE est-il important pour Stable Diffusion ?
Le VAE dans Stable Diffusion compresse les images en representations latentes 48x plus petites. Le processus de diffusion opere dans cet espace reduit, puis le decodeur VAE reconstruit l’image finale. Sans cette compression, la diffusion dans l’espace pixel serait beaucoup trop couteuse en calcul.
Les images generees par un VAE sont-elles floues ?
Les VAEs seuls tendent a produire des images legerement plus floues que les GANs, car l’objectif de reconstruction moyenne les details. Cependant, utilises comme composant d’un systeme de diffusion latente, ce n’est pas un probleme : le modele de diffusion genere des representations latentes nettes que le decodeur VAE convertit en images de haute qualite.
Qu’est-ce que le reparameterization trick ?
Le reparameterization trick ecrit z = mu + sigma * epsilon (ou epsilon est tire de N(0,1)) au lieu d’echantillonner directement z de N(mu, sigma). Cette reformulation rend l’operation differentiable, permettant de retropropager les gradients a travers l’echantillonnage et d’entrainer le VAE par descente de gradient.
Peut-on utiliser un VAE pour la detection d’anomalies ?
Oui. Un VAE entraine sur des donnees normales attribue une faible vraisemblance (ou une erreur de reconstruction elevee) aux donnees anormales. C’est une application courante en maintenance predictive industrielle, en cybersecurite et en imagerie medicale pour detecter des echantillons hors distribution.