Accueil › Glossaire › DETR

DETR (Detection Transformer)

DETR (DEtection TRansformer) est une architecture de détection d’objets introduite par Facebook AI Research en 2020 qui reformule la détection comme un problème de prédiction d’ensemble (set prediction). En éliminant les anchor boxes, les propositions de régions et le NMS (Non-Maximum Suppression), DETR simplifie radicalement le pipeline de détection. Ses variantes temps réel (RT-DETR, RF-DETR) rivalisent désormais avec YOLO en vitesse tout en le surpassant en précision.

Pourquoi DETR est une rupture

Avant DETR, la détection d’objets reposait sur un pipeline complexe hérité des R-CNN : générer des milliers de propositions de régions, classifier chacune, puis éliminer les doublons par NMS (Non-Maximum Suppression). Même les détecteurs single-stage comme YOLO utilisaient des anchor boxes prédéfinies et un NMS en post-traitement.

DETR change fondamentalement l’approche : la détection devient un problème de prédiction d’ensemble. Le modèle prédit directement un ensemble fixe de N détections (typiquement N=100), et un algorithme d’appariement bipartite (matching hongrois) associe chaque prédiction à un objet réel ou à la classe « pas d’objet » pendant l’entraînement.

Résultat : plus besoin d’anchor boxes, de propositions de régions ni de NMS. Le pipeline est entièrement différentiable, de bout en bout. C’est élégant, simple à implémenter, et cela ouvre la voie à des extensions naturelles (segmentation panoptique, détection 3D).

Architecture de DETR

DETR se compose de trois blocs principaux :

1. Backbone CNN

Un réseau convolutif (typiquement ResNet-50) extrait les features visuelles de l’image d’entrée. La feature map du dernier stage (par exemple 2048 canaux, 25×34 pour une image 800×1066) est projetée vers une dimension plus basse (256) via une convolution 1×1.

2. Encodeur Transformer

La feature map est aplatie en une séquence de tokens (un par position spatiale), enrichie d’un encodage positionnel fixe. L’encodeur Transformer applique le mécanisme de self-attention sur toute la séquence, permettant à chaque position de « voir » l’ensemble de l’image. C’est cette attention globale qui donne à DETR un avantage structurel pour les scènes complexes, les objets occultés et les dépendances spatiales à longue distance.

3. Décodeur Transformer + Object queries

Le décodeur prend en entrée N object queries (vecteurs apprenables, typiquement N=100) et les raffinement via cross-attention avec les features encodées. Chaque query se « spécialise » pour détecter un objet à une certaine position et d’une certaine catégorie.

La sortie : N prédictions, chacune composée d’une bounding box (coordonnées normalisées) et d’une distribution de probabilité sur les classes (incluant la classe « pas d’objet »).

Appariement bipartite (matching hongrois)

Pendant l’entraînement, un algorithme d’appariement bipartite optimal (algorithme hongrois) assigne chaque prédiction à un objet ground truth ou à la classe « pas d’objet ». Cette assignation one-to-one est la clé qui élimine le besoin de NMS : chaque objet n’est prédit qu’une seule fois, par design.

Limites du DETR original

Le papier de 2020 présentait deux faiblesses significatives :

Convergence lente : DETR nécessitait ~500 époques d’entraînement sur COCO pour converger, contre ~36 pour Faster R-CNN. L’attention globale de l’encodeur (complexité O(n²) sur la séquence) ralentissait chaque époque, et le matching hongrois rendait les premières époques instables.

Mauvaise détection des petits objets : l’encodeur Transformer travaillait sur une seule échelle (la feature map du dernier stage du ResNet), manquant les détails fins nécessaires pour les petits objets.

Ces deux problèmes ont été progressivement résolus par les variantes suivantes.

L’évolution de DETR : du laboratoire au temps réel

RT-DETR : le DETR temps réel

RT-DETR (Real-Time DEtection TRansformer), publié par Baidu et présenté à CVPR 2024, est le premier détecteur Transformer à rivaliser avec YOLO en vitesse d’inférence. Ses innovations :

Encodeur hybride : combine un backbone CNN avec un encodeur Transformer allégé, fusionnant efficacement les features multi-échelle sans le coût O(n²) de l’attention globale. L’encodeur utilise une architecture aura-scale : la self-attention n’est appliquée que sur les features de plus basse résolution, tandis que les features hautes résolutions sont fusionnées par cross-scale sans attention.

Sélection de queries à incertitude minimale : au lieu de queries aléatoires ou fixes, RT-DETR sélectionne les K positions avec la meilleure concordance entre classification et localisation, réduisant le travail du décodeur.

Profondeur de décodeur ajustable : à l’inférence, vous pouvez réduire le nombre de couches du décodeur pour accélérer le traitement, sans réentraîner le modèle. Un compromis précision/vitesse dynamique unique.

RF-DETR : le nouveau SOTA (2025)

RF-DETR, développé par Roboflow et publié à ICLR 2026, pousse encore plus loin les performances en utilisant un backbone DINOv2 ViT (Vision Transformer pré-entraîné par Meta) au lieu d’un CNN. La combinaison d’un backbone de type fondation model avec un décodeur DETR optimisé produit des résultats remarquables : RF-DETR-M atteint ~54.7% mAP sur COCO à 4.52ms de latence sur T4 GPU, surpassant les modèles YOLO comparables.

RF-DETR supporte à la fois la détection et la segmentation d’instances, avec des variantes Nano à 2XL. Son code et ses poids sont distribués sous licence Apache 2.0.

DETR vs YOLO : le grand débat

Implémentation

# RT-DETR via Ultralytics
from ultralytics import RTDETR

model = RTDETR("rtdetr-l.pt")  # RT-DETR Large
results = model.predict("image.jpg", conf=0.5)

# RF-DETR via la librairie dédiée
from rfdetr import RFDETRBase
model = RFDETRBase()  # Backbone DINOv2
results = model.predict("image.jpg", threshold=0.5)

# DETR via Hugging Face Transformers
from transformers import DetrForObjectDetection, DetrImageProcessor
import torch
from PIL import Image

processor = DetrImageProcessor.from_pretrained("facebook/detr-resnet-50")
model = DetrForObjectDetection.from_pretrained("facebook/detr-resnet-50")

image = Image.open("image.jpg")
inputs = processor(images=image, return_tensors="pt")
outputs = model(**inputs)

# Post-traitement (seuil de confiance)
target_sizes = torch.tensor([image.size[::-1]])
results = processor.post_process_object_detection(
    outputs, target_sizes=target_sizes, threshold=0.9
)

Cas d’usage

Scènes denses et occultées : l’attention globale de DETR excelle là où YOLO a historiquement du mal. Foules, objets empilés, occlusions partielles bénéficient du contexte global que le Transformer capture naturellement. Le matching bipartite garantit qu’un objet partiellement visible est détecté exactement une fois, sans les artefacts de duplication typiques du NMS.

Imagerie médicale : la détection de lésions denses et petites (microanévrismes en rétinopathie diabétique, nodules pulmonaires) profite de l’absence de NMS et de l’attention globale. RT-DETR surpasse YOLOv8 et le DETR original sur ces tâches selon des études récentes. Les variantes 3D de DETR (avec backbones volumétriques et encodage positionnel 3D) surpassent Retina U-Net sur les tâches de détection volumétrique.

Imagerie aérienne et satellite : les variantes UAV-DETR et les adaptations pour VisDrone exploitent l’attention multi-échelle pour détecter des objets très petits (véhicules, personnes) dans des images à très haute résolution. La détection orientée (OBB) est naturelle avec DETR, car les queries peuvent apprendre à prédire des boîtes pivotées sans modification architecturale majeure.

Segmentation panoptique : DETR s’étend naturellement à la segmentation panoptique (classification de chaque pixel en « chose » ou « matière ») en ajoutant un petit décodeur de masques au-dessus des features d’objets. Cette extension est plus simple qu’avec YOLO, car le matching bipartite et les object queries fournissent une base architecturale propre pour la segmentation.

Projets commerciaux sous Apache 2.0 : la licence permissive de DETR et ses variantes est un argument décisif pour les entreprises qui veulent intégrer un détecteur dans un produit propriétaire sans publier leur code source. C’est de plus en plus un critère de sélection dans les projets industriels.

Détection de texte en formes arbitraires : DETR a été adapté avec des têtes hybrides (Bézier/polygone) pour la détection de texte dans les images naturelles (enseignes, documents inclinés), atteignant des scores state-of-the-art sur les benchmarks Total-Text et CTW-1500.

Limites des architectures DETR

Convergence plus lente que les CNN-based : même les variantes modernes (RT-DETR, RF-DETR) nécessitent généralement plus d’époques d’entraînement que YOLO pour converger sur des datasets custom. Le matching hongrois et l’attention globale rendent les premières époques moins stables. C’est un facteur à prendre en compte pour le fine-tuning sur des petits datasets.

Consommation mémoire GPU : l’attention Transformer est plus gourmande en mémoire que les convolutions pures, surtout à haute résolution. Sur des images de 1920×1080 ou plus, la mémoire GPU peut devenir un goulot d’étranglement. Les techniques comme FlashAttention atténuent ce problème mais ne l’éliminent pas complètement.

Moins optimisé pour le CPU et l’edge : les opérations d’attention ne sont pas aussi bien optimisées sur CPU que les convolutions. YOLO26 surpasse significativement RT-DETR en inférence CPU (jusqu’à 43% plus rapide). Pour les déploiements sur Raspberry Pi, drones ou IoT sans GPU, YOLO reste le meilleur choix.

Nombre fixe de queries : le décodeur DETR utilise un nombre fixe de queries (typiquement 100 ou 300). Si une scène contient plus d’objets que le nombre de queries, certains objets ne seront pas détectés. Des travaux récents (RAQG) explorent l’adaptation dynamique du nombre de queries, mais ce n’est pas encore standard.

Vulnérabilité adversariale : des études montrent que les patterns d’attention de DETR sont particulièrement vulnérables aux attaques adversariales (FGSM, PGD). Les mécanismes d’attention, en capturant les dépendances globales, créent aussi des surfaces d’attaque plus larges que les CNN locaux.

Écosystème moins mature : bien que Hugging Face Transformers et Ultralytics supportent RT-DETR, l’écosystème DETR reste moins riche que celui de YOLO en termes de tutoriels, d’intégrations tierces et de support communautaire. RF-DETR est encore récent et son écosystème est en construction.

Bonnes pratiques

Pour la production, utilisez RT-DETR ou RF-DETR, pas le DETR original. Le DETR de 2020 est trop lent à entraîner et à l’inférence. Les variantes modernes sont 10x plus rapides avec une bien meilleure précision.

Exploitez la profondeur de décodeur ajustable de RT-DETR. Entraînez avec 6 couches de décodeur, puis déployez avec 3 ou 4 pour un compromis vitesse/précision adapté à votre cas.

Préférez RF-DETR si la précision prime. Son backbone DINOv2 (pré-entraîné par Meta sur des données massives) fournit des features visuelles plus riches que les CNN backbones classiques. RF-DETR-M est le meilleur rapport performance/latence sur COCO en mars 2026.

Considérez la licence dans votre choix. Si vous développez un produit commercial et que la licence AGPL de YOLO est un problème, les DETR (tous sous Apache 2.0) sont une alternative directe sans compromis sur les performances.

Pour les très petits objets, combinez RT-DETR avec du sliced inference : découper l’image en patches, détecter sur chaque patch, puis fusionner. Le package SAHI (Slicing Aided Hyper Inference) supporte RT-DETR nativement.