Accueil › Glossaire › Temperature

Temperature en IA : controler la creativite des modeles de langage

Comment fonctionne la temperature ?

A chaque etape de generation, un LLM calcule une probabilite pour chaque token possible dans son vocabulaire. Le token avec la probabilite la plus elevee est le choix « le plus sur ». La temperature modifie la distribution de ces probabilites avant que le modele ne fasse son choix.

Techniquement, la temperature divise les logits (scores bruts avant la fonction softmax) par la valeur de temperature. Si T = 1, les probabilites restent inchangees. Si T < 1, les probabilites sont « aiguisees » : les tokens probables deviennent encore plus probables, les tokens rares deviennent quasi impossibles. Si T > 1, les probabilites sont « aplaties » : les tokens rares deviennent plus accessibles.

Formule : P(token_i) = exp(logit_i / T) / somme(exp(logit_j / T))

Impact pratique de la temperature

Temperature 0 : deterministe et previsible

Avec une temperature de 0, le modele choisit toujours le token le plus probable. Deux requetes identiques produiront (presque) toujours la meme reponse. C’est le reglage ideal pour les taches ou la coherence et la reproductibilite sont essentielles.

Cas d’usage : extraction de donnees, classification, traduction, resume factuel, reponses a des questions precises, function calling.

Temperature 0,1 a 0,3 : precis avec une touche de variation

Le modele reste tres factuel mais s’autorise de legeres variations de formulation. Utile quand vous voulez des reponses fiables mais pas robotiquement identiques a chaque fois.

Cas d’usage : chatbots de service client, documentation technique, reformulation, explication de concepts.

Temperature 0,5 a 0,7 : l’equilibre

C’est la plage la plus polyvalente. Le modele produit des reponses naturelles et variees tout en restant pertinent. C’est la valeur par defaut de la plupart des chatbots grand public.

Cas d’usage : conversations generales, redaction d’emails, assistance a l’ecriture, brainstorming structure.

Temperature 0,8 a 1,2 : creatif et exploratoire

Le modele explore des formulations et des idees moins conventionnelles. Les reponses sont plus originales mais le risque d’hallucination augmente. Les reponses peuvent parfois sembler inattendues ou tangentielles.

Cas d’usage : ecriture creative, brainstorming, generation d’idees, poesie, scenarios.

Temperature 1,5+ : experimental

A ce niveau, le modele peut generer des sorties incoherentes ou absurdes. Les tokens rares sont frequemment selectionnes, produisant des associations de mots inhabituelles. Rarement utile en production, parfois interessant pour l’experimentation artistique.

Configurer la temperature dans les API

# OpenAI API
from openai import OpenAI
client = OpenAI()

# Temperature basse pour extraction factuelle
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Capitale de la France ?"}],
    temperature=0
)

# Temperature elevee pour brainstorming
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "10 idees de startup IA originales"}],
    temperature=0.9
)

# Anthropic API
import anthropic
client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    max_tokens=1024,
    temperature=0.3,  # Factuel et precis
    messages=[{"role": "user", "content": "Explique le theoreme de Bayes"}]
)

Temperature vs Top-p : quelle difference ?

La temperature et le top-p (nucleus sampling) sont deux mecanismes d’echantillonnage qui controlent l’aleatoire, mais de maniere differente.

Temperature modifie la distribution de probabilites de tous les tokens. Elle « etire » ou « compresse » la courbe de probabilite globale.

Top-p filtre les tokens par probabilite cumulee. Avec top-p = 0,9, le modele ne considere que les tokens qui representent 90 % de la masse de probabilite totale, ignorant les 10 % les plus improbables.

En pratique, la plupart des fournisseurs recommandent de ne modifier qu’un seul de ces parametres a la fois. OpenAI recommande explicitement de laisser top-p a 1 quand vous ajustez la temperature, et inversement. Combiner les deux peut produire des resultats imprevisibles.

Erreurs courantes avec la temperature

Utiliser la meme temperature pour tout. La valeur par defaut (souvent 1,0) n’est optimale pour aucune tache specifique. Adaptez toujours la temperature au cas d’usage.

Temperature elevee pour les taches factuelles. Une temperature de 0,8 pour de l’extraction de donnees ou de la classification introduit un aleatoire inutile qui degrade les performances. Utilisez 0 ou 0,1 pour ces taches.

Temperature 0 pour l’ecriture. Un texte genere avec une temperature de 0 est souvent plat, repetitif et previsible. La variation est ce qui rend un texte naturel et engageant.

Combiner temperature et top-p agressivement. Temperature 1,5 + top-p 0,5 produit des resultats chaotiques. Ajustez un parametre a la fois et gardez l’autre a sa valeur par defaut.

Ne pas tester. L’impact de la temperature varie selon le modele, le prompt et la tache. Testez toujours avec votre cas d’usage reel. Un delta de 0,2 sur la temperature peut changer significativement la qualite percue des reponses.

Le cas special de temperature = 0

Avec temperature = 0, le modele devrait theoriquement etre deterministe (meme entree = meme sortie). En pratique, de legeres variations peuvent survenir a cause de l’arithmetique en virgule flottante sur les GPU et des optimisations de calcul parallele.

OpenAI a introduit un parametre « seed » qui, combine avec temperature = 0, garantit une reproductibilite quasi parfaite. Anthropic offre une reproductibilite similaire avec temperature = 0 dans la plupart des cas. Cette reproductibilite est precieuse pour les tests, le debugging et les evaluations de prompt engineering.

FAQ