Accueil › Glossaire › Custom Silicon

Custom Silicon

Le custom silicon (silicium personnalisé) désigne les processeurs IA conçus en interne par les hyperscalers (Google, Amazon, Microsoft, Meta) et certains grands labs IA (OpenAI), optimisés pour leurs charges de travail spécifiques, afin de réduire leur dépendance aux GPU NVIDIA et de maîtriser les coûts, les performances et la chaîne d’approvisionnement de leur infrastructure IA.

Pourquoi les géants de la tech conçoivent leurs propres puces

Pendant des années, NVIDIA a été le fournisseur quasi-exclusif de matériel IA pour les data centers. Ses GPU (A100, H100, B200) et son écosystème logiciel CUDA sont devenus le standard de l’industrie. Mais cette dépendance a un coût : des GPU à 25 000-40 000 $ pièce, des marges brutes NVIDIA de ~75 %, des délais de livraison longs, et une allocation de puces contrôlée par un seul fournisseur.

Les hyperscalers, qui dépensent collectivement des centaines de milliards en infrastructure IA en 2026 (Amazon ~200 milliards $, Google ~175-185 milliards $, Meta ~115-135 milliards $), ont décidé de reprendre le contrôle. En développant leur propre silicium, ils visent trois objectifs :

Réduire les coûts. Un ASIC custom optimisé pour une charge de travail spécifique offre un meilleur rapport performance/watt qu’un GPU généraliste. AWS annonce 30-40 % de meilleur rapport prix/performance avec Trainium par rapport aux GPU tiers. Google rapporte que plus de 75 % des calculs de Gemini tournent sur ses TPU internes.

Sécuriser l’approvisionnement. Quand vous dépensez 200 milliards $ en infrastructure IA, être dépendant de l’allocation d’un seul fournisseur est un risque stratégique. Le custom silicon diversifie la chaîne d’approvisionnement.

Optimiser pour ses charges de travail. Un GPU est polyvalent (il gère le graphisme, le calcul scientifique, l’IA). Un ASIC custom peut sacrifier cette polyvalence pour maximiser l’efficacité sur les tâches exactes que l’hyperscaler exécute (inférence de LLM, recommandation, recherche).

Le précédent est convaincant : les hyperscalers ont déjà réussi cette transition avec les CPU. En remplaçant les processeurs Intel et AMD par des designs ARM custom (AWS Graviton, Google Axion, Ampere), ils ont économisé plus de 20 milliards de dollars sur plus de 50 millions de CPU. Ils tentent de reproduire ce succès avec les accélérateurs IA.

Panorama du custom silicon IA en 2026

Google : TPU (Tensor Processing Unit)

Google est le pionnier et le leader du custom silicon IA. Le programme TPU a commencé en 2015, et la 7e génération (Ironwood) est en déploiement. Les TPU sont conçus en partenariat avec Broadcom (intégrateur de silicium, IP, packaging).

TPU v6 Trillium : double les FLOPS du v5p sur le même nœud de fabrication (N5), grâce à des réseaux systoliques 256×256. Utilisé pour entraîner Gemini.

TPU v7 Ironwood : première TPU conçue spécifiquement pour « l’ère de l’inférence ». 192 Go HBM3E, 7,37 TB/s de bande passante, scalable jusqu’à 9 216 accélérateurs. Disponible en externe (Google Cloud), avec Anthropic et Meta parmi les clients majeurs.

Google rapporte que plus de 75 % des calculs Gemini tournent sur ses TPU internes. Le programme TPU est le plus mature et le plus ambitieux parmi les hyperscalers, avec un écosystème logiciel (JAX/XLA) en constante amélioration. Le support vLLM/SGLang pour TPU est en bêta, signe d’une ouverture croissante.

Amazon : Trainium et Inferentia

AWS développe deux familles d’accélérateurs custom, en partenariat avec Marvell pour le design :

Trainium 2 : en production, déployé dans le data center IA d’Amazon en Indiana où Anthropic entraîne ses modèles sur un demi-million de puces Trainium 2. 96 Go HBM3E, performances FP8 compétitives.

Trainium 3 : annoncé fin 2025, fabriqué en 3 nm TSMC. 144 Go HBM3E, 4,9 TB/s de bande passante par puce. Les UltraServers connectent 144 puces dans un rack unique, refroidissement liquide, performances rack-scale comparables à Blackwell. Compétitif en FP8 avec Blackwell Ultra.

Inferentia 2 : ASIC dédié à l’inférence (190 TFLOPS FP16, 32 Go HBM). Les instances Inf2 offrent 4x le débit et 10x la latence inférieure par rapport à Inferentia 1. AWS semble orienter ses futures puces uniquement vers Trainium (capable de training + inférence), sans nouvelle génération d’Inferentia.

Malgré ces investissements, l’adoption reste en retrait par rapport aux GPU NVIDIA. Des données internes AWS d’avril 2024 montraient Trainium à seulement 0,5 % de l’utilisation GPU NVIDIA et Inferentia à 2,7 %. L’écart entre les capacités annoncées et l’adoption réelle reste significatif.

Microsoft : Maia

Microsoft est entré plus tardivement dans le custom silicon avec Maia 100, lancé fin 2023 :

Maia 100 : TSMC 5 nm, 105 milliards de transistors, 64 Go HBM2E. Déployé dans les data centers Azure de l’est des États-Unis pour les charges de travail Azure OpenAI et Copilot. Conçu en partenariat avec Marvell.

Maia 200 : introduit en janvier 2026. TSMC 3 nm, 216 Go HBM3E, 7 TB/s de bande passante. 30 % d’amélioration du rapport performance/dollar par rapport aux systèmes précédents. Positionné comme accélérateur d’inférence pour réduire le « Copilot tax ».

Contrairement à Google et AWS, Microsoft ne propose pas Maia en accès externe. Les puces servent uniquement ses charges de travail internes (Azure OpenAI, Copilot). La grande majorité des services Azure IA continue de tourner sur des GPU NVIDIA (Blackwell, H100). Maia complète plutôt qu’il ne remplace.

Meta : MTIA (Meta Training and Inference Accelerator)

Meta accélère massivement son programme MTIA en 2026, avec quatre nouvelles générations annoncées :

MTIA v2 « Artemis » : en production, focalisé sur le déchargement des moteurs de recommandation et de ranking depuis les GPU.

MTIA 300 : en déploiement 2026, utilise un chiplet compute TSMC N3 et HBM3E. Performance significativement supérieure au v2.

MTIA 400, 450, 500 : planifiés pour 2026-2027, avec une montée progressive de la bande passante HBM (facteur critique pour l’inférence générative selon Meta). MTIA v4 utilisera probablement TSMC 2 nm avec HBM4.

Meta revendique la capacité de lancer une nouvelle génération de puce tous les six mois, grâce à une architecture modulaire en chiplets et la réutilisation de l’infrastructure physique (châssis, rack, réseau). Le logiciel s’appuie nativement sur PyTorch, vLLM, Triton et l’écosystème OCP. Broadcom est le partenaire de conception clé.

Meta continue d’opérer de larges clusters GPU NVIDIA en parallèle, et a signé un accord de 100 milliards de dollars avec AMD en février 2026 pour diversifier encore sa base de GPU. La stratégie est claire : MTIA pour l’inférence interne à grande échelle, GPU NVIDIA/AMD pour l’entraînement et la flexibilité.

OpenAI : ASIC custom avec Broadcom

En septembre 2025, Broadcom a révélé plus de 10 milliards de dollars de commandes de puces custom d’un seul client, identifié par plusieurs sources comme OpenAI. C’est la première fois qu’OpenAI passe d’acheteur de compute à architecte de silicium.

Les puces OpenAI, développées avec Broadcom, utiliseront les nœuds 3 nm et 2 nm de TSMC avec un packaging avancé 3D SOIC. La production de masse est prévue pour 2026, avec des livraisons Q3 2026 selon Broadcom. Cependant, OpenAI a également un accord de 100 milliards de dollars avec NVIDIA pour du matériel GPU sur plusieurs générations, ce qui signifie que les ASIC custom complèteront mais ne remplaceront pas les GPU NVIDIA pour les charges de travail d’OpenAI.

Broadcom et Marvell : les architectes invisibles

Les hyperscalers conçoivent la logique de leurs puces, mais ils ne les fabriquent pas et ne maîtrisent pas toute la chaîne. Deux entreprises fournissent les briques essentielles :

Broadcom est le partenaire de design le plus important. Il co-développe les TPU de Google, les MTIA de Meta, et les ASIC custom d’OpenAI. Broadcom fournit les blocs IP critiques (SerDes haute vitesse, contrôleurs mémoire), le packaging avancé (plateforme 3.5D XPU face-to-face), et le silicium de commutation réseau (Tomahawk 6 à 102,4 Tbps). Le custom silicon IA a fait de Broadcom l’un des plus grands bénéficiaires du boom IA, aux côtés de NVIDIA et TSMC.

Marvell joue un rôle plus modeste mais croissant. Il a un accord de 5 ans avec AWS pour co-développer plusieurs générations d’ASIC (dont Trainium 3), et soutient Microsoft Maia. Son chiffre d’affaires IA a atteint 1,2 milliard de dollars en 2024. Marvell a aussi acquis Celestial AI (~5,5 milliards $) pour l’interconnect photonique, une technologie clé pour les prochaines générations de clusters IA.

TSMC fabrique environ 92 % des puces IA avancées dans le monde, y compris tous les GPU NVIDIA, AMD, Apple, et les ASIC custom des hyperscalers. La dépendance à TSMC (basée à Taïwan) est un risque géopolitique partagé par toute l’industrie.

Le « CUDA moat » : le vrai frein au custom silicon

Le principal obstacle au remplacement des GPU NVIDIA n’est pas le matériel, c’est le logiciel. CUDA, l’écosystème logiciel de NVIDIA (compilateurs, bibliothèques, frameworks), est utilisé par la quasi-totalité de la communauté IA. Migrer un pipeline d’entraînement de CUDA vers un ASIC custom nécessite souvent un effort d’ingénierie significatif.

Cependant, le « CUDA moat » s’érode en 2026 :

OpenAI Triton : compilateur open source qui permet d’écrire des kernels haute performance en Python, portables entre GPU NVIDIA, TPU Google, Trainium AWS et AMD MI350. Triton est devenu la principale « rampe de sortie » de CUDA.

OpenXLA / PJRT : compilateur et interface qui permettent à PyTorch d’optimiser automatiquement les modèles pour différents backends matériels avec une perte de performance minimale. Un développeur peut entraîner sur GPU NVIDIA et déployer sur TPU ou Trainium avec quelques lignes de code.

Convergence des stacks logiciels. Meta construit MTIA nativement sur PyTorch, vLLM et Triton. Google a ajouté le support TPU pour vLLM en bêta. AWS fait tourner son Neuron SDK sur PyTorch, TensorFlow et JAX. Ces frameworks d’inférence partagés déterminent à terme la facilité de migration entre puces.

Le pivot vers l’inférence

Le facteur déterminant de la montée du custom silicon est le basculement vers l’inférence. Deloitte projette que l’inférence représentera deux tiers de tout le compute IA d’ici 2026. Or, l’inférence est le terrain idéal pour les ASIC custom :

Charges prévisibles. L’inférence exécute le même modèle des millions de fois. Les patterns de calcul sont répétitifs et connus à l’avance. Un ASIC peut être optimisé exactement pour ces patterns, là où un GPU garde de la circuiterie inutilisée pour sa polyvalence.

Le coût par token est critique. À l’échelle de milliards de requêtes par jour, chaque fraction de centime par token compte. Les ASIC custom, avec leur meilleure efficacité par watt, réduisent le coût opérationnel.

La latence est un différenciateur. Pour les assistants IA temps réel et les agents, la vitesse de réponse a une valeur économique directe. Les accélérateurs d’inférence spécialisés offrent des latences que les GPU ne peuvent pas égaler.

C’est pourquoi Google présente Ironwood comme sa première TPU conçue pour « l’ère de l’inférence », Meta focalise ses MTIA 300-500 sur l’inférence, et Microsoft positionne Maia 200 comme accélérateur d’inférence. L’entraînement reste le domaine des GPU NVIDIA (pour sa puissance brute et CUDA), mais l’inférence migre progressivement vers le custom silicon.

Risques et limites du custom silicon

Coût initial élevé. Concevoir un ASIC custom coûte des dizaines de millions de dollars en amont (design, masques, validation). Seules les organisations déployant des dizaines de milliers de puces amortissent cet investissement. Pour les startups et les PME, le GPU reste le seul choix viable.

Rigidité. Un ASIC est gravé dans le silicium, il ne peut pas être reprogrammé. Si les architectures de modèles changent radicalement (ce qui arrive régulièrement dans l’IA), un ASIC optimisé pour les transformers pourrait devenir obsolète. Les GPU, grâce à leur programmabilité, s’adaptent plus facilement aux nouvelles architectures.

Effet « jardin clos ». Un modèle entraîné et optimisé sur les TPU Google est difficile à migrer vers AWS ou sur des GPU NVIDIA on-premise. Cette fragmentation pourrait freiner l’innovation en créant des silos technologiques.

Maturité logicielle. Malgré les progrès de Triton, OpenXLA et des stacks logiciels convergents, CUDA reste plus mature, mieux documenté et plus facile à utiliser. L’écart se réduit, mais il n’est pas comblé.

Concentration chez TSMC. Tous les ASIC custom (comme tous les GPU NVIDIA et AMD) sont fabriqués par TSMC. Le custom silicon ne réduit pas la dépendance à TSMC, il la renforce.

Perspectives : vers un écosystème multipolaire

Le marché des AI chips évolue d’un monopole NVIDIA vers un écosystème multipolaire. Certains analystes prédisent que d’ici la fin de la décennie, plus de 60 % du compute IA pourrait tourner sur du matériel non-NVIDIA. Cela semble ambitieux, mais la direction est claire.

La prochaine bataille sera sur le nœud 2 nm : Google, Amazon, Meta et OpenAI préparent tous des puces 2 nm pour 2027-2028, avec des gains significatifs en efficacité. Le packaging avancé (3D SOIC de TSMC, CoWoS) et la mémoire HBM4 seront les différenciateurs.

Le custom silicon d’inférence est la catégorie à la croissance la plus rapide. La question pour 2027 n’est plus « les hyperscalers vont-ils développer leur propre silicium ? » mais « à quelle vitesse le custom silicon va-t-il capturer les charges de travail d’inférence ? »

NVIDIA ne reste pas passive. L’entreprise a créé une division de puces custom ciblant un marché ASIC de 30 milliards de dollars, et l’intégration du Groq LPU dans Vera Rubin montre sa volonté de couvrir l’inférence spécialisée. La compétition profite à l’ensemble de l’écosystème : baisse des prix, amélioration des performances, et diversification des options.

Verdict

Le custom silicon IA est passé de l’expérimentation à la production à grande échelle. Google (TPU v7), Amazon (Trainium 3), Microsoft (Maia 200) et Meta (MTIA 300-500) déploient tous des puces maison en 2026, avec des gains de coût et d’efficacité documentés pour les charges de travail d’inférence.

Pour les utilisateurs de plateformes cloud IA, le custom silicon signifie plus de choix : les TPU sur Google Cloud, Trainium sur AWS, et les GPU NVIDIA/AMD sur tous les clouds. La compétition tire les prix vers le bas et pousse l’innovation vers le haut.

Pour les décideurs : le custom silicon est pertinent si vous déployez massivement sur un cloud spécifique (TPU pour GCP, Trainium pour AWS). Si votre priorité est la portabilité entre clouds et la flexibilité, les GPU NVIDIA restent le choix le plus sûr grâce à CUDA. Et si vous suivez le marché de près, gardez un œil sur OpenAI Triton et OpenXLA : ces couches d’abstraction logicielle sont ce qui déterminera, à terme, si le custom silicon peut véritablement briser le monopole CUDA.