Entrée 101
Économie de l'inférence : comment le basculement de l'entraînement vers l'inférence change tout
L'industrie de l'IA passe d'une phase dominée par l'entraînement (où l'essentiel des dépenses va à l'entraînement de nouveaux modèles) à une phase dominée par l'inférence (où l'essentiel des dépenses va à l'exécution des modèles pour les utilisateurs à grande échelle). Ce basculement transforme fondamentalement le profil de demande en semi-conducteurs : l'entraînement favorise des GPU massifs avec un maximum de puissance de calcul et de bande passante mémoire, tandis que l'inférence favorise l'efficacité, le débit par watt et le coût par requête. Les entreprises qui gagnent la phase d'entraînement (NVIDIA) ne sont pas forcément celles qui domineront l'inférence. Les ASIC personnalisés (Google TPU, AWS Trainium), les architectures optimisées pour l'inférence (Groq, Cerebras) et les puces d'inférence en périphérie (edge) (Qualcomm, MediaTek) gagnent tous en pertinence.
Traduit automatiquement de l’original anglais. Lire l’original en anglais →
Entraînement vs inférence : des économies différentes
L'entraînement est un coût fixe : on entraîne un modèle une fois (ou on le réentraîne périodiquement) en utilisant des clusters massifs de GPU. L'économie favorise la puissance de calcul brute — celui qui possède le plus de FLOPs gagne. C'est le domaine de NVIDIA : A100, H100, B200 sont tous optimisés pour le débit d'entraînement.
L'inférence est un coût variable : chaque requête utilisateur, chaque appel API, chaque action d'agent nécessite du calcul d'inférence. À mesure que l'adoption de l'IA se généralise, le volume d'inférence croît de manière exponentielle tandis que l'entraînement reste relativement stable. L'économie passe de la « puissance de calcul maximale » au « coût minimal par requête » et au « débit maximal par watt ».
Cette distinction compte énormément pour les investisseurs. Dans un monde dominé par l'entraînement, on achète NVIDIA et la chaîne d'approvisionnement de NVIDIA. Dans un monde dominé par l'inférence, le paysage concurrentiel se fragmente et la chaîne de valeur se déplace.
Qui bénéficie du basculement vers l'inférence
Les ASIC personnalisés gagnent des parts de marché car les hyperscalers (Google, Amazon, Microsoft) peuvent concevoir des puces optimisées pour leurs charges de travail d'inférence spécifiques, à un coût par requête plus bas que les GPU génériques. Le TPU v5 de Google, le Trainium2 d'AWS et le MTIA de Meta sont tous orientés inférence.
NVIDIA s'adapte en lançant des configurations optimisées pour l'inférence (L40S, H100 NVL) et en renforçant ses barrières logicielles (TensorRT-LLM, Triton). NVIDIA ne perdra pas entièrement l'inférence — mais sa part de marché sera plus faible que dans l'entraînement.
L'inférence en périphérie (edge) devient pertinente à mesure que les modèles se réduisent suffisamment pour fonctionner directement sur l'appareil. Qualcomm, MediaTek et les puces personnalisées d'Apple bénéficient de l'exécution de l'IA en local plutôt que dans le cloud.
Ce que cela signifie pour le Functional Index
Closelook suit le ratio entraînement/inférence à travers la couche Compute du Functional Index. À mesure que l'inférence domine, le poids des entreprises spécialisées en ASIC personnalisés et en inférence augmente par rapport aux acteurs purement GPU. L'indice s'adapte pour refléter ce basculement structurel.