101-Eintrag
Inference-Ökonomie: Wie der Wandel von Training zu Inferenz alles verändert
Die KI-Branche befindet sich im Wandel von einer trainingsdominierten Phase (in der der größte Teil der Ausgaben in das Training neuer Modelle fließt) zu einer inferenzdominierten Phase (in der der größte Teil der Ausgaben auf den Betrieb von Modellen für Nutzer im großen Maßstab entfällt). Dieser Wandel verändert grundlegend das Nachfrageprofil für Halbleiter: Training begünstigt massive GPUs mit maximaler Rechenleistung und Speicherbandbreite, während Inferenz Effizienz, Durchsatz pro Watt und Kosten pro Abfrage in den Vordergrund stellt. Die Unternehmen, die die Trainingsphase gewinnen (NVIDIA), müssen nicht dieselben sein, die die Inferenz dominieren. Custom-ASICs (Google TPU, AWS Trainium), auf Inferenz optimierte Architekturen (Groq, Cerebras) und Edge-Inferenz-Chips (Qualcomm, MediaTek) gewinnen alle an Relevanz.
Automatisch aus dem englischen Original übersetzt. Zum englischen Original →
Training vs. Inferenz: Unterschiedliche Ökonomie
Training ist eine fixe Kostengröße: Ein Modell wird einmal (oder periodisch neu) trainiert, unter Einsatz massiver GPU-Cluster. Die Ökonomie begünstigt rohe Rechenleistung — wer die meisten FLOPs hat, gewinnt. Dies ist die Domäne von NVIDIA: A100, H100, B200 sind alle auf Trainingsdurchsatz optimiert.
Inferenz ist eine variable Kostengröße: Jede Nutzerabfrage, jeder API-Aufruf, jede Agenten-Aktion erfordert Inferenz-Rechenleistung. Mit der zunehmenden Verbreitung von KI wächst das Inferenzvolumen exponentiell, während das Training relativ flach bleibt. Die Ökonomie verschiebt sich von "maximaler Rechenleistung" zu "minimalen Kosten pro Abfrage" und "maximalem Durchsatz pro Watt".
Diese Unterscheidung ist für Investoren von enormer Bedeutung. In einer trainingsdominierten Welt kauft man NVIDIA und die Lieferkette von NVIDIA. In einer inferenzdominierten Welt fragmentiert sich die Wettbewerbslandschaft und die Wertschöpfungskette verschiebt sich.
Wer vom Inferenz-Wandel profitiert
Custom-ASICs gewinnen Marktanteile, weil Hyperscaler (Google, Amazon, Microsoft) Chips entwerfen können, die auf ihre spezifischen Inferenz-Workloads optimiert sind — zu niedrigeren Kosten pro Abfrage als Allzweck-GPUs. Googles TPU v5, AWS Trainium2 und Metas MTIA sind alle auf Inferenz ausgerichtet.
NVIDIA passt sich an, indem es auf Inferenz optimierte Konfigurationen (L40S, H100 NVL) auf den Markt bringt und auf Software-Burggraben setzt (TensorRT-LLM, Triton). NVIDIA wird die Inferenz nicht vollständig verlieren — aber der Marktanteil wird niedriger sein als beim Training.
Edge-Inferenz gewinnt an Relevanz, da Modelle klein genug werden, um auf dem Gerät selbst zu laufen. Qualcomm, MediaTek und Apples Custom-Silizium profitieren davon, KI lokal statt in der Cloud auszuführen.
Was das für den Functional Index bedeutet
Closelook verfolgt das Verhältnis von Training zu Inferenz über den Compute-Layer des Functional Index. Dominiert die Inferenz, steigt die Gewichtung von Custom-ASIC- und inferenzorientierten Unternehmen relativ zu reinen GPU-Werten. Der Index passt sich an, um diesen strukturellen Wandel widerzuspiegeln.