Entrada 101
Silicio a medida: por qué los ASIC importan aunque NVIDIA gane
El silicio de IA a medida — el TPU de Google, Trainium e Inferentia de Amazon, MTIA de Meta, Maia de Microsoft, y una ola de chips específicos para clientes diseñados por Broadcom y Marvell — suele plantearse como una amenaza para NVIDIA. El planteamiento es erróneo. El silicio a medida no es un mercado de ganador único; es específico por carga de trabajo. NVIDIA domina el mercado de entrenamiento e inferencia de propósito general gracias a CUDA y al bloqueo de su ecosistema. Los ASIC ganan cargas de trabajo de inferencia específicas donde los hyperscalers pueden justificar el coste de diseño. Ambas tendencias crecen simultáneamente, y Broadcom y Marvell cobran comisiones de diseño del lado ASIC sin importar qué hyperscaler gane.
Traducido automáticamente del original en inglés. Leer el original en inglés →
Los tres actores del silicio a medida
- Hyperscalers que diseñan internamente: Google (TPU v5), Amazon (Trainium 2, Inferentia 3), Meta (MTIA v2), Microsoft (Maia). Programas de varios años, miles de millones en gasto de diseño.
- Fundiciones de silicio a medida: Broadcom (la más grande, con el TPU de Google entre sus clientes), Marvell (AWS, entre otros). Diseñan y llevan a producción chips según especificaciones del cliente.
- Propiedad intelectual y herramientas de diseño: Arm, Cadence, Synopsys. Todo chip a medida utiliza propiedad intelectual con licencia y software de diseño — y a estos proveedores se les paga sin importar qué chip gane.
Por qué los ASIC tienen sentido para cargas de trabajo específicas
Una carga de trabajo que opera a escala 24/7 — ranking de búsqueda, inferencia publicitaria, sistemas de recomendación — puede amortizar un coste de diseño de chip de $500M a lo largo de años de operación. Los ASIC ofrecen un rendimiento por vatio de 3 a 10 veces mejor frente a las GPU en cargas de trabajo específicas y acotadas. Una vez que un hyperscaler alcanza un volumen interno suficiente, el silicio propio se justifica sobre una base de ROI limpia. La matemática es sencilla y no depende de que continúe ninguna tendencia particular de IA.
Por qué los ASIC no eliminan a NVIDIA
Entrenar modelos de frontera requiere una programabilidad de propósito general que solo CUDA + GPU proporcionan. Las nuevas arquitecturas de modelos surgen más rápido de lo que los ciclos de diseño de ASIC pueden seguir — un ciclo de diseño de chip de 2 años frente a cambios arquitectónicos cada 6 meses. Los efectos de red del ecosistema CUDA (mentalidad de desarrolladores, madurez de librerías, compatibilidad) se acumulan anualmente. Los clientes que ejecutan cargas de trabajo mixtas — la mayoría de las empresas — no pueden justificar el diseño de ASIC; compran GPU. El planteamiento del “asesino de NVIDIA” lleva una década siendo erróneo porque malinterpreta la estructura del mercado.
Hacia dónde fluye el dinero
NVIDIA captura el entrenamiento, la inferencia de propósito general y la larga cola de cargas de trabajo de IA empresarial. Los hyperscalers capturan ahorros de costes en su inferencia interna de alto volumen. Broadcom y Marvell capturan ingresos por servicios de diseño sin importar qué hyperscaler gane. TSMC captura cuota de obleas tanto de NVIDIA como del ecosistema ASIC. El pastel total del silicio de IA crece; las porciones son distintas.
La implicación de inversión
La estrategia de barra (barbell) — largo en NVIDIA para entrenamiento y propósito general, largo en Broadcom/Marvell/Arm para el ecosistema ASIC — captura ambos lados de la tendencia. Apostar contra NVIDIA basándose únicamente en la amenaza de los ASIC ha sido una operación perdedora desde 2017. Ignorar el silicio a medida supone perder una de las historias de crecimiento en servicios de diseño más limpias de los semiconductores.