Análisis de OpenAI Jalapeño: economía de la inferencia personalizada

La industria de la IA lleva años tratando a las GPU como electrodomésticos de cocina sagrados: caros, calientes, siempre ocupados y, de algún modo, necesarios para cada comida. El chip Jalapeño de OpenAI es interesante porque sugiere que los laboratorios de modelos más grandes ya no se conforman con alquilar la estufa para siempre. El informe de SemiAnalysis, comentado mediante resúmenes de benchmarks en torno a su suite InferenceX, desvía el foco del espectáculo del entrenamiento y lo lleva hacia la economía de la inferencia. El entrenamiento recibe el tráiler. La inferencia recibe la factura de la luz, el aviso de latencia y al cliente preguntando por qué su agente todavía está pensando en los permisos del calendario. Jalapeño importa porque los productos de IA de frontera ahora pasan su vida sirviendo modelos, no solo anunciándolos. Cada prompt, reintento, llamada a herramienta, larga traza de razonamiento y bucle de agente se convierte en tokens por usuario, vatios y demora. Si tu carga de trabajo es lo bastante grande y predecible, los aceleradores genéricos empiezan a parecer menos flexibilidad y más como pagar tarifas de hotel para vivir en tu propia casa. Muy chic, financieramente maldito.

SemiAnalysis pone a la vista

la factura de servir modelos AI Weekly(se abre en una pestaña nueva) resume el análisis profundo de SemiAnalysis como una cobertura del primer chip de inferencia personalizado de OpenAI, Jalapeño, fabricado en colaboración con Broadcom sobre TSMC N3P. El mismo resumen dice que la revisión B0 alcanza 13,4 PFLOPs de MXFP4 a 700 W y se combina con HBM4 a 15,4 TB/s. Tom’s Hardware(se abre en una pestaña nueva) presenta la pieza de Broadcom y OpenAI como un procesador de inferencia hecho a medida y describe el primer chip de OpenAI como un ASIC del tamaño de una retícula. Esa pila de sustantivos puede sonar como si alguien hubiera metido un folleto de centro de datos en una licuadora. La lectura más simple es que OpenAI intenta controlar una mayor parte del camino de servicio, donde el rendimiento por vatio y el ancho de banda de memoria afectan cuántos usuarios pueden ser atendidos con una latencia tolerable. Esto no va de reemplazar todas las GPU mañana, y tampoco es una obra moral en la que Nvidia lleve capa o bigote según tu cartera. Va de si un laboratorio con un volumen enorme de inferencia puede hacer que su economía unitaria dependa menos del silicio de propósito general.

Las afirmaciones de benchmark van

de vatios, no de vibras Yahoo Tech(se abre en una pestaña nueva), citando a SemiAnalysis, informa que Jalapeño ofreció hasta 1,9 veces más salida por vatio y redujo la latencia de extremo a extremo hasta 3,6 veces en comparación con Blackwell de Nvidia en suites de prueba estándar. AI Weekly(se abre en una pestaña nueva) también informa comparaciones de benchmarks de OpenAI de entre 1,5 y 1,9 veces más trabajo por vatio que Nvidia en GPT-OSS, DeepSeek R1 y Kimi K2.5 1T. Los nombres concretos de las cargas de trabajo importan porque el rendimiento de inferencia es famosamente alérgico a resumirse en un solo número, como una reseña de restaurante basada solo en el peso del tenedor. Las cifras de tokens son igual de reveladoras. AI Weekly dice que Jalapeño supera los 700 tokens por segundo por usuario en DeepSeek R1 y ronda los 1.400 tokens por segundo por usuario en GPT-OSS. Esas cifras no te dicen automáticamente la economía total de la flota, la utilización, el rendimiento de fabricación, la madurez del software ni la realidad de compras. Sin embargo, sí señalan por qué a los laboratorios les importa: un mayor rendimiento por usuario puede traducirse en servicio más denso, menor latencia o comportamientos de producto más ambiciosos antes de que el equipo financiero empiece a hacer ruidos de impresora.

La inferencia personalizada es estrategia con disipador [Yahoo

Tech](https://tech.yahoo.com/ai/articles/openais-jalapeno-chip-outperforming-nvidia-175933888.html(se abre en una pestaña nueva)) dice que OpenAI usó sus propios modelos de IA generativa para acelerar la ingeniería de hardware y reducir los plazos de diseño hasta la entrega para fabricación a nueve meses. Es un bucle de recursión bonito: la IA ayudando a diseñar el chip que ejecuta más IA, la serpiente comiéndose la cola pero con mejor ancho de banda de memoria. El mismo informe de Yahoo Tech dice que OpenAI está usando silicio personalizado para recortar costes operativos y reducir la dependencia de proveedores únicos, mientras sigue comprando aceleradores a Nvidia y otros socios externos. Esa última cláusula es la supervisión adulta. Los ASIC personalizados no son frijoles mágicos que plantas junto a un clúster de Kubernetes. Exigen soporte de software, ejecución de cadena de suministro, estabilidad de cargas de trabajo y suficiente tráfico para justificar unos costes de ingeniería no recurrentes que harían que una startup normal se convirtiera espontáneamente en una hoja de cálculo. Para OpenAI, la apuesta es plausible porque la inferencia no es una misión secundaria. Es la superficie del producto, la línea de margen y, cada vez más, la restricción sobre lo útiles que pueden ser los agentes antes de convertirse en becarios carísimos.

Qué deberían aprender los creadores del momento Jalapeño La lección útil

del informe de SemiAnalysis sobre Jalapeño(se abre en una pestaña nueva) no es que todas las empresas de IA deban empezar a escribir a Broadcom con un sueño y un nombre en clave picante. Es que la arquitectura de servicio se está convirtiendo en una decisión de producto de primera clase. Si estás construyendo con modelos grandes, deberías seguir los tokens por tarea, las tasas de acierto de caché, el comportamiento de batching, los presupuestos de latencia y la mezcla de modelos con la misma seriedad que normalmente se reserva para las presentaciones de lanzamiento y el espaciado del logotipo. El modelo puede ser el cerebro, pero la inferencia es el sistema circulatorio, y a nadie le gusta una demo que se desmaya a mitad de una llamada a herramienta. Observa qué ocurre ahora con la integración de software, la reproducibilidad de benchmarks y si OpenAI dirige cargas de trabajo específicas a Jalapeño mientras mantiene las GPU para una flexibilidad más amplia. Observa también a los imitadores: cada vez que un laboratorio de frontera demuestra que el volumen de inferencia puede justificar silicio personalizado, todos los demás descubren que ellos también tienen una estrategia de silicio, normalmente cinco diapositivas antes de que compras sufra una crisis nerviosa. Para quienes crean productos de IA, la conclusión práctica es sencilla: optimiza el coste por respuesta útil, no solo la inteligencia del modelo. El picante nunca fue el nombre del chip. Fue la factura de servir modelos aprendiendo a negociar.