OpenAI ha comenzado a poner su mirada en un terreno que hasta ahora parecía exclusivo de Nvidia. Si ya hace unas semanas anunció Jalapeño, su primer chip fabricado específicamente para tareas de inferencia, ahora ha compartido los primeros resultados de rendimiento tras probarlo y compararlo con la competencia. Es decir, esta vez se trata de cifras son reales, no solo promesas realizas a futuro por parte de OpenAI. En función de estos datos, Jalapeño supera a Nvidia en dos de los aspectos clave para cualquier empresa que opere modelos de lenguaje a gran escala: la eficiencia energético, es decir cuánto trabajo útil de inteligencia artificial puede hacer por cada vatio consumido, y la velocidad de respuesta. Con esto, Jalapeño se convertiría en un verdadero problema para Nvidia, que se ve obligado a mover pieza si quiere seguir dominando este sector.
Jalapeño, el chip con el que quieren plantar cara a Nvidia
OpenAI ha querido ser transparente en sus pruebas y para ello recurrió a InferenceX, un banco de pruebas público desarrollado por SemiAnalysis, lo que da una credibilidad añadida a los números mostrados. Las pruebas se ejecutaron sobre tres modelos: GPT-OSS 120B, DeepSeek R1 670B y Kimi K2.5 1T. En ellos se ha comparado el rendimiento de Jalapeño frente a los sistemas Blackwell de Nvidia, en concreto con los GB200 y el GB300. Eso si, conviene matizar un detalle metodológico que la propia OpenAI destaca: Jalapeño tiene una potencia térmica nominal de 700 vatios, frente a los 1.200 del GB200 y los 1.400 del GB300, así que la comparación se hace normalizando el rendimiento por unidad de potencia, no por chip suelto.
Aún con esta «limitación», OpenAI saca pecho, y es que Jalapeño obtuvo en los tres modelos entre 1,5 y 1,9 veces más trabajo de inteligencia artificial por vatio en su rendimiento máximo, con una latencia de extremo a extremo entre 1,7 y 3,6 veces menor que los sistemas de comparación. Cuando las pruebas eran de cargas de trabajo más interactivas, esa ventaja de rendimiento se amplió aún más llegando a situarse entre 2,1 y 4,1 veces.
Con Kimi K2.5 1T, el modelo público más grande de los tres probados, la diferencia se mantuvo, con un rendimiento máximo por vatio aproximadamente unas 1,5 veces superior, y con una latencia 3,4 veces menor que el sistema de referencia. OpenAI añade además que, en sus propias pruebas internas, eso si, con modelos todavía no publicados, la ventaja de Jalapeño aún era mayor, lo que da a entender que el chip de Open AI rinde mejor cuanto más grande y exigente es la carga de trabajo.
Estas cifras tiene una razón de ser y es que mientras que las tarjetas de Nvidia nacieron pensadas para gráficos y se adaptaron después al entrenamiento y la inferencia, Jalapeño ha sido construido desde la base en torno a una única pregunta, qué hardware haría falta si su función fuera exclusivamente servir a modelos de lenguaje modernos, sobre todo para servir a agentes interactivos. Para OpenAI esto se traduce en un chip único del máximo tamaño permitido por el proceso litográfico de TSMC a 3 nanómetros, con 13,4 PFLOPs de cómputo en formato MXFP4, y en una arquitectura pensada para mantener localizada la caché de atención que usa el modelo mientras genera una respuesta. Con ello se minimiza el movimiento de datos entre núcleos y chips, uno de los mayores cuellos de botella que suelen presentar otros chips a la hora de responder con rapidez.
Con este movimiento, OpenAI se suma a un grupo cada vez más numeroso de compañías que han optado por desarrollar su propio hardware de inferencia y así evitar la dependencia de terceros. Ya lo hemos vitos con Google, que lleva años haciéndolo con sus TPU, Amazon con los Trainium e Inferentia, y más recientemente Meta desarrollando sus MTIA.
La compañía prevé empezar a desplegar Jalapeño dentro de su propia infraestructura antes de que termine el año, siendo la primera generación de una hoja de ruta que ya tiene en camino la Gen 2, ya en pleno desarrollo, y preparando la llegada de la Gen 3. Eso si, al menos de momento OpenAI seguirá contando de forma generalizada con los aceleradores de Nvidia y de otros socios, tanto para entrenamiento como para inferencia, así que Jalapeño no se puede decir que vaya a ser capaz de sustituir a Nvidia de la noche a la mañana.
