OpenAI apresenta chip Jalapeño com desempenho superior em inferência de IA

Richard Ho, vice-presidente de hardware da OpenAI, estimou que o Jalapeño será implantado em pequenos volumes no fim de 2026, com implantação mais significativa em 2027.

O cronograma de implantação indica que o chip não estará disponível em larga escala imediatamente, mas sinaliza o compromisso da OpenAI com hardware próprio.

A OpenAI divulgou os primeiros resultados do Jalapeño, seu primeiro chip de inferência personalizado desenvolvido em colaboração com a Broadcom, que, no benchmark InferenceX da SemiAnalysis, entregou de 1,5 a 1,9 vezes mais trabalho de IA por watt e de 1,7 a 3,6 vezes menor latência de ponta a ponta do que sistemas Nvidia Blackwell, nos modelos GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T.

Os números indicam que a OpenAI pode reduzir custos e melhorar a experiência de usuários em inferência de IA, pressionando a Nvidia no mercado de chips para data centers.

A OpenAI afirma que o Jalapeño entrega maior throughput e menor latência com uma única arquitetura, enquanto sistemas de hardware existentes frequentemente precisam fazer uma escolha entre os dois.

A proposta de aliar throughput e latência em uma única arquitetura pode diferenciar o Jalapeño de soluções atuais, que costumam otimizar apenas um dos dois.

Modelos da OpenAI aceleraram o desenvolvimento e a programação do Jalapeño, e a empresa planeja torná-lo uma plataforma multigeracional.

O uso de modelos da própria OpenAI no desenvolvimento do chip e o plano multigeracional indicam uma estratégia de integração vertical de hardware e software.

O chip Jalapeño foi desenvolvido pela OpenAI em colaboração com a Broadcom e é um ASIC de inferência.

A parceria com a Broadcom é um fato central para entender a origem do hardware.

A OpenAI planeja começar a implantar o chip Jalapeño em seus próprios data centers ainda este ano.

O artigo 8 indica um cronograma de implantação mais imediato do que o mencionado em outras fontes, o que é uma informação nova sobre os planos da empresa.

Os testes do chip Jalapeño foram realizados com os modelos GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T, todos modelos abertos.

O artigo 8 especifica que os modelos testados são abertos, um detalhe que não aparece em todas as fontes, indicando que o chip não é otimizado apenas para modelos proprietários.

O chip Jalapeño tem um TDP de 700W, enquanto os sistemas Nvidia comparados têm TDP de 1200W e 1400W.

O artigo 8 fornece detalhes técnicos específicos sobre o consumo de energia, destacando a eficiência do chip em relação aos concorrentes.

A OpenAI afirma que o Jalapeño tem as maiores vantagens em pontos de operação de baixa latência, com throughput por watt de 8,6 a 104,3 vezes maior nas configurações mais rápidas anteriores do GB300.

O artigo 8 apresenta uma comparação específica e impressionante em cenários de baixa latência, que não é mencionada em outras fontes, mostrando uma vantagem ainda maior do chip.

A OpenAI afirma que o chip Jalapeño entrega 1,5 a 1,9 vezes mais trabalho de IA por watt e 1,7 a 3,6 vezes menor latência de ponta a ponta em comparação com sistemas Nvidia GB200/GB300.

Este é o principal dado de desempenho divulgado pela OpenAI, mostrando uma vantagem significativa sobre a concorrência em eficiência energética e velocidade de resposta.

O chip Jalapeño é um ASIC de 216 GB de HBM4, com até 15,4 TB/s de largura de banda, classificado para 700W e capaz de escalar para 128 aceleradores em um rack local.

Detalhes técnicos importantes sobre a arquitetura do chip, que foi apresentado na conferência Hot Chips, demonstrando sua capacidade de processamento massivo.

A OpenAI afirma que seus próprios modelos aceleraram o desenvolvimento do Jalapeño, com gerações anteriores ajudando no design e as mais recentes otimizando a programação do chip.

Este fato destaca o ciclo virtuoso onde a OpenAI usa seus próprios modelos de IA para desenvolver e otimizar seu hardware, um diferencial estratégico.

O chip Jalapeño da OpenAI foi testado com os modelos GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T, mostrando desempenho consistente em modelos desenvolvidos tanto interna quanto externamente.

A compatibilidade com modelos de diferentes origens demonstra a versatilidade do chip, que não é otimizado apenas para os modelos da OpenAI.

OpenAI afirma que o Jalapeño entrega de 2,1 a 4,1 vezes mais desempenho em workloads altamente interativas em comparação com os sistemas de referência.

Esse ganho específico em tarefas interativas pode melhorar a experiência do usuário em aplicações que exigem respostas rápidas, como assistentes virtuais.

Os resultados do Jalapeño foram obtidos sem o uso de técnicas como multi-token prediction ou speculative decoding, enquanto alguns sistemas de comparação utilizaram essas otimizações.

Isso sugere que o desempenho do chip pode melhorar ainda mais quando essas técnicas forem implementadas no futuro.

A SemiAnalysis, criadora do benchmark InferenceX, verificou algumas execuções do Jalapeño no laboratório da OpenAI.

A verificação independente por uma terceira parte confere maior credibilidade aos resultados apresentados pela OpenAI.

O chip Jalapeño é descrito como um acelerador de inferência de propósito geral para LLMs, não sendo ajustado especificamente para os modelos da OpenAI.

Isso indica que o chip pode ser usado por outras empresas e desenvolvedores, ampliando seu potencial de mercado.

A OpenAI anunciou os resultados do Jalapeño, seu primeiro chip de inferência personalizado, no Hot Chips e em um blog post, destacando desempenho superior em eficiência e latência.

Este é o primeiro anúncio público de resultados do chip, confirmando as especificações e o desempenho esperados.

O chip Jalapeño da OpenAI, um ASIC de inferência, supera os sistemas Nvidia GB200 e GB300 em benchmarks com desempenho até 1,9x maior por watt e 3,6x menor latência.

A OpenAI afirma que seu chip supera a Nvidia em eficiência energética e velocidade de resposta, o que pode torná-lo mais competitivo no mercado de IA.

O chip Jalapeño é um ASIC de inferência de propósito geral, co-desenvolvido com a Broadcom, e os testes foram realizados com modelos abertos como GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T.

O chip foi projetado para ser versátil, funcionando bem com modelos da própria OpenAI e de terceiros, o que amplia sua aplicação.

Os resultados do Jalapeño foram obtidos sem o uso de técnicas como multi-token prediction ou speculative decoding, que foram usadas por alguns sistemas de comparação.

A OpenAI indica que seu chip pode ser ainda mais eficiente se essas técnicas forem adotadas no futuro.

O chip Jalapeño da OpenAI foi co-desenvolvido com a Broadcom.

Esclarece a parceria fundamental para o desenvolvimento do chip.

O chip Jalapeño tem um TDP de 700W.

O consumo de energia do chip é um dado técnico relevante.

O chip Jalapeño é um acelerador de inferência de propósito geral para LLMs.

Especifica a função e a abrangência do chip, que não é especializado apenas para modelos da OpenAI.

Os benchmarks do Jalapeño foram verificados pela SemiAnalysis no laboratório da OpenAI.

A verificação por terceiros adiciona credibilidade às alegações de desempenho da OpenAI.

Os resultados do Jalapeño foram obtidos sem usar técnicas como multi-token prediction ou speculative decoding.

Isso sugere que o desempenho pode ser ainda maior com otimizações adicionais.