OpenAI revela seu primeiro chip de IA: o Jalapeño

Em novembro de 2020, a Apple subiu num palco e apresentou o M1. Quem acompanhou aquele momento entendeu, quase que imediatamente, que uma empresa de software tinha cruzado uma fronteira sem volta: ela agora controlava o próprio silício. Essa semana, a OpenAI reproduziu aquela sensação ao revelar o Jalapeño, seu primeiro chip de IA desenvolvido em parceria com a Broadcom.

O que é o Jalapeño e por que ele existe

O Jalapeño é um chip projetado especificamente para inferência de IA. Inferência é o momento em que você digita uma pergunta no ChatGPT e o modelo processa a entrada para gerar uma resposta. Não é treinamento, que é o processo longo e caro de ensinar o modelo com enormes volumes de dados. É a operação do dia a dia, repetida bilhões de vezes por dia na infraestrutura da OpenAI.

Esse recorte importa porque inferência e treinamento exigem arquiteturas diferentes. GPUs de alto desempenho, como as H100 e H200 da NVIDIA, foram projetadas para paralelismo massivo, o que as torna excelentes para treinamento. Mas rodar inferência em GPUs de datacenter que custam dezenas de milhares de dólares a unidade e consomem centenas de watts cada é, em escala, uma equação financeira brutal. Um chip dedicado, otimizado apenas para inferência, pode entregar desempenho comparável com um custo operacional muito menor.

A OpenAI tem mais de 400 milhões de usuários ativos. Quando se multiplica o custo de cada resposta gerada por essa base, a economia potencial de ter silício próprio deixa de ser detalhe técnico e vira prioridade de sobrevivência financeira.

A OpenAI segue um playbook que já foi testado antes

O movimento da OpenAI não é original. É, na verdade, a repetição de um padrão que as maiores empresas de tecnologia já executaram:

• Google: lançou as TPUs (Tensor Processing Units) em 2016, inicialmente para uso interno nos seus próprios modelos de machine learning.
• Amazon: apresentou o Trainium em 2020, chip voltado para treinamento de modelos na AWS, e complementou com o Inferentia, focado em inferência.
• Meta: revelou o MTIA (Meta Training and Inference Accelerator) em 2023, acelerando workloads de recomendação e anúncios.
• Apple: com os chips M, consolidou a integração entre hardware e software como vantagem competitiva central em todos os seus produtos.

O gatilho em todos esses casos foi o mesmo: a dependência de fornecedores externos de silício chegou a um ponto em que virou risco estratégico inaceitável. Custo, latência, disponibilidade e controle de roadmap são os quatro argumentos que sempre aparecem quando uma empresa decide investir em chip próprio. A OpenAI chegou a esse ponto agora.

Por que a Broadcom foi escolhida como parceira

A escolha da Broadcom para desenvolver o Jalapeño não foi aleatória. A empresa tem um histórico sólido na fabricação de ASICs (Application-Specific Integrated Circuits) para grandes clientes de hiperescala. O TPU do Google, por exemplo, é fabricado com envolvimento da Broadcom há gerações. A Meta também utiliza a expertise da empresa para seus aceleradores customizados.

Três fatores tornam a Broadcom uma parceira especialmente adequada para uma primeira geração de chip:

1. Experiência em ASICs de hiperescala: a empresa entende os requisitos de confiabilidade, throughput e integração que datacenters de grande escala exigem.
2. Ausência de conflito direto: diferentemente da NVIDIA, a Broadcom não compete com a OpenAI em nenhum produto de software ou serviço de IA. A relação é puramente de fornecimento.
3. Acesso a processos avançados de fabricação: a Broadcom tem relacionamento estabelecido com a TSMC, que opera os nós de fabricação mais modernos disponíveis hoje.

O chip provavelmente será produzido num processo avançado da TSMC, o mesmo tipo de nó que a Apple utiliza nos chips M4. Isso garante eficiência energética e densidade de transistores compatíveis com o desempenho que a OpenAI precisa entregar em escala.

O que muda para quem constrói produtos sobre a API da OpenAI

Para desenvolvedores e empresas que utilizam a API da OpenAI hoje, a resposta imediata é: nada muda no curto prazo. O Jalapeño ainda está em fase inicial de revelação, e a transição de infraestrutura de um datacenter com essa escala não acontece de um trimestre para o outro.

Mas o médio e longo prazo apresentam implicações concretas:

Custo de inferência tende a cair

Chips customizados entregam melhor desempenho por watt do que GPUs de propósito geral para workloads específicas. Historicamente, quando uma empresa reduz seu custo de infraestrutura de inferência, isso se traduz em preços de API menores ou em aumento de capacidade pelo mesmo preço. O AWS Inferentia da Amazon é um exemplo: workloads migrados para ele na AWS costumam apresentar redução de custo em relação a instâncias de GPU equivalentes.

Menor dependência da NVIDIA

A NVIDIA domina o mercado de GPUs para IA com uma participação que nenhum concorrente ameaça de forma séria no curto prazo. Isso dá à empresa poder de precificação considerável. Ter um chip próprio não elimina a dependência da NVIDIA imediatamente, já que treinamento de modelos de fronteira ainda demandará GPUs de alto desempenho por anos. Mas reduz a exposição em inferência, que é o maior volume de operações do dia a dia.

Controle de roadmap

Com chip próprio, a OpenAI decide quando e como evoluir suas capacidades de hardware. Não precisa esperar o ciclo de lançamento da NVIDIA, nem disputar alocação de GPUs com outras empresas durante períodos de escassez, como aconteceu em 2023 quando a demanda por H100 superou a oferta disponível por vários trimestres.

A pergunta que o Jalapeño coloca na mesa

A Amazon não criou o Inferentia apenas para uso interno. Hoje ele está disponível como opção de infraestrutura para clientes da AWS que querem rodar modelos de linguagem com custo menor. O Google disponibilizou acesso às TPUs via Google Cloud. Há um caminho natural, que várias empresas já trilharam, de monetizar a infraestrutura de chip além do uso interno.

Se a OpenAI decidir eventualmente oferecer capacidade de inferência via Jalapeño para terceiros, seja como produto standalone ou integrado à API, a dinâmica do mercado de infraestrutura de IA muda de forma relevante. A empresa passaria a competir não só em modelos, mas em silício otimizado para IA. Essa é uma aposta de longo prazo que ainda não está confirmada, mas a trajetória de todas as empresas que vieram antes sugere que o passo é provável.

O Jalapeño marca uma transição real na identidade da OpenAI: de laboratório de pesquisa que virou empresa de software, para empresa de software que está se tornando empresa de infraestrutura. Esse tipo de transformação tem consequências que levam anos para se materializar completamente, mas o ponto de inflexão costuma ser reconhecível apenas depois que já passou. Este parece ser um desses momentos.