A Nvidia está vendendo data centers completos, não apenas GPUs. A nova geração de sistemas da empresa inclui switches proprietários, software de orquestração de tráfego e controladores que decidem como os dados circulam entre processadores. A aposta é que ganho de eficiência virá menos de ciclos brutos de computação e mais de como a informação se move dentro do cluster.
A mudança aparece nos sistemas Spectrum-X e no software DOCA, que a Nvidia está integrando às suas ofertas de infraestrutura. Em vez de vender H100s ou B200s soltos para o cliente montar a arquitetura, a empresa oferece o stack completo, com a promessa de que o gargalo não está mais só no processador, mas na latência e no congestionamento entre eles.
Quem monta cluster próprio perdeu poder de barganha
Para quem roda modelo em nuvem, isso é transparente, o provedor que se vire. Mas para quem está montando infraestrutura própria ou negocia direto com a Nvidia, o jogo mudou. Você não compra mais só a GPU e escolhe o resto da pilha. A Nvidia quer vender o sistema fechado, e se o argumento de eficiência colar, vai ser difícil justificar para o board que você montou diferente.
Isso também significa que otimizar a comunicação entre nós virou tão crítico quanto otimizar o código que roda dentro deles. Se você está treinando modelos grandes ou rodando inferência distribuída, a latência entre GPUs pode estar comendo mais tempo do que você imagina. A Nvidia está apostando que vender a solução inteira, em vez de só o componente mais caro, é como ela mantém a margem enquanto a concorrência aperta no chip.