Rani Borkar propõe o conceito de rendimento útil para avaliar o impacto real da infraestrutura de IA.
Rani Borkar, responsável por planejamento e infraestrutura de hardware da plataforma Azure, afirma que a próxima era da inteligência artificial deve ser avaliada pelo rendimento útil — ou seja, pelos resultados práticos que a tecnologia entrega. No texto, ela argumenta que, diante do investimento recorde em capital, energia e instalações, a pergunta que define a década é o que realmente resulta do uso desses recursos.
O limite de obter mais
Segundo Borkar, a adoção da IA cresceu mais rápido que a internet, o PC ou o smartphone, mas a penetração global permanece em 18% da população ativa, e grande parte do uso ainda se concentra em chats. Conforme os sistemas evoluem para raciocinar, planejar e executar fluxos de trabalho mais longos e agênticos, a infraestrutura precisa lidar com demandas muito maiores: uma única tarefa agêntica pode consumir mais de 3.400 vezes mais tokens que uma interação típica de chat.
A resposta tradicional da indústria tem sido adicionar mais silício, memória e energia a cada geração. De acordo com a autora, esse caminho gera ganhos, mas também leva a uma situação em que cada avanço exige entradas crescentes, numa espécie de esteira. Por isso, ela propõe seguir duas frentes: um caminho evolutivo de ganhos incrementais em eficiência e utilização; e um caminho transformador, que envolva novas arquiteturas, materiais e abordagens de projeto.
Rendimento útil na engenharia
Borkar defende que a disciplina aplicada na fabricação de semicondutores deve ser estendida a todas as camadas da pilha — dos centros de dados e do silício até os modelos e os agentes que os orquestram. Conforme a experiência da Microsoft na operação de infraestruturas de IA em grande escala, as maiores limitações raramente se resolvem apenas na camada onde aparecem. Quando se atua sobre restrições em toda a pilha, limitações aparentes frequentemente se revelam artefatos de arquiteturas herdadas.
O avanço, afirma, costuma vir do co-desenho entre camadas, combinando inovações em memória, redes e energia para transformar limites em restrições solucionáveis.
Memória: mais inteligência por byte
Hoje, a memória deixou de ser apenas um problema de fornecimento e virou um problema de sistema. Na inferência de IA, a memória precisa suportar modelos maiores, contextos mais longos e alimentar o cómputo com dados suficientes. Os agentes elevam ainda mais esse horizonte: loops de geração, recuperação e uso de ferramentas podem durar minutos ou horas, exigindo mais informação próxima ao processamento.
A experiência com a plataforma Azure Maia mostra que gargalos de memória não se resolvem em única camada. A arquitetura do modelo, a ciência de dados e a compressão podem reduzir a necessidade de cache KV; o software pode gerir hierarquias de memória; o silício pode otimizar o movimento de dados; e compiladores podem posicionar dados mais perto do cómputo. Juntas, essas medidas aumentam a inteligência útil extraída dos mesmos recursos de memória — essa é a definição operacional de rendimento útil.
Redes: projetar entre camadas
Ao subir do chip para o cluster, a inteligência passa a depender de milhares de chips operando como um único sistema. Além de links mais rápidos, importam gestão de congestionamento, recuperação de falhas, colocação de carga de trabalho e a interface entre silício, sistema e software. Para a plataforma Maia, a Microsoft não partiu de um design de rede existente; começou pelo resultado desejado — inferência eficiente em escala de frota — e projetou silício, redes e software de sistema de forma integrada.
O time construiu uma topologia de escalonamento em dois níveis, integrou funções de NIC diretamente no chip e desenvolveu uma camada de transporte customizada. O resultado foi desempenho escalável e consistente em clusters densos, simplificação da programação, maior flexibilidade de carga de trabalho e redução de hardware de rede necessário, diminuindo também o custo de operação do sistema. O objetivo, enfatiza Borkar, não é apenas mover dados mais rápido, mas manter mais cómputo produtivo e entregar mais tokens por vatio e por dólar.
Energia: co-desenho da rede ao chip
A IA trouxe desafios de disponibilidade e distribuição de energia: racks passaram de dezenas para centenas de quilowatts, e campus de data centers podem operar na escala de gigawatts. Conforme a autora, a energia deixou de ser algo apenas a que o sistema se conecta; passou a ser um parâmetro de projeto desde o início.
Tecnologias como transformadores de estado sólido e entrega de corrente contínua a 800 volts podem reduzir perdas de distribuição. A energia e a refrigeração agora fazem parte da definição do produto. Um exemplo prático citado é a Azure Cobalt 200, CPU de servidor baseada em Arm: ela foi projetada com controles de voltagem e frequência por núcleo, além de um limite de potência por máquina virtual controlado por software. Esse controle fino permite ajustar consumo protegendo cargas críticas e operar mais servidores dentro de um mesmo teto de energia.
Como mostra o caso do Cobalt, o projeto conjunto de hardware e software converte cada megawatt em valor de forma mais eficiente.
Avanços além das fronteiras
O padrão observado em memória, rede e energia se repete pelo sistema: começa-se pelo que se quer produzir e então se otimiza o conjunto, não apenas uma camada isolada. Isso exige clareza sobre a saída que se está otimizando e quais restrições são realmente rígidas. Perguntas a colocar, segundo Borkar, incluem se se deve otimizar para pico de desempenho ou para desempenho sustentado, e qual combinação de capacidade e redundância gera mais valor ou permite implementação mais rápida junto ao cliente.
Nem todas as limitações são leis da física; muitas resultam de decisões tomadas em outras partes do sistema e só mudam quando se trabalha além das fronteiras tradicionais. A transformação ocorre quando se desafiam suposições coletivamente e se redesenha o sistema inteiro. Os avanços virão da colaboração entre hiperescaladores, fornecedores de silício, fabricantes de equipamentos, operadores de infraestrutura, construtores de modelos e desenvolvedores de software.
Hacia o rendimento total
Borkar lembra que tokens e inteligência não são a meta final: o que importa é como essa saída se transforma em produtividade da economia e em valor para as pessoas. Exemplos citados incluem acelerar descobertas científicas, identificar sinais clínicos mais cedo, oferecer apoio educacional no momento certo e abrir caminhos de crescimento para pequenas empresas.
Para que esse ciclo se estenda, a IA precisa ser amplamente acessível; em larga escala, essa acessibilidade depende da eficiência, que torna viável o desdobramento de inteligência a um custo que permita o acesso de muitos.
A autora conclui que será necessário continuar construindo capacidade, porque o mundo precisará dela, mas a medida definidora do progresso deve ser o que efetivamente sai desse esforço: não apenas chips ou tokens, mas inteligência útil convertida em empoderamento, oportunidade e resultados humanos. Segundo ela, esse é um imperativo que a indústria deve assumir conjuntamente.
Rani Borkar lidera as organizações responsáveis por planejar, arquitetar, desenvolver e implementar hardware e infraestrutura para a plataforma de computação em nuvem da Microsoft — do silício aos sistemas e à cadeia de suprimentos.
Descubra mais sobre o enfoque da Microsoft do silício aos sistemas para a infraestrutura do Azure.
Assuntos nesse artigo:
#rendimentoutil, #ia, #inteligencia, #infraestrutura, #memoria, #redes, #energia, #azure, #azuremaia, #azurecobalt200, #silicio, #centrosdedados, #semicondutores, #desempenho, #modelos, #agentes, #codiseno, #compiladores, #eficiencia, #adocao