Cluster de GPUs em data center refrigerado

Cluster de GPUs em data center refrigerado a líquido, essencial para treinamento de modelos de IA em larga escala.

Sobre o tema

Os clusters de GPUs são a espinha dorsal da inteligência artificial moderna. Compostos por centenas ou milhares de unidades de processamento gráfico interconectadas, eles realizam cálculos paralelos massivos necessários para treinar modelos como GPT-4 ou redes neurais profundas. Diferente de CPUs tradicionais, GPUs possuem milhares de núcleos menores que executam operações simultâneas, reduzindo o tempo de treinamento de semanas para horas.

A refrigeração líquida, visível na imagem por meio de tubulações e trocadores de calor, substitui sistemas de ar-condicionado convencionais. Ela dissipa o calor gerado por GPUs que consomem até 700W cada, mantendo temperaturas ideais e reduzindo o consumo energético em até 40% em comparação com métodos a ar. Data centers como o do Google e da Microsoft já adotam essa tecnologia para suportar cargas de trabalho de IA.

A disposição simétrica e organizada dos equipamentos não é apenas estética: ela otimiza o fluxo de ar e a distribuição de energia. Cada rack pode conter dezenas de GPUs, como as NVIDIA H100 ou A100, conectadas por redes de alta velocidade como InfiniBand. A luz suave e difusa do ambiente, típica de dias nublados, reduz reflexos e facilita a manutenção.

Curiosamente, o primeiro cluster de GPUs para computação científica foi criado em 2006, no Laboratório Nacional de Oak Ridge, nos EUA. Desde então, a demanda explodiu: em 2023, a NVIDIA vendeu mais de 500 mil GPUs H100 para data centers. Esse tipo de infraestrutura é crítica para avanços em medicina, veículos autônomos e processamento de linguagem natural.

Perguntas frequentes

Por que GPUs são melhores que CPUs para IA?

GPUs possuem milhares de núcleos menores que executam operações em paralelo, ideais para a matemática matricial usada em redes neurais. CPUs têm poucos núcleos otimizados para tarefas sequenciais.

Qual a vantagem da refrigeração líquida em data centers?

Ela dissipa calor de forma mais eficiente, permitindo maior densidade de equipamentos e reduzindo o consumo de energia em até 40% em comparação com refrigeração a ar.

Quanto custa um cluster de GPUs como o da imagem?

Um cluster com 1000 GPUs NVIDIA H100 pode custar entre US$ 30 milhões e US$ 50 milhões, incluindo infraestrutura de refrigeração e rede.