Colossus: O Supercomputador por Trás do Grok

Poucos dias depois do anúncio do Grok 3, em fevereiro de 2025, valia a pena olhar para o que estava por trás da cortina: nenhum modelo de linguagem existe sem uma infraestrutura computacional capaz de o treinar e de o operar em produção. No caso do Grok, essa infraestrutura tinha nome: Colossus.

O Colossus era o supercomputador desenvolvido pela xAI, a empresa de Elon Musk, especificamente para treinar e operar os seus modelos de inteligência artificial. Um sistema massivo, construído com dezenas de milhares de GPUs de alto desempenho, e uma peça-chave para colocar o Grok a competir com sistemas como o ChatGPT e o Gemini.

O nome não era escolhido ao acaso: remetia para o Colossus original, o primeiro computador programável eletrónico, usado durante a Segunda Guerra Mundial para decifrar códigos nazis. A versão moderna da xAI, evidentemente, tinha pouco em comum com aquele em termos de escala — mas partilhava o espírito de ser uma peça de engenharia construída para resolver um problema computacional até então fora de alcance.

A escala por trás do modelo

Segundo a xAI, o Colossus era composto por cerca de 100 mil GPUs NVIDIA H100 — na altura, entre as mais poderosas disponíveis para treino de modelos de linguagem. Esta arquitetura permitia processar biliões de parâmetros, o que na prática se traduzia na capacidade do Grok 3 aprender, gerar texto e responder a perguntas com maior rapidez e precisão.

Treinar e operar um modelo desta escala levanta também desafios de escalabilidade e eficiência energética: treino distribuído por milhares de GPUs em simultâneo, sistemas de arrefecimento avançados para lidar com o calor gerado, e uma integração direta com dados da rede social X para permitir atualização mais próxima do tempo real — algo que distinguia a abordagem da xAI da maioria dos concorrentes, mais dependentes de dados de treino estáticos.

Porque é que a infraestrutura importa tanto quanto o modelo

É fácil focar toda a atenção no chatbot final e esquecer que, por trás de cada resposta gerada em segundos, está uma quantidade de processamento e análise de dados que a maioria dos utilizadores nunca vê. Perceber esta camada de infraestrutura ajuda também a perceber porque é que treinar modelos de fronteira continua a ser um jogo reservado a poucas empresas com capital para investir em hardware desta escala — ao contrário de aplicar IA generativa já existente, que está hoje ao alcance de qualquer profissional, como já explorámos a propósito do que é, na prática, IA generativa e como aplicá-la no trabalho.

Esta corrida por mais capacidade computacional é também uma das razões pelas quais a literacia em IA se tornou uma literacia de IA nas empresas transversal a quase todas as profissões — não porque seja preciso perceber de GPUs, mas porque é preciso perceber o suficiente do vocabulário técnico para não ficar de fora da conversa. Para isso, o dicionário de termos de IA da SuperHumano Academy continua a ser um recurso útil.