Supermicro apresenta rack com 256 CPU Nvidia Vera para IA com agência

A Supermicro anunciou um novo rack de computação baseado em 256 processadores Nvidia Vera, concebido para responder às necessidades de processamento da Inteligência Artificial (IA) com agência. A solução integra o portfólio Data Center Building Block Solutions (DCBBS) da fabricante e combina elevada densidade de processamento, refrigeração líquida e mecanismos de segurança para a execução de agentes de IA.

O novo Nvidia Vera CPU Rack disponibiliza 22.528 núcleos e 45.056 threads, com capacidade anunciada para suportar até 22.500 ambientes isolados (sandboxes) de agentes de IA em simultâneo. A plataforma destina-se a workloads de IA com agência, aprendizagem por reforço e processamento de dados, podendo ser implementada de forma autónoma ou em conjunto com os racks Nvidia Vera Rubin NVL72, que a Supermicro já está a comercializar.

A solução procura responder à crescente necessidade de capacidade de processamento CPU nas infraestruturas de IA. Embora as GPU sejam responsáveis por grande parte da geração de conteúdos e resultados dos modelos, os processadores CPU assumem funções essenciais na execução de ferramentas, coordenação de tarefas e gestão dos ambientes utilizados pelos agentes.

Refrigeração líquida e infraestrutura partilhada com Vera Rubin

O novo rack utiliza a arquitetura modular Nvidia MGX de terceira geração e o sistema de refrigeração líquida direta DLC-2 da Supermicro, permitindo uma configuração com refrigeração totalmente líquida.

A utilização de uma arquitetura comum à plataforma Vera Rubin NVL72 pretende facilitar a integração de diferentes sistemas numa mesma infraestrutura, simplificando a implementação e a expansão de data centers destinados a workloads de IA.

Ao nível da alimentação elétrica, os clientes podem optar por uma ligação convencional em corrente alternada ou por um rack auxiliar de alimentação a 800 V em corrente contínua. Esta segunda configuração permite utilizar unidades de bateria de reserva (Battery Backup Units), em alternativa a sistemas UPS convencionais.

Segundo a Supermicro, esta abordagem poderá reduzir a ocupação de espaço nos data centers, melhorar a eficiência da conversão de energia e diminuir os custos de investimento e operação.

“À medida que a IA com agência transforma os requisitos dos data centers, a Supermicro está a expandir o seu portfólio DCBBS com infraestruturas totalmente integradas”, afirma Charles Liang, presidente e CEO da Supermicro, em comunicado.

O responsável acrescenta que a oferta baseada em Nvidia Vera inclui também servidores 1U e 2U com refrigeração a ar, proporcionando alternativas para diferentes necessidades de implementação.

Segurança integrada para execução de agentes de IA

A plataforma integra Nvidia BlueField-4 DPUs e suporta a arquitetura Nvidia OpenShell, destinada à monitorização e aplicação de políticas de segurança durante a execução de agentes de IA.

O Nvidia OpenShell é executado nos processadores Vera e permite aplicar controlos baseados no princípio do menor privilégio. Já o Nvidia Sentry utiliza as DPU BlueField-4 para monitorizar o comportamento dos agentes de forma independente dos processadores principais.

Segundo a fabricante, esta combinação permite identificar comportamentos que ultrapassem os limites definidos pelas políticas de segurança e isolar agentes potencialmente problemáticos em milissegundos.

A arquitetura foi concebida para disponibilizar mecanismos de observabilidade, auditoria e controlo em ambientes de produção, sem consumir recursos adicionais dos processadores utilizados para executar as workloads.

Solução pode ser implementada de forma autónoma

Embora tenha sido desenvolvido para complementar a plataforma NVIDIA Vera Rubin NVL72, o novo rack pode funcionar como uma infraestrutura CPU independente.

Nesta configuração, poderá ser utilizado para orquestração de agentes de IA, execução de ambientes isolados, operações de bases de dados, gestão de clusters, data analytics e processos de desenvolvimento de Software em larga escala. A Supermicro identifica também a compatibilidade com ferramentas de gestão de workloads como Kubernetes e Slurm.

Para implementações conjuntas com Vera Rubin NVL72, a fabricante disponibiliza uma arquitetura de referência que integra redes Nvidia Spectrum-X Ethernet, sistemas redundantes de distribuição de líquido refrigerante e soluções de gestão térmica.

A oferta DCBBS inclui ainda serviços de avaliação das instalações, desenho da infraestrutura, integração, testes, implementação no local e suporte continuado, permitindo aos clientes adquirir uma solução que abrange diferentes componentes do data center.

A Supermicro já disponibiliza o Nvidia Vera CPU Rack para pedidos de cotação, não tendo divulgado preços nem prazos específicos de entrega.