Intel Gaudi 3 amplia disponibilidade para impulsionar a inovação em IA em larga escala

Novidade: Hoje, a Dell lançou a plataforma de IA da Dell com aceleradores de IA Intel® Gaudi® 3, por meio da Dell AI Factory. A solução de ponta a ponta totalmente validada foi projetada para simplificar a adoção, integração e escalabilidade de tecnologias de inteligência artificial por empresas. Combinando o hardware Intel Gaudi 3 com uma pilha de software de código aberto e a reconhecida expertise em infraestrutura da Dell, a plataforma oferece um caminho fluido para acelerar a transformação com IA em diversos setores.

“Nossa colaboração com a Dell leva o poder do Intel Gaudi 3 para uma solução integrada, pronta para implementação empresarial. Esta plataforma é otimizada para atender às demandas da IA moderna - desde grandes modelos de linguagem até inferência na borda - enquanto oferece a flexibilidade e a abertura que os negócios exigem.”
- Saurabh Kulkarni, vice-presidente da Intel, Estratégia e Gerenciamento de Produtos para IA em Data Centers

Por que isso é importante: As empresas enfrentam decisões complexas ao implantar soluções de IA, equilibrando desempenho, escalabilidade, flexibilidade e custo-benefício. A plataforma de IA da Dell, com Intel Gaudi 3, oferece desempenho competitivo em IA generativa (GenAI), com um throughput de inferência 70% superior no Llama 3 80B em comparação ao Nvidia H100, em termos de custo-benefício.

Sua arquitetura escalável evolui com as necessidades dos negócios, garantindo que profissionais de TI possam atender às demandas crescentes sem abrir mão da flexibilidade. Com redes e pilhas de software abertas, a solução evita o aprisionamento por fornecedores, proporcionando adaptabilidade de longo prazo. Isso capacita desenvolvedores, equipes de TI e líderes empresariais a desbloquear valor com IA em todas as etapas da jornada.

“Hoje, as empresas precisam de mais do que apenas poder computacional - elas precisam de soluções escaláveis, abertas e eficientes que acelerem sua jornada em IA,” disse Varun Chhabra, vice-presidente sênior da Dell Technologies.
“Com a plataforma de IA da Dell com Intel, estamos entregando uma base preparada para o futuro da inovação em IA, que cresce junto com as necessidades dos nossos clientes.”

Como ela é projetada para cargas de trabalho de IA: No núcleo da plataforma de IA da Dell com Intel está o PowerEdge XE9680, um servidor robusto e otimizado para cargas de trabalho de IA. Entre os destaques do servidor estão:

• Oito aceleradores Intel Gaudi 3 com 128 GB de memória HBM e largura de banda de 3,7 TB/s, ideais para grandes modelos de linguagem e visão computacional.
• Processadores Intel® Xeon® de 5ª geração com até 64 núcleos e slots PCIe Gen 5, prontos para lidar com computações complexas.
• Armazenamento e rede escaláveis com 32 slots DIMM, capacidade para 16 unidades e Ethernet de 800 Gb, garantindo fluxo de dados contínuo e eliminando gargalos.
• Resfriamento por ar eficiente em energia, otimizado para suportar cargas de trabalho de IA em larga escala, como GenAI e aprendizado de máquina.

Como ela é otimizada para desenvolvedores: A plataforma inclui uma pilha de software de código aberto pré-validada que oferece suporte a:

• Frameworks como PyTorch e Hugging Face, para facilitar o ajuste fino de modelos.
• Kubernetes, para orquestração e agendamento flexível de recursos.
• Grafana e Prometheus, para observabilidade e monitoramento em tempo real.

Além disso, o Dell Enterprise Hub oferece um catálogo de modelos otimizados para o Intel Gaudi 3, acelerando a implementação por desenvolvedores.

Sobre a gestão simplificada de clusters: O Dell Omnia, um kit de ferramentas de código aberto para implantação e gerenciamento de clusters de alto desempenho, tem papel fundamental na plataforma de IA da Dell com Intel, possibilitando alocação dinâmica de recursos. Isso permite que equipes de TI e desenvolvedores se adaptem rapidamente a cargas de trabalho em constante evolução, reduzindo o tempo de implantação e aumentando a produtividade geral.

Com integração fluida a diversas ferramentas e frameworks, a plataforma de IA da Dell com Intel combina confiabilidade de nível empresarial com agilidade para desenvolvedores.

Próximos passos: Descubra os recursos dos aceleradores de IA Intel Gaudi 3 e explore a plataforma de IA da Dell com Intel na Dell Technologies World 2025, de 19 a 22 de maio, em Las Vegas, nos estandes da Intel (#654) ou Dell (#833).

Observações em letras miúdas (The small print):

Fonte: Resultados medidos pela Intel em comparação com dados da Nvidia H100 disponíveis em: http://github.com/NVIDIA/TensorRT-LLM/blob/main/docs/source/performance/perf-overview.md, para sequências de entrada e saída de 128 a 2048 tokens. Os resultados da Intel foram obtidos em 9 de setembro de 2024. Os resultados podem variar. As estimativas de preços são baseadas em informações publicamente disponíveis e em análise interna da Intel.

A Intel não controla nem audita dados de terceiros.
Você deve consultar outras fontes para avaliar a precisão das informações.