Intel Xeon 6 oferece ganhos de desempenho de IA de até 17 vezes em 4 anos de resultados MLPerf

Baixe a imagem completa

Quais as novas: Hoje, a MLCommons publicou resultados de seu conjunto de parâmetros de referência de desempenho de IA padrão do setor, MLPerf Inference v4.1. A Intel submeteu resultados em seis benchmarks MLPerf para processadores escaláveis Intel® Xeon® da 5ª Geração e, pela primeira vez, Intel® Xeon® 6 processadores com Performance-cores (P-cores). Intel Xeon 6 processadores com P-cores alcançou uma melhoria de desempenho geomean cerca de 1,9x no desempenho de IA em comparação com processadores Xeon da 5ª Geração.

"Os resultados mais recentes do MLPerf mostram como o investimento e os recursos contínuos são essenciais para melhorar o desempenho da IA. Nos últimos quatro anos, elevamos o nível de desempenho da IA em processadores Intel Xeon em até 17 vezes com base no MLPerf. Conforme aproximamos da disponibilidade geral ainda este ano, estamos ansiosos para aumentar o Xeon 6 com nossos clientes e parceiros."

Por que os resultados do MLPerf importam: Os sistemas de IA exigem as CPUs como um componente crítico para implantar soluções com sucesso em uma variedade de cenários. Intel Xeon oferece uma ótima solução para inferência de IA, incluindo aprendizagem de máquina clássica e incorporação de pesquisa de vetores.

Com a inferência MLPerf v4.1, a Intel submeteu processadores Intel Xeon da 5ª Geração e processadores Xeon 6 com P-Cores no ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 e GPT-J. Em comparação com a Intel Xeon da 5ª Geração, o Xeon 6 oferece uma média de desempenho de inferência de IA cerca de 1,9x melhor nos seis parâmetros de comparação. A Intel continua a ser a única fornecedora de processadores de servidor a enviar resultados de CPU para o MLPerf.

Nos últimos quatro anos, a Intel fez ganhos significativos no desempenho da IA com CPUs desde que apresentou pela primeira vez os resultados do MLPerf. Em comparação com os processadores escaláveis Intel® Xeon® da 3ª Geração em 2021, o Xeon 6 tem um desempenho até 17x melhor em cargas de trabalho de processamento de linguagem natural (BERT) e até 15x melhor em cargas de trabalho de visão computacional (ResNet50). A Intel continua investindo em IA para seu roadmap de CPUs. Como exemplo, continua inovando com Intel® Advanced Matrix Extensions (AMX) por meio de novos tipos de dados e maior eficiência.

Como a Intel oferece suporte a seus clientes de IA: Os mais recentes benchmarks da MLCommons destacam como os processadores Xeon oferecem soluções fortes de servidor de IA de CPU para fabricantes de equipamentos originais (OEMs). À medida que a necessidade de computação de IA cresce e muitos clientes executam cargas de trabalho de Inteligência Artificial junto com suas cargas de trabalho corporativas, os OEMs estão priorizando os envios do MLPerf para garantir que eles forneçam sistemas Xeon de alto desempenho otimizados para cargas de trabalho de IA aos clientes.

A Intel apoiou cinco parceiros OEM — Cisco, Dell Technologies, HPE, Quanta e Supermicro — com seus envios de MLPerf nesta rodada. Cada cliente enviou resultados de MLPerf com processadores escaláveis Xeon da 5ª Geração, exibindo o suporte de seus sistemas para uma variedade de cargas de trabalho e implantações de IA.

O que vem a seguir: A Intel fornecerá mais informações sobre os processadores Xeon 6 com P-cores durante um evento de lançamento em setembro.