A Intel demonstra experiência em arquitetura de IA no Hot Chips 2024

Intel tackles the generative AI gap by introducing the Intel Gaudi 3 AI accelerator at the Intel Vision event on April 9, 2024, in Phoenix, Arizona. Gaudi 3 gives customers choice with open community-based software and industry-standard Ethernet networking to scale their systems more flexibly. (Credit: Intel Corporation)

Lunar Lake: 2024年8月の Hot Chips イベントで、インテルは、インテル® Gaudi 3、Lunar Lake プロセッサー搭載クライアント、インテル Xeon 6 システムオンチップ搭載のエッジを使用したクラウド全体の AI アーキテクチャの専門知識をカバーする 4 つのセッションを発表しました。(クレジット: Intel Corporation)

O grupo de soluções de fotônica integrada (IPS) da Intel Corporation demonstrou o primeiro chiplet de interconexão de computação óptica (OCI) totalmente integrado do setor em conjunto com uma CPU Intel e executando dados ao vivo. O chiplet OCI da Intel permite entrada/saída óptica em conjunto em infraestrutura de IA emergente para data centers e aplicações de computação de alto desempenho. (Crédito: Intel Corporation)

Download de todas as imagens (ZIP, 16 MB)

Quais as novas: Demonstrando a profundidade e a amplitude de suas tecnologias no Hot Chips 2024, a Intel apresentou avanços em casos de uso de IA – desde o data center, nuvem e rede até a borda e PC – enquanto cobria o chiplet de interconexão de computação óptica (OCI) mais avançado e totalmente integrado do setor para processamento de dados de IA de alta velocidade. A empresa também revelou novos detalhes sobre o SoC Intel® Xeon® 6 (codinome Granite Rapids-D), programado para lançamento durante o primeiro semestre de 2025.

"Em usos de IA de consumidores e empresariais, a Intel fornece continuamente as plataformas, sistemas e tecnologias necessários para redefinir o que é possível. À medida que as cargas de trabalho de IA intensificam, a ampla experiência da Intel no setor nos permite entender o que nossos clientes precisam para impulsionar a inovação, a criatividade e os resultados de negócios ideais. Embora o silício de um desempenho mais alto e a maior largura de banda da plataforma sejam essenciais, a Intel também sabe que cada carga de trabalho tem desafios exclusivos: um sistema projetado para o data center não pode mais simplesmente ser reautilizado para a borda. Com experiência comprovada em arquitetura de sistemas em todo o contínuo de computação, a Intel está bem posicionada para potencializar a próxima geração de inovação em IA".

O que a Intel está apresentando: No Hot Chips 2024, a Intel apresentou quatro artigos técnicos destacando o Intel Xeon 6 SoC, Lunar Lake processador de cliente, acelerador de IA Intel® Gaudi® 3 e o chiplet OCI.

Projetado para a borda: a próxima geração Intel Xeon 6 SoC

Praveen Mosur, Intel Fellow e arquiteto de silício de rede e borda, revelou novos detalhes sobre o projeto Intel Xeon 6 system-on-chip (SoC) e como ele pode enfrentar desafios de casos de uso específicos da borda, como conexões de rede não confiáveis e espaço e potência limitados. Com base no conhecimento obtido em mais de 90.000¹ implantações de borda em todo o mundo, o SoC será o processador mais otimizado para borda da empresa até o momento. Com a capacidade de escalar de dispositivos de borda a nós de borda usando uma arquitetura de sistema único e aceleração de IA integrada, as empresas podem gerenciar com mais facilidade, eficiência e confidencialidade o fluxo de trabalho de IA completo, desde a ingestão de dados até a inferência, ajudando a melhorar a tomada de decisões, aumentar a automação e fornecer valor a seus clientes.

O SoC Intel Xeon 6 combina o chiplet de computação de Intel Xeon 6 processadores com um chiplet de E/S otimizado para borda construído na tecnologia de processo Intel 4. Isso permite que o SoC forneça melhorias significativas no desempenho, eficiência energética e densidade de transistores em comparação com tecnologias anteriores. Os recursos adicionais incluem:

• Até 32 vias PCI Express (PCIe) 5.0.
• Até 16 vias Compute Express Link (CXL) 2.0.
• Ethernet 2x100 G.
• Quatro e oito canais de memória em pacotes BGA compatíveis.
• Melhorias específicas da borda, incluindo faixas de temperatura operacional estendidas e confiabilidade de classe industrial, tornando-a ideal para equipamentos robustos de alto desempenho.

O SoC Intel Xeon 6 também inclui recursos projetados para aumentar o desempenho e a eficiência das cargas de trabalho de borda e rede, incluindo nova aceleração de mídia para melhorar o transcodificador de vídeo e a análise para mídia OTT, VOD e transmissão ao vivo; Intel® Advanced Vector Extensions e Intel® Advanced Matrix Extensions para um melhor desempenho de inferência; Intel® QuickAssist Technology para obter um desempenho de rede e armazenamento mais eficiente; Intel® vRAN Boost para redução do consumo de energia para RAN virtualizada; e suporte para a plataforma Intel® Tiber™ Edge, que permite que os usuários construam, implantem, executem, gerenciem e dimensionem soluções de borda e IA em hardware padrão com simplicidade semelhante à nuvem.

Lunar Lake: impulsionando a próxima geração de PCs de IA

Arik Gihon, arquiteto chefe de SoC da CPU do cliente, discutiu o processador Lunar Lake cliente e como ele foi projetado para definir um novo nível de eficiência de energia x86, enquanto oferece desempenho de núcleo, gráficos e inteligência artificial do cliente líder. Os novos Performance-cores (P-cores) e Efficient-cores (E-cores) oferecem desempenho incrível com um desempenho até 40% menor no consumo de energia no chip em comparação com a geração anterior. A nova unidade de processamento neural é até 4x mais rápida, permitindo melhorias correspondentes em IA gerativa (GenAI) em comparação com a geração anterior. Além disso, os novos núcleos da unidade de processamento gráfico X^e2 melhoram o desempenho de jogos e gráficos em 1,5x em relação à geração anterior.

Detalhes adicionais sobre Lunar Lake serão compartilhados durante o evento de lançamento do Intel Core Ultra em 3 de setembro.

Acelerador de IA Intel Gaudi 3: projetado para treinamento e inferência em GenAI

Roman Kaplan, arquiteto-chefe de aceleradores de IA, cobriu o treinamento e a implantação de modelos de IA gerativos que exigem amplo poder computacional. Isso leva a desafios significativos de custo e consumo de energia à medida que os sistemas escalam, estendendo-se de nós únicos a vastos clusters de vários milhares de nós.

O acelerador de IA Intel Gaudi 3 aborda esses problemas com sua arquitetura otimizada, afetando arquiteturas de computação, memória e rede, ao mesmo tempo em que emprega estratégias como mecanismos de multiplicação de matriz eficientes, integração de cache de dois níveis e rede extensa de RoCE (RDMA sobre Ethernet convergente). Isso permite que o acelerador de IA Gaudi 3 atinja eficiências significativas de desempenho e energia que permitem que os data centers de IA operem de forma mais econômica e sustentável, abordando problemas de escalabilidade ao implantar cargas de trabalho GenAI.

Informações sobre aceleradores Gaudi 3 AI e futuros produtos Intel Xeon 6 serão compartilhadas durante um evento de lançamento em setembro.

Chiplet de interconexão de computação óptica de 4 terabits por segundo para conectividade XPU-XPU

O grupo de soluções de fotônica integrada (IPS) da Intel demonstrou o chiplet de computação óptica mais avançado e totalmente integrado do setor em conjunto com uma CPU Intel e executando dados ao vivo.

Saeed Fathololoumi, arquiteto de fotônica do Grupo de Soluções de Fotônica Integrada, cobriu o chiplet OCI e seu projeto para suportar 64 canais de transmissão de dados de 32 gigabits por segundo (Gbps) em cada direção em até 100 metros de fibra óptica. Fathololoumi também discutiu como é esperado atender às crescentes demandas da infraestrutura de IA por maior largura de banda, menor consumo de energia e maior alcance. O chiplet OCI da Intel representa um salto na interconexão de alta largura de banda para a escalabilidade futura da conectividade de cluster de CPU/GPU e novas arquiteturas de computação, incluindo expansão de memória coerente e desagregação de recursos em infraestrutura de IA emergente para data centers e aplicações de computação de alto desempenho (HPC).

Por que importa: A IA oferece às empresas e aos consumidores um caminho acelerado para levar ideias a alturas sem precedentes. Por exemplo, os consumidores agora têm opções de PC de IA que oferecem recursos inteligentes que aumentam a produtividade, a criatividade, os jogos, o entretenimento e a segurança, e as empresas podem aproveitar o poder da computação de borda e da IA para melhorar a tomada de decisões, aumentar a automação e ganhar valor com dados proprietários.

As sessões técnicas de aprofundamento no Hot Chips 2024 forneceram perspectivas técnicas únicas de todas as equipes de produtos da Intel que trazem as tecnologias de IA da próxima geração ao mercado.

_{As letras miúdas:}

_{O desempenho varia de acordo com o uso, a configuração e outros detalhes. Saiba mais em intel.com/performanceindex.}

_{¹ dados internos da Intel.}