De atletas a desenvolvedores de GenAI: Intel enfrenta desafios do mundo real com sistemas de IA

Capacitando pessoas com sistemas de IA abertos

Durante uma mesa redonda em 17 de julho de 2024, representantes da Intel, do Comitê Olímpico Internacional, Seekr e Red Hat discutiram como um ecossistema aberto de IA coloca o poder nas mãos dos desenvolvedores e empresas que enfrentam os desafios criados pelo boom da inteligência artificial. Os participantes do evento moderado por Justin Hotard, vice-presidente executivo e gerente geral do Data Center e do Grupo de IA da Intel, foram Kaveh Mehrabi, diretor do Departamento de Atletas do Comitê Olímpico Internacional; Steven Huels, vice-presidente e gerente geral de negócios, produtos e estratégia da Red Hat; Rob Clark, presidente e diretor de tecnologia da Seekr; e Bill Pearson, vice-presidente de soluções de software e ecossistema do data center e grupo de IA da Intel. (Crédito: Intel Corporation)

Quais as novidades: Hoje, a Intel compartilha detalhes interessantes sobre sua colaboração com o Comitê Olímpico Internacional (IOC) e sobre uma solução de IA generativa (Rag, Retrieval-augmented Generation) orientada pela indústria. Esses anúncios demonstram como sistemas e plataformas de IA abertos usando aceleradores Intel® Gaudi® AI e processadores Intel® Xeon® colocam o poder nas mãos de desenvolvedores e empresas para enfrentar os desafios criados pelo boom da IA.

"Através da nossa parceria com o Comitê Olímpico Internacional, estamos demonstrando nossa dedicação para tornar a IA acessível. Estamos promovendo um campo de atuação aberto que incentiva a inovação e a criatividade e permite que desenvolvedores e empresas criem soluções de IA personalizadas que geram resultados tangíveis. Ao abraçar um ecossistema aberto e colaborativo, a Intel está transformando maneiras de ajudar nossos atletas e ampliando os limites do que é possível com nossos clientes".

Como o chatbot funciona na plataforma Athlete365: A classificação para os Jogos Olímpicos é apenas o começo para os atletas. Para ajudar cerca de 11.000 atletas com diferentes linguagens e culturas a navegar pelo local e cumprir as regras e diretrizes, o COI colaborou com a Intel para desenvolver um chatbot, AthleteGPT, dentro da plataforma Athlete365. Uma solução RAG com aceleradores Intel Gaudi e processadores Xeon, AthleteGPT, é capaz de lidar com investigações e interações de atletas e fornecerá informações sob demanda durante a estadia dos atletas na Vila Olímpica em Paris, permitindo que eles se concentrem em treinar e competir.

Por que importa: A implantação de soluções GenAI apresenta desafios como custo, escala, precisão, requisitos de desenvolvimento, privacidade e segurança. RAG é uma carga de trabalho genAI crucial porque permite que as empresas aproveitem dados proprietários com segurança, melhorando o tempo e a confiabilidade das saídas de IA. Isso melhora a qualidade e a utilidade de aplicações de IA, que são essenciais no mundo orientado por dados de hoje.

A abordagem colaborativa da Intel utilizando plataformas de IA, padrões abertos e um ecossistema robusto de software e sistemas permite que os desenvolvedores criem soluções de RAG GenAI personalizadas adaptadas às necessidades de cada empresa. O impulso compartilhado hoje ressalta o compromisso da Intel em fornecer soluções de IA generativas de vários provedores abertas, robustas e componível.

Pipeline Blueprint - RAG Flow

Baixe a imagem completa

Como funciona a arquitetura da solução GenAI RAG: A Intel trabalha com parceiros do setor para criar uma solução de código aberto e interoperável para uma fácil implantação de RAG. A solução GenAI é uma solução rag pronta para produção, orientada para o setor, desenvolvida sobre a base Open Platform for Enterprise AI (OPEA). Embora a solução completa da GenAI ofereça uma abordagem simplificada para implantar soluções RAG para empresas em seus data centers, ela foi projetada para ser altamente flexível e personalizável, integrando componentes a partir de um catálogo de ofertas de vários sistemas de OEM e parceiros do setor.

A solução completa da GenAI integra componentes de microsserviço baseados em OPEA em uma solução de RAG escalável projetada para implantar sistemas de IA Xeon e Gaudi. Ele escala perfeitamente com estruturas de orquestração comprovadas como Kubernetes e Red Hat OpenShift e fornece APIs padronizadas com segurança e telemetria de sistema.

• Quebrando paredes proprietárias com uma pilha de software aberta: Quase todo o desenvolvimento de um grande modelo de linguagem (LLM — Large Language Model) é baseado no PyTorch, estrutura de abstração de alta abstração compatível com as tecnologias Intel Gaudi e Xeon, facilitando o desenvolvimento em sistemas ou plataformas Intel AI. A Intel trabalhou com a OPEA para desenvolver uma pilha de software aberta para implantação de RAG e LLM otimizada para a solução completa GenAI e construída com PyTorch, Hugging Face servindo bibliotecas (TGI e TEI), banco de dados LangChain e Redis Vector.
• Encontrando desenvolvedores onde eles estão: A OPEA oferece pipelines de RAG padronizados, modulares e heterogêneos para empresas, com foco no desenvolvimento de modelos abertos e suporte para vários compiladores e cadeiras de ferramentas. Essa base acelera a integração e a entrega de IA em contêineres para casos de uso verticais exclusivos. O OPEA desbloqueia novas possibilidades de IA criando um framework detalhado e componível que está na vanguarda das pilhas de tecnologia.

Com o turnkey GenAI e a abrangente pilha de IA empresarial, a Intel oferece uma solução completa abordando os desafios da implantação e escalonamento de aplicativos RAG e LLM dentro de empresas e data centers. Aproveitando sistemas ou plataformas de IA com tecnologia Intel e software otimizado no OPEA, as empresas podem aproveitar todo o potencial da GenAI com maior eficiência e velocidade.

O que vem a seguir: O aumento do acesso à mais recente tecnologia de computação de IA é um desafio que as empresas enfrentam para permitir resultados críticos de negócios com a GenAI. Por meio de colaborações estratégicas com parceiros e clientes do setor, a Intel está criando novas oportunidades para serviços de IA impulsionados por soluções GenAI e RAG.

Comprometida com o avanço seguro e responsável da IA, a Intel anunciou hoje sua colaboração com o Google, a IBM e outros parceiros do setor em uma nova Coalizão por IA segura (CoSAI), criada para aumentar a confiança e a segurança no desenvolvimento e implantação de IA.

A Intel demonstrará ainda mais sua abordagem única para os sistemas de IA e o contínuo impulso dos clientes e parceiros em Intel Innovation de 24 a 25 de setembro.

Mais contexto: a Intel recebe a coalizão por IA segura | A Intel dá vida à inovação de plataforma de IA nos Jogos Olímpicos

_{As letras miúdas:
As tecnologias Intel podem exigir ativação de hardware, software ou de serviços.
Nenhum produto ou componente pode ser absolutamente seguro.
Os custos e resultados podem variar.
A Intel não controla ou audita dados de terceiros. Você deve consultar outras fontes para avaliar a precisão.}