인텔, AI 어시스턴트 개발 지원하는 새로운 AI 스위트 공개

2024 년 2월 24일 서울 – 인텔은 고객들이 AI 어시스턴트를 신속하게 개발할 수 있도록 지원하는 새로운 인공지능(AI) 스위트(Suite)를 공개했다.

AI PC와 일반 PC의 차이점

2023년 12월, 인텔® 코어™ Ultra(Intel® Core™ Ultra) 프로세서 제품군과 함께 등장한 새로운 세대의 PC는 중앙처리장치(CPU), 그래픽처리장치(GPU), 신경망처리장치(NPU)를 결합해 사용자의 생산성, 창의성, 게임, 엔터테인먼트, 보안 등 다양한 분야에서 새로운 가능성을 열어가고 있다.

최신 AI 워크로드를 처리할 수 있는 강력한 하드웨어는 뛰어난 AI PC를 만드는 요소 중 하나에 불과하다. PC 산업은 이 최신 하드웨어를 활용해 새로운 AI 소프트웨어와 사용자 경험을 창출할 수 있는 중요한 기회를 맞이하고 있다. AI PC가 최상의 AI 경험을 제공하기 위해서는, 일상적인 작업을 돕는 AI 어시스턴트를 더욱 빠르고 효율적으로 개발하는 것이 중요하다.

인텔® AI 어시스턴트 빌더(Intel® AI Assistant Builder) 공개

인텔은 2025년 1월 라스베이거스에서 열린 CES 2025에서 컴퓨터 제조업체와 소프트웨어 벤더들이 단 몇 분 만에 맞춤형 AI 어시스턴트를 신속하게 개발할 수 있도록 지원하는 인텔® AI 어시스턴트 빌더(코드명 프로젝트 슈퍼빌더(Project SuperBuilder))를 공개했다.

AI 어시스턴트 빌더는 복잡한 과정 없이 AI 모델을 손쉽게 개발할 수 있도록 지원하는 솔루션이다. 이 솔루션은 세 단계만 거치면 AI 어시스턴트를 구축할 수 있도록 설계되었다. 먼저, 준비된 AI 어시스턴트 모델을 선택하고, 이를 다운로드 및 설치한 후, 프로그램을 실행하면 된다.

사용 방법:

• 이 앱은 사용자가 채팅 창에서 질문을 하고, PDF, 스프레드시트, 프레젠테이션, 텍스트 파일 등 다양한 형식의 문서를 업로드하거나 삭제할 수 있도록 지원한다.
• 사용자가 질문을 하면 AI 어시스턴트는 질문에 맞춰 응답하며, 대화 기록, 관련 문서, 그리고 대규모 언어 모델(LLM)의 내재적 지식을 바탕으로 학습한다.
• 또한, 욕설 필터와 모델이 편향 없이 안전하게 응답하도록 유도하는 보조 안전 시스템을 포함한 고급 AI 안전 장치를 갖추고 있다.
• 사용자가 다양한 고급 기능을 선택해 자신만의 AI 어시스턴트를 맞춤형으로 구축할 수 있도록, 지속적으로 새로운 기능이 추가되고 있다.

인텔 클라이언트 컴퓨팅 그룹 수석 엔지니어 올레나 주(Olena Zhu)는 “인텔은 업계에 자체 AI 중심 콘텐츠를 만들 수 있는 기반을 제공하고 있다. 이를 통해 인텔 고객들은 전체 개발 시간을 단축하고 자신만의 스마트 솔루션 출시 속도를 앞당길 수 있다”고 설명했다.

인텔의 주요 파트너들은 이미 AI 어시스턴트 빌더를 활용해 특정 요구에 맞는 맞춤형 모델을 다음과 같이 개발하고 있다:

• 에이서(Acer)는 자사의 카메라 비전 기술을 통합한 AI 세일즈 어시스턴트 기술 증명(Proof of Concept, POC)을 단 3일 만에 개발했다.
• 한국에서는 인텔과 삼성전자가 교보문고에 클라우드가 아닌 온디바이스에서 실행되는 생성형 AI 챗봇을 도입했다. 이 챗봇은 스마트 LLM을 기반으로 하여, 고객이 책을 검색하고 맞춤형 정보를 받을 수 있도록 지원한다.
• 에이수스(Asus)는 인텔의 기술을 활용해 NUC 고객을 위한 기술 특화 Q&A 어시스턴트를 개발했다.

AI 어시스턴트 빌더로 AI 헬퍼 시대 가속화

AI 어시스턴트를 처음부터 완성도 높게 개발하려면 몇 주에서 몇 달이 걸리며, 소프트웨어 프로그래밍과 AI에 대한 깊은 전문 지식이 요구된다. 그러나 AI 어시스턴트 빌더는 출시가 제안된 지 불과 몇 달 만에 전 세계 PC 제조업체(OEM)와 독립 소프트웨어 벤더(ISV)들에 의해 활발히 활용되고 있다. 또한, 인텔의 AI PC 플랫폼이 성숙해짐에 따라 더 많은 고객들이 인텔과 협업을 추진하고 있다.

인텔 클라이언트 컴퓨팅 그룹의 수석 엔지니어 올레나 주(Olena Zhu)는 “이 AI 어시스턴트는 LLM, 검색 증강 생성(RAG) 등 다양한 요소를 기반으로 하며, 인텔 CPU, GPU, NPU를 활용하는 AI PC에서 성능과 정확도가 최적화되도록 설계되었다”며, “특정 분야에 최적화된 LLM 외에도 각 산업과 분야별로 고유한 워크플로우와 기능요구사항이 있다. 인텔은 고객과 협력하여 맞춤형 AI 기능과 워크플로우를 개발하고 있다”고 설명했다.

AI 어시스턴트 빌더는 특정 하드웨어 요구사항을 충족하는 모든 인텔 기반 AI PC에서 원활하게 실행된다. 최소 사양은 인텔® 코어™ Ultra 프로세서(시리즈 1), 16GB 램(RAM), 그리고 내장 인텔® 그래픽(Integrated Intel® Graphics)을 탑재한 PC다. 작년 9월, 인텔은 이전 세대 대비 AI 성능을 3배 향상시키고 전력 소모를 최대 50% 줄인 인텔® 코어™ Ultra 프로세서(시리즈 2)를 공개했다.

초기 툴킷 다운로드에는 인터넷 연결이 필요하지만, AI 어시스턴트 빌더는 쿼리 처리를 클라우드가 아닌 로컬 PC에서 실행한다. 이는 보안 우려를 해소하는 데도 큰 도움이 된다.

올레나 주는 “AI 어시스턴트를 클라우드 기반이 아닌 로컬 AI PC에서 실행하면, 사용자는 데이터 보안에 대한 완전한 통제권을 가지며 더욱 안심하고 사용할 수 있다”고 강조했다.

Dr. Olena Zhu is a senior principal engineer and AI solution architect in Intel’s Client Computing Group. “We’re providing the industry the building blocks to create their own AI-centric content,” says Zhu. (Credit: Intel Corporation)

At CES 2025, Jim Johnson, senior vice president and interim leader of the Client Computing Group at Intel, unveils Intel AI Assistant Builder. Its specialized software framework allows for the creation of custom AI assistants that help with routine, everyday tasks. (Credit: Intel Corporation)

The Acer Swift 14 AI is a new AI PC from Acer that is powered by Intel® Core™ Ultra Processors (Series 2) and sports all-day battery life of up to 29 hours. (Credit: Acer Inc.)

주요 고객이 주목한 AI 어시스턴트 빌더

올레나 주와 그녀의 팀은 AI PC의 활용을 극대화할 수 있는 쉽고 빠른 AI 빌더의 필요성을 앞서 예측했다. 이들은 2024년 2월에 AI 어시스턴트 빌더의 초기 프레임워크를 설계했다. 불과 5개월 뒤인 6월, 팀은 고객이 직접 활용할 수 있는 프로토타입을 완성했다.

인텔은 주요 고객에게 엔지니어링 컨설팅 및 기술 지원과 함께 이 소프트웨어를 무료로 제공하고 있다.

단 3일 만에 구현한 스마트 카메라 솔루션

에이서는 인텔 AI 어시스턴트 빌더를 활용해 단 3일 만에 카메라 기반 온라인 세일즈 어시스턴트의 POC를 개발했다. 에이서의 카메라 비전 기술을 활용한 이 어시스턴트는 화상 회의 중 제품을 인식하고, 영상 피드에서 제품에 대한 관련 정보를 제공할 수 있다.

이 어시스턴트는 인텔 AI 어시스턴트 빌더의 RAG 메커니즘을 활용해 제품 특성을 학습할 수 있다. 에이서 고객들은 인텔 코어 울트라 프로세서가 탑재된 AI PC에서 이 솔루션을 사용할 수 있다. 에이서 스위프트 14 AI(Acer Swift 14 AI)는 인텔 코어 Ultra 프로세서(시리즈 2)를 탑재하고 최대 29시간 지속되는 배터리를 갖춘 AI PC다.

에이서 컴퓨트 소프트웨어 기술 담당 부사장 마크 양(Mark Yang)은 “인텔 AI 어시스턴트 빌더를 통해 더 많은 개발자들이 자신만의 AI 어시스턴트를 만들 수 있게 되었다. 특히 에이서의 카메라 비전 기술과 결합했을 때 더욱 다양한 기회를 창출할 수 있을 것으로 기대된다”며, “에이서는 인텔과의 오랜 파트너십을 바탕으로 하드웨어 및 소프트웨어 솔루션을 통해 고객들이 이러한 애플리케이션을 효과적으로 구현할 수 있도록 지속적으로 지원할 것이다”라고 덧붙였다.