인텔은 기업 내 AI를 '3~5년 경로'로 본다

칩 대기업은 AI를 더욱 '턴키'로 만들기 위해 오픈 소스 소프트웨어 개발자 및 파트너와 협력하고 있습니다.

대부분의 기업은 데이터 센터에서 생성적 인공 지능(gen AI)의 "개념 증명"을 구현하고 있지만 대부분은 프로덕션 앱을 갖추고 있지 않으며, 칩 대기업 Intel에 따르면 거기에 도달하는 데 시간이 좀 걸릴 것입니다.

ZDNET과의 인터뷰에서 거대 반도체 회사의 소프트웨어 및 첨단 기술 그룹 부사장인 Melissa Evers는 "소매 부문이든 AI 세대에 엄청난 잠재력이 있다는 데 동의하는 사람들이 많이 있습니다"라고 말했습니다. 다양한 업종, 정부 등."

"하지만 이를 생산으로 전환하는 것은 정말, 정말 어려운 일입니다."

솔루션 및 생태계 엔지니어링과 데이터 센터 및 AI 소프트웨어를 운영하는 Evers와 동료 Bill Pearson은 컨설팅 회사인 Ernst & Young이 올해 초 발표한 데이터를 인용하여 기업에서 AI 세대의 대략적인 시작을 보여주었습니다.

Evers는 AI의 "일반적인" 사용이 현재 기업에서 일어나고 있지만 "다양한 유형의 사물을 제공하는 다양한 유형의 생성 AI 파이프라인이 있는 훨씬 더 정교하고 복잡한 시스템을 보려면 몇 년이 더 걸릴 것"이라고 말했습니다. ."

데이터에 따르면 "43%의 기업이 생성 AI에 대한 개념 증명을 모색하고 있지만 사용 사례 측면에서 생성 AI를 프로덕션에 도입한 기업은 0%"라고 조사 결과를 요약했습니다.

더욱이 Evers는 "일반적인 사용 사례"가 현재 일어나고 있다고 말했습니다. "그러면 다음 해에는 맞춤화와 추가 통합을 보게 될 것입니다."

"그리고 그 후 1~2년 후에는 다양한 유형의 생성 AI 파이프라인이 다양한 유형의 사물을 공급하는 훨씬 더 정교하고 복잡한 시스템을 보게 될 것입니다."라고 그녀는 말했습니다. "제 생각에는 전체 비전이 실현되려면 3~5년 정도 걸릴 것 같습니다. 이는 다양한 신기술 채택과 관련해 역사 전반에 걸쳐 우리가 보아온 것과 꽤 일치합니다."

Evers와 Pearson은 Gen AI와 관련하여 제기된 보안 문제를 포함하여 현재까지 견인력이 부족한 데에는 여러 가지 이유가 있다고 말했습니다.

기업의 또 다른 문제는 AI 세대의 빠른 변화 속도, "업계의 이탈 정도, 지속적으로 구축되고 있는 새로운 모델과 새로운 데이터베이스 솔루션"이라고 Evers는 말했습니다.

Evers는 이 문제가 AI와 기업의 "생태계 전반에 걸쳐 현실적이고 느껴진다"고 말했습니다.

보안과 지속적인 변화를 모두 해결하기 위해 인텔은 최근 "최대한 턴키에 가까운" 방식으로 기업에 Gen AI 구성 요소를 제공하기 위한 수많은 파트너십을 발표했다고 피어슨은 말했습니다.

Pearson은 "그래서 우리는 OEM 파트너와 함께 컴퓨팅, 네트워크 스토리지, 기본 소프트웨어를 포함하는 랙 규모 하드웨어 설계를 검토하고 있으며, 그런 다음 특정 사용 사례에 맞춰 선별한 오픈 소스 마이크로 서비스를 모두 활용하고 있습니다"라고 말했습니다. 고객이 구현하는 RAG 솔루션을 구축하는 데 기여할 수 있는 솔루션 또는 솔루션의 일부를 제공하는 ISV의 사용 여부도 결정됩니다."

Evers는 이 제품이 보안 문제를 처리하기 위해 '강화'된 기술일 뿐만 아니라 '모듈식'이기도 하여 이 모델이 더 나은 결과를 제공하는지, 해당 모델이 더 나은 결과를 제공하는지 실험하고 확인할 수 있거나 다양한 실험을 할 수 있다고 말했습니다. 데이터베이스 유형의 솔루션입니다."

Pearson은 "오늘날 기업들은 상자에 걸레가 들어있길 원하며 단지 효과가 있는 솔루션을 원한다고 말하는 것을 봅니다."라고 말했습니다. "기업은 하드웨어를 구입하고 배포하려는 사용 사례를 선택할 수 있습니다."

Intel의 기회에 대해 Pearson은 Nvidia와의 하드웨어 경쟁에서 "우리는 원형 차트를 바꿀 것이라고 믿습니다"라고 말했습니다.

일부 회사에서는 "그렇게 많은 일을 하고 싶어하지도 않습니다"라고 그는 말했습니다. 그들은 단지 시스템 통합업체에 가서 메뉴에서 기능을 선택하기를 원합니다. 소수인 세 번째 그룹은 "자체 구축을 원하며 우리는 이를 위해 그들과 협력하고 있는" "매우 정교한 기업"입니다.

Gen AI에 대한 Intel의 패키지 접근 방식은 Intel의 경쟁자가 기업을 위해 즉시 구축된 제품으로 파트너와 함께 판매하고 있는 Nvidia Inference Microservices("NIM")를 반영합니다.

자체 노력을 강화하고 Nvidia의 AI 지배력을 상쇄하기 위해 Intel은 OPEA(Open Platform for Enterprise AI)라는 오픈 소스 소프트웨어 컨소시엄을 통해 Red Hat 및 VMware를 포함한 수많은 회사와 파트너십을 맺었습니다. Linux Foundation의 이 이니셔티브는 "개방형, 다중 공급자, 강력하고 구성 가능한 Gen AI 시스템 개발"을 약속합니다.

OPEA 작업은 Evers가 참조한 일반 기능을 적용하고 조정하기 위한 출발점이 될 "참조 구현"을 제공하고 있습니다.

"챗봇의 경우 해당 챗봇을 소매업에 적용하든 의료 서비스에 적용하든 정말 다르게 보일 것입니다."라고 그녀는 말했습니다. 하지만 여기 RAG 구현 등을 통해 다양한 유형의 모델과 그 정확성을 확인할 수 있는 [챗봇의] 구현이 있습니다."

OPEA를 통해 기업은 "700억 매개변수 모델이 정말 필요한가요, 아니면 70억 매개변수 모델로 충분한 정확도를 얻을 수 있나요?"와 같은 AI 세대와 관련된 다양한 기술 질문에 답할 수 있습니다. 그녀는 대부분의 세대 AI 모델의 정의 지표인 신경 "가중치"의 수를 언급하면서 말했습니다("AI 모델"은 AI 프로그램의 핵심 요소인 수많은 신경망 매개변수와 활성화 함수를 포함하는 AI 프로그램의 일부입니다). AI 프로그램 기능).

AI 가속기 칩 시장에서 Nvidia의 지배력에 대해 Pearson은 "우리는 원형 차트를 바꿀 것이라고 믿습니다"라고 말했습니다. "우리는 생태계에 개방적이고 중립적이며 수평적인 솔루션을 제공하면 개방성, 선택 및 신뢰가 가능하며 근본적으로 기술의 역사가 이러한 원칙을 바탕으로 구축되었다고 믿습니다.

"Linux 보급 및 소프트웨어 정의 네트워킹과 관련하여 데이터 센터의 변화를 살펴보면 이러한 모든 시장은 개방성에 의해 구축되고 정의되었습니다."