귀하의 비즈니스는 수백 개의 AI 모델에 의존하게 될 것입니다. 이유는 다음과 같습니다.

우리는 모든 출력에 대해 여러 모델을 동시에 사용하는 AI에 대한 '앙상블' 접근 방식을 지향하고 있습니다. 그러나 IT 관리자는 용량과 비용에 대해 걱정하고 있습니다.

대부분의 조직이 다양한 목적에 적합한 멀티 클라우드 옵션과 여러 데이터베이스를 선호하는 것처럼 모든 목적에 맞는 인공 지능(AI) 모델이 있습니다. 1,000명 이상의 IT 의사 결정자를 대상으로 한 설문 조사에 따르면 가장 발전된 AI 채택자는 수백 가지 모델을 동시에 활용하고 있는 것으로 나타났습니다.

우리는 지금 '다중 모델 AI' 시대에 있습니다. S&P Global Market Intelligence가 실시하고 Vultr가 인수한 조사에 따르면 현재 운영 중인 개별 AI 모델의 평균 수는 158개이며, 이 숫자는 내년에 176개 AI 모델로 증가할 것으로 예상됩니다.

가장 고급 사용자들은 평균 175개의 모델을 사용하고 있다고 보고했으며, 올해 안에 14% 증가하여 200개 모델이 될 것으로 예상됩니다. 두 번째로 높은 AI 성숙도 수준에 있는 응답자들은 모델 수가 전년 대비 18% 증가할 것으로 예상했습니다. 설문 조사에 참여한 관리자 중 2/3(66%)는 자체 모델을 구축 또는 개발하거나 오픈 소스 모델을 사용하고 있습니다.

다양한 사용 사례에 걸쳐 여러 모델을 배포하는 데에는 실질적인 이유가 있습니다. 예를 들어 MIT의 보고서에서는 로봇이 가사, 건설, 제조 작업에 대한 계획을 개발하고 실행할 수 있도록 언어, 시각, 행동 데이터에 대해 훈련된 세 가지 모델을 사용하는 시스템의 예를 살펴봅니다. MIT 연구원들은 "사용된 각 기반 모델은 의사 결정 과정의 서로 다른 부분을 포착한 다음 결정을 내릴 때 함께 작동합니다"라고 말했습니다.

새롭게 떠오르는 것은 Erica Dingman이 MovableInk의 게시물에서 설명한 대로 모든 출력에서 동시에 작동하는 여러 모델을 포함하는 AI에 대한 '앙상블' 접근 방식입니다. "단일 모델과 앙상블 모델 접근 방식의 차이점은 단일 바이올린과 전체 오케스트라의 차이점과 유사합니다."라고 그녀는 말했습니다.

"각 악기는 가치를 제공하지만 여러 악기가 함께 작동하면 정말 마법 같은 것을 만들어냅니다." 또한 다양한 데이터 세트와 "지속적으로 업데이트되고 훈련되는 모델의 앙상블"을 사용하면 AI 출력의 편견을 줄이거 나 제거하는 데 도움이 될 수 있습니다.

AI 모델을 지원하거나 이를 기반으로 하는 시스템의 광범위한 배포와 다양성도 이러한 모델의 확산을 지원합니다. 예를 들어, S&P와 Vultr 조사에 따르면 AI는 점점 더 엣지로 이동하고 있습니다.

설문 조사 작성자는 "엣지가 조직의 인프라에 걸쳐 있는 애플리케이션의 핵심 구성 요소인 분산 AI 아키텍처가 새로운 표준이 될 가능성이 높습니다"라고 말했습니다. 설문 조사에 참여한 IT 의사 결정자의 대다수(85%)는 이러한 변화가 자신의 환경에서 발생할 가능성이 높거나 매우 높다고 답했으며, 32%는 이러한 변화가 "매우 가능성이 높다"고 생각했습니다.

이 연구의 저자들은 AI 팩을 선도하는 조직, 즉 "변형적인 AI 관행"을 갖춘 조직을 정의했습니다. 이러한 변압기 중 절반은 운영 수준의 변압기보다 업계 동료에 비해 "상당히 더 나은" 성능을 보이고 있습니다. 거의 모든 변압기 업체는 고객 만족도(90%), 매출(91%), 비용 절감/마진 확대(88%), 위험(87%), 마케팅(89%) 부문에서 2022~2023년 전년 대비 성과가 개선되었다고 답했습니다. ) 및 시장 점유율(89%)입니다.

조사에 참여한 모든 조직에서 AI 지출은 일반 IT 지출을 앞지를 것으로 예상됩니다. 10개 기업 중 거의 9개(88%)가 2025년에 AI 지출을 늘릴 계획이며, 49%는 중간 정도에서 상당한 증가를 예상합니다.

그러나 급증하는 숫자 뒤에는 기존 IT 인프라에 대한 수요와 관련된 과제가 있습니다. 설문조사 작성자는 “실시간 추론 등 수요가 높은 AI 활동을 살펴보면 응답자들은 기존 인프라가 해당 작업을 수행하지 못할 것이라는 우려를 표명했습니다”라고 말했습니다. 상위 3가지 우려 사항은 CPU 또는 GPU 리소스 부족(65%), 데이터 지역성 문제(53%), 스토리지 성능 문제(50%)였습니다.

저자는 "인터뷰 대상자들이 퍼블릭 클라우드의 고용량 GPU 인스턴스의 예약 지연과 데이터 가용성에 대한 잠재적 영향에 대한 우려를 표명하면서 이것이 질적 데이터에 반영되는 것을 확인했습니다."라고 말했습니다.

"또한 인프라 비용의 영향에 대한 우려가 커지고 있다는 점에도 주목했습니다. 프로젝트가 프로덕션 단계에서 실행되면 비용이 더욱 긴급한 문제가 되는 경우가 많습니다. 역사적으로 조직은 비용을 효과적으로 예측할 수 있는 능력이 제한되어 있었습니다."