Bloomberg 조사에 따르면 기업은 생성적 AI 배포 노력을 두 배로 늘립니다.
Microsoft의 Azure는 OpenAI 파트너십 덕분에 AI 추론 사용 증가의 승자입니다.
블룸버그 인텔리전스(Bloomberg Intelligence)의 AI 보고서에 따르면 기업이 생성적 인공지능(Gen AI) 부조종사 프로그램을 배포하는 비율은 지난해 12월부터 2024년 7월까지 두 배로 늘어났다.
지난 7월 미국 기업의 CIO 50명을 대상으로 설문조사를 실시한 이 보고서에서는 응답자의 66%가 생성적 AI 부조종사 배치에 참여하고 있는 것으로 나타났습니다. 이는 12월 설문조사의 32%에 비해 크게 늘어난 수치라고 Bloomberg Intelligence의 선임 산업 분석가인 Mandeep Singh이 밝혔습니다.
응답자의 절반 이상이 인용한 Gen AI의 주요 사용 사례는 고객 서비스 애플리케이션과 같은 챗봇 에이전트입니다.
기업들은 또한 대부분의 Gen AI 애플리케이션의 기초를 형성하는 대규모 언어 모델인 기초 모델 훈련에 대한 평가를 높였습니다. 학습 기초 모델을 '작업'하는 응답자의 수는 12월 설문조사의 26%에서 40%로 증가했으며, 응답자의 절반은 모델 학습을 '평가'하고 있다고 답했습니다.
Sing은 이러한 배치로 인해 기업 간의 AI 추론 작업이 급증할 수 있다고 말했습니다. 응답자 중 무려 60%가 자신의 조직이 예측을 요구하는 Microsoft의 AI 추론 작업을 위한 Azure에 대한 지출을 늘릴 계획이라고 답했습니다. 이는 12월 설문조사의 41%에서 증가한 수치입니다.
Azure는 추론 선택에 있어 클라우드 공급자 중 선두를 달리고 있으며, Amazon의 AWS 클라우드 서비스는 12월과 7월 설문 조사 사이에 응답자의 55%에서 42%로 감소했습니다. Google Cloud는 추론에 대한 지출을 늘릴 의향이 있다고 응답자의 36%로 3위를 차지했습니다.
Singh은 부분적으로 AWS나 Google Cloud에서 사용할 수 없는 GPT-4와 같은 파트너 OpenAI의 Gen AI 모델의 매력 때문에 Azure의 추론에 대한 수요가 계속 증가할 것으로 예상한다고 말했습니다.
Singh은 보고서에서 "Microsoft의 Azure 플랫폼과 OpenAI 모델의 통합은 추론 워크로드 호스팅에 있어 퍼블릭 클라우드 경쟁업체에 비해 계속해서 이점을 제공하고 있습니다."라고 썼습니다.
OpenAI 모델을 사용하는 응답 기업의 비율은 12월 41%에서 최근 설문조사에서는 70%로 급증했습니다. Singh은 Google의 최고 Gen AI 제품을 언급하면서 "OpenAI의 70%에 비해 Google Gemini 사용은 18%에 불과했습니다."라고 썼습니다.
설문조사는 또한 Gen AI의 매력이 Microsoft가 클라우드 제공에서 Amazon과의 격차를 줄이는 데 도움이 되고 있음을 시사합니다. 보고서에 따르면 "2023년 말 기준 마이크로소프트의 클라우드 인프라 서비스 점유율은 16%, AWS는 47%였다"고 보고서는 밝혔다. 2018년에는 48~12%였다. Singh은 "우리는 이 격차가 더욱 줄어들 것으로 기대합니다"라고 썼습니다.
3대 클라우드 전문가 외에도 Snowflake와 MongoDB는 AI 모델이 외부 데이터베이스를 활용하는 점점 인기를 얻고 있는 Gen AI 기술인 "검색 증강 생성"(RAG) 개발에 있어 선호 공급업체 중 높은 순위를 차지했습니다.
MongoDB와 Snowflake는 응답자의 각각 14%와 10%로 Azure(26%)와 Amazon(20%)에 이어 RAG를 위한 최고의 선택이었습니다.
Bloomberg 조사에서 강조된 Gen AI 배포에 대한 진전은 다른 최근 연구와 대조됩니다. 분석가 Gartner는 기업이 기술의 가치를 입증하고 실현하는 데 어려움을 겪으면서 2025년 말까지 개념 증명 단계 이후 최소 30%의 생성 AI 프로젝트가 포기될 것이라고 예측했습니다.
한편, Gen AI에 대한 최근 Deloitte의 연구에 따르면 대부분의 조직은 Gen AI 프로젝트의 3분의 1 이하만 프로덕션으로 전환했습니다.
Bloomberg의 보고서는 "작업 중", "평가 중"과 같은 잠정적인 언어를 사용하고 있다는 점에 유의하는 것이 중요합니다. 즉, Gen AI가 기업에 내장되기 전에 진전이 필요합니다.