ChatGPT가 귀하의 앱을 위해 AI 생성 코드를 생성한다면 해당 코드는 실제로 누구의 것입니까?

일부 불확실성에도 불구하고 AI 생성 코드에 대한 지출이 선두를 달리며 애플리케이션에 대한 기업 투자가 2024년에 8배나 급증했습니다.

올해 기업은 인공 지능(AI)에 거의 140억 달러에 달하는 막대한 투자를 했습니다. 그러나 벤처 캐피탈 회사인 Menlo Ventures가 기업을 대상으로 실시한 조사에 따르면 상당수의 기업이 이 기술로 무엇을 하고 있는지 확신하지 못하고 있는 것으로 나타났습니다.

보고서 작성자, Menlo Ventures 파트너 Tim Tully 및 Joff Redfern, 투자자 Derek Xiao는 "설문조사 응답자의 3분의 1 이상이 조직 전반에 걸쳐 생성 AI가 어떻게 구현될지에 대한 명확한 비전을 가지고 있지 않습니다."라고 썼습니다. Anthropic의 Claude Sonnet 3.5 LLM(대형 언어 모델)을 사용하여 보고서를 편집했습니다.

전체 보고서 2024: 기업 내 생성 AI 현황은 Menlo Ventures 웹사이트에서 읽을 수 있습니다. 이 설문 조사는 9월과 10월에 실시되었으며 600명의 IT 의사 결정자의 응답을 바탕으로 이루어졌습니다.

이 보고서는 지난 9월 AI 에이전트에 대한 관점을 제시한 Tully, Redfern 및 Xiao의 최신 결과물입니다.

저자들은 생성적 AI(Gen AI)에 대한 불확실성이 "우리가 아직 대규모 변혁의 초기 단계에 있다"는 것을 의미한다고 제안합니다.

실제로 AI 전략에 대한 명확성이 부족한 점은 매우 긍정적인 부분 중 하나일 뿐입니다. Nvidia 등의 AI 칩에 대한 지출을 제외하고 "기초 모델, 모델 훈련 + 배포, AI 관련 데이터 인프라 및 새로운 생성 AI 애플리케이션"에 대한 지출은 2024년에 총 138억 달러에 달했다고 저자는 설명합니다. 이는 6배 이상입니다. 2023년 총액(23억 달러)입니다.

저자는 "이러한 지출 급증은 조직의 낙관주의 물결을 반영합니다"라고 썼습니다. "의사결정자의 72%는 가까운 미래에 생성 AI 도구가 더 광범위하게 채택될 것으로 예상합니다."

이러한 기업의 AI 지출 중 가장 큰 단일 범주는 기초 모델, Anthroptic, OpenAI 등이 개발한 LLM으로, 이는 2023년 10억 달러에서 올해 68억 달러로 급증했습니다. 가장 적은 지출은 데이터 및 인프라에 대한 4억 달러였습니다.

그러나 가장 큰 증가폭은 AI 애플리케이션으로 8배 증가한 46억 달러를 기록했습니다. 이 수치에는 수직형 AI, 부서별 AI, 수평형 AI라는 세 가지 범주가 포함됩니다.

AI 지출의 가장 큰 단일 범주는 기초 모델입니다.

연구원들은 애플리케이션 카테고리가 "뜨거워지고 있다"고 썼습니다.

"기초 모델 투자가 여전히 기업의 생성적 AI 지출을 지배하고 있지만, 애플리케이션 계층은 이제 인프라 수준에서 설계 패턴을 통합함으로써 이익을 더 빠르게 성장하고 있습니다. 기업은 이러한 도구를 사용하여 부문 전반에 걸쳐 워크플로우를 최적화함으로써 상당한 가치를 창출하고 있습니다. 더 폭넓은 혁신을 위한 길을 닦고 있습니다."

주요 사용 사례에는 현재 연간 수익이 3억 달러에 달하는 Microsoft의 GitHub Copilot을 포함하여 코드 공동 파일럿을 통한 코드 생성이 포함됩니다. 다음은 지원 챗봇, 기업 검색 및 검색, 자동 생성된 회의 요약입니다.

Menlo는 Anthropic 및 벡터 데이터베이스 제조업체인 Pinecone을 포함하여 해당 분야의 많은 스타트업을 지원하기 때문에 AI 지출에 직접적인 재정적 이해관계를 가지고 있습니다.

실제로 Anthropic은 OpenAI에 맞서 우위를 점하고 있으며 저자는 GPT에서 Claude로 전환하는 데 성공했다고 말합니다.

"비공개 소스 모델 중에서 OpenAI의 초기 이동자 이점은 다소 약화되었으며, 기업 시장 점유율은 50%에서 34%로 떨어졌습니다."라고 그들은 말합니다. "주요 수혜자는 Anthropic으로, 새 모델이 최첨단 모델이 되었을 때 일부 기업이 GPT-4에서 Claude 3.5 Sonnet으로 전환함에 따라 기업 입지가 12%에서 24%로 두 배로 늘어났습니다."

보고서에서 가장 미래 지향적인 부분은 Tully, Redfern 및 Xiao가 애플리케이션 구축에 사용되는 인프라 기술 계층인 "현대 AI 스택"이라고 부르는 내용을 다룹니다.

최신 AI 스택 및 해당 레이어.

연구원들은 "대부분의 프로덕션 AI 시스템의 런타임 아키텍처를 구성하는 핵심 빌딩 블록을 중심으로 기업이 통합되고 있다"고 보고합니다.

이러한 접근 방식에는 기반 모델, 그 위에 있는 데이터 서비스(예: Pinecone), AI 에이전트를 조정하기 위한 소프트웨어 개발 프레임워크(예: LangChain), 그리고 맨 위에는 Composio와 같은 통합 도구가 포함됩니다.

보고서는 내년에 대한 세 가지 예측을 제시합니다.

첫째, AI 에이전트는 Clay 및 Forge와 같은 플랫폼이 주도하는 4,000억 달러 규모의 엔터프라이즈 소프트웨어 시장을 "파괴"할 준비가 되어 있으며 "콘텐츠 생성 및 지식 검색에 초점을 맞춘 현재 시스템의 기능을 넘어서는 복잡한 다단계 작업을 처리합니다." "

둘째, 기존 소프트웨어 회사는 교과서 판매자인 Chegg와 IT 토론 회사인 Stack Overflow가 그랬던 것처럼 혼란을 겪을 수 있습니다. "Cognizant와 같은 IT 아웃소싱 기업과 UiPath와 같은 레거시 자동화 기업은 AI 기반 도전자가 시장에 진출할 수 있도록 대비해야 합니다. 시간이 지나면 Salesforce 및 Autodesk와 같은 거대 소프트웨어 기업도 AI 기반 도전자와 마주하게 될 것입니다."라고 Tully, Redfern 및 Xiao는 썼습니다.

셋째, AI 시스템이 더욱 보편화되면서 데이터 과학자와 주제 영역 전문가의 부족으로 인해 "대규모 인재 가뭄"이 발생할 것입니다. 연구원들은 "이미 높은 급여를 받는 AI 숙련 엔터프라이즈 아키텍트에 대한 치솟는 경쟁과 2~3배의 급여 프리미엄에 대비하세요"라고 예측합니다.