Microsoft Azure, 엔터프라이즈 생성 AI를 위한 향상된 RAG 제품인 '서비스로서의 모델' 제공
연례 개발자 컨퍼런스인 Microsoft Build에서는 Azure AI Services에 대한 수많은 업그레이드가 확인되었으며 이미 많은 항목이 미리 보기로 제공되었습니다.
화요일에 열린 연례 빌드 개발자 컨퍼런스에서 마이크로소프트는 생성 인공 지능에 초점을 맞춘 Azure 클라우드 컴퓨팅 사업 내에서 Azure AI 서비스의 몇 가지 새로운 기능을 공개했습니다.
새로운 기능은 더 큰 데이터베이스 액세스를 지원하는 것부터 자동으로 비디오를 여러 언어로 더빙하는 것, 복잡한 문서 구조를 이해하기 위한 대규모 언어 모델의 신속한 교육까지 다양합니다. 대부분의 혁신과 개선 사항은 이번 주에 이미 미리 보기 모드에 있습니다.
Studio에서 시작됩니다.
아마도 대부분의 개발자에게 가장 관련성이 높은 것은 Microsoft가 AI용 통합 개발 환경인 Azure AI Studio를 강화했다는 것입니다.
Azure에서 클라우드 애플리케이션을 만드는 데 필요한 모든 요소를 하나로 묶기 위해 Microsoft는 클라우드에 애플리케이션을 배포하는 데 사용되는 템플릿 명령 집합인 Azure 개발자 CLI를 증폭했습니다. 미리 보기 기능을 통해 개발자는 "부조종사 샘플 리포지토리에서 리소스를 생성하고 CI/CD(지속적 통합/지속적 전달) 솔루션의 일부로 대규모 언어 모델 작업(LLM Ops)을 촉진하여 코드-클라우드 워크플로를 가속화할 수 있습니다."
Azure AI Studio의 또 다른 향후 기능은 Microsoft가 "서비스로서의 모델(Models as a Service)"이라고 부르는 것으로, 프로그래머가 모델의 GPU 인프라를 관리할 필요 없이 대규모 언어 모델을 API로 호출할 수 있다고 Microsoft는 말했습니다.
복잡한 문서를 빠르게 이해
마이크로소프트는 문서 구조를 정의하는 템플릿을 사용해 복잡한 문서를 처리하는 언어 모델을 빠르게 개발하는 방식인 '커스텀 생성'이라는 새로운 유형의 AI 모델도 선보이고 있다. 이 접근 방식은 개발자가 작성해야 하는 "레이블"(문서의 다양한 필드에 대해 AI 모델을 가르치는 메타데이터)의 수를 줄입니다.
Microsoft는 "모델은 LLM(대형 언어 모델)을 사용하여 필드를 추출하며 사용자는 모델이 필드를 제대로 얻지 못한 경우에만 출력을 수정하면 됩니다"라고 말했습니다.
맞춤형 생성기는 "곧" 미리보기로 출시될 예정이라고 Microsoft는 말했습니다.
다양한 추가 기능은 "신속한 흐름"부터 추적 및 디버깅, 프로덕션에 투입된 Gen AI의 통계에 이르기까지 생성 AI 앱을 만드는 여러 부분을 용이하게 하기 위한 것입니다.
RAG 사용 확대
쿼리 결과를 특정화하고 환각을 피하기 위해 자체 데이터에 대규모 언어 모델을 기반으로 하려는 기업을 위해 회사는 Azure AI 검색을 업데이트했습니다. 이 서비스는 검색 증강 생성, 즉 가장 최근의 프롬프트를 검색하는 대신 데이터베이스에서 프롬프트에 대한 답변을 찾는 광범위한 관행인 "RAG"를 기반으로 합니다.
Azure AI Search의 새로운 기능에는 서비스가 LLM에 적합한 데이터의 압축 표현인 "벡터"로 저장된 결과를 평가하는 방식이 향상되었습니다. 마이크로소프트는 이번 변경으로 “고객에게 응답의 정확성을 향상시킬 수 있는 더 많은 옵션과 유연성을 제공한다”고 말했습니다.
또한 이 서비스는 LLM이 쿼리 응답을 위해 이미지를 더 쉽게 검색할 수 있도록 텍스트뿐만 아니라 이미지를 벡터로 변환하는 기능도 추가합니다.
또한 작년에 공개된 OneLake 데이터 레이크에 포함된 데이터를 라우팅하는 커넥터를 통해 지난해 Build에서 공개된 데이터 분석 플랫폼인 Fabric을 사용하면 Azure AI Search 서비스를 기업 데이터에 연결하는 것이 더 쉬워질 것입니다.
Microsoft는 Azure AI Search에서 큰 벡터 크기와 확장된 스토리지 기능으로 RAG 기능을 확장하는 기능을 강조합니다.
이제 Azure AI Search에서 미리 보기 형식으로 기능을 사용할 수 있습니다.
데이터베이스 개선
RAG는 그 자체로 유용하지만 대부분의 회사에서는 기존 데이터베이스 검색 방법을 조합하여 데이터를 검색해야 합니다. Azure 데이터베이스를 담당하는 기업 부사장인 Shireesh Thota는 블로그 게시물에서 다음과 같이 썼습니다. "AI 애플리케이션이 더욱 주류가 되면서 원활한 데이터베이스 관리가 무엇보다 중요해졌습니다. 무제한으로 자율적으로 확장할 수 있는 신뢰할 수 있는 솔루션은 빠르고 비교할 수 없는 유연성과 신뢰성을 제공하면 코딩의 미래가 형성될 것입니다."
이러한 이유로 Microsoft는 대규모 언어 모델 배포에 중요한 기능인 "벡터 검색"을 데이터베이스 제공 기능에 추가했습니다. 이를 통해 콘텐츠의 압축된 표현을 색인화하고 보다 쉽게 검색할 수 있습니다. 그리고 "임베딩"은 프런트 엔드에서 언어 모델에 대한 입력 데이터를 압축하여 데이터베이스에 익숙한 방식으로 저장할 수 있도록 하는 수단입니다.
NoSQL용 Azure Cosmos DB는 Azure Cosmos 데이터베이스를 확장하여 벡터 검색을 수행합니다. Microsoft는 Cosmos를 "서버를 관리할 필요 없이 클라우드 규모에서 대기 시간이 짧은 벡터 검색" 기능을 갖춘 최초의 클라우드 데이터베이스로 만들었다고 밝혔습니다.
Azure Database for PostgreSQL 데이터베이스 내 포함은 유서 깊은 PostgreSQL 데이터베이스의 Azure 구현을 업데이트하므로 입력 데이터를 LLM이 이해하는 표현으로 자동으로 압축할 수 있습니다.
앱 개발 준비
몇 가지 새로운 제품은 생성 AI 앱 개발 방식을 표준화하기 위한 것입니다. 여기에는 기업이 "신뢰할 수 있고 비용 효율적이며 규정을 준수하는 개인 챗봇을 생성"할 수 있도록 Microsoft가 말하는 참조 구현 모음인 "개인 챗봇을 위한 패턴 및 관행"이 포함됩니다.
이제 챗봇 템플릿을 사용할 수 있습니다.
새로운 다중 양식
새로운 모델이 없으면 개발자 AI 컨퍼런스가 완료되지 않습니다. Microsoft는 1년 전에 소개된 "Phi" 언어 모델 제품군에 추가 기능을 공개했습니다. Phi는 PC와 같은 "에지" 장치에 사용할 수 있도록 작게 만들어졌습니다. 즉, 그다지 많지 않은 양의 매개변수 또는 신경 "가중치"를 갖습니다. 새 버전인 Phi-3-Vision은 이제 이미지에 대한 쿼리 수행을 지원합니다.
Microsoft는 "42억 개의 매개변수 크기로 구성된 Phi-3-vision은 일반적인 시각적 추론 작업과 차트/그래프/표 추론을 지원합니다."라고 말했습니다.
Phi 업데이트 외에도 Microsoft는 지난 주 Azure AI Studio에서 미리 보기 형식으로 소개된 OpenAI의 최신 대규모 언어 모델인 GPT-4o의 가용성을 발표했습니다. Studio는 또한 OpenAI가 지난달 출시한 OpenAI의 GPT-4 "비전 기능을 갖춘 터보"도 획득합니다. 마이크로소프트는 비전이 포함된 GPT-4가 AI 앱에 새로운 차원을 도입해 텍스트, 이미지 등을 포괄하는 콘텐츠 생성을 가능하게 하여 보다 풍부한 사용자 경험을 제공한다고 밝혔습니다.
"이것은 검색 증강 생성(RAG)과 통합된 Microsoft Azure AI Enterprise Chat(이전의 On Your Data)의 새로운 기능과 함께 다중 모드 AI 앱 시대의 시작을 알리며 개발자에게 구축 도구를 제공합니다. 더욱 직관적이고 대화형인 솔루션이 출시되었습니다."
가드레일 맞춤설정
Microsoft는 조직이 생성 AI에 어떤 종류의 가드레일을 적용할지 조정할 수 있는 도구를 출시했습니다. "사용자 정의 카테고리"를 사용하면 개발자가 콘텐츠 제한을 특정화하기 위해 선택한 필터를 만들 수 있습니다. 마이크로소프트는 "이 새로운 기능에는 새로운 위협과 사고로부터 보호하기 위해 한 시간 안에 새로운 사용자 정의 필터를 배포할 수 있는 신속한 옵션도 포함되어 있다"고 말했다.
미리 보기에 있는 또 다른 기능인 "프롬프트 쉴드"는 대규모 언어 모델에 대한 탈옥 공격을 차단하기 위한 것입니다. 이는 종종 영리한 방법으로 프롬프트를 만드는 것만으로도 달성할 수 있습니다.
두 기능 모두 Microsoft의 Azure AI Content Safety 제품의 일부입니다.
연설하기
Google의 Gemini 및 OpenAI의 GPT-4o와 같은 모델의 경로를 따라 Microsoft는 프로그램에 음성을 제공하는 데 더 중점을 두고 있습니다. 미리 보기의 두 가지 기능에는 감정 분석 등을 위해 오디오 및 비디오 데이터를 조사하는 분석 도구와 비디오를 여러 언어로 자동 번역할 수 있는 비디오 더빙 서비스가 포함됩니다.