Microsoft, Inspire 2023에서 Azure AI 트리오 발표

이러한 세 가지 새로운 Azure 기술은 AI 기능을 확장하고 이러한 기능을 엔터프라이즈 규모로 제공할 수 있도록 해줍니다.

Microsoft는 오늘 Inspire 2023 컨퍼런스에서 수많은 새로운 기능을 발표했습니다. 그 중에는 더 깊이 탐구할 가치가 있는 세 가지 새로운 AI 기능이 있습니다.

이러한 기능은 올해 레드먼드에 본사를 둔 회사에서 Azure 기반 AI 릴리스의 상당 부분을 따릅니다.

AI 플랫폼의 Microsoft 기업 부사장인 John Montgomery는 ZDNET과의 인터뷰에서 "점점 더 많은 기업들이 AI 빌드를 맞춤화하고 조직의 요구 사항과 예산에 맞게 도구를 찾고 있습니다. 우리의 목표는 모든 조직이 AI를 통해 사물을 쉽게 혁신할 수 있도록 하는 것입니다. 조직 데이터를 사용하여 챗봇을 구축하고 검색 및 문서 인텔리전스를 변환하여 귀중한 통찰력을 얻고 더 나은 비즈니스 결정을 내리는 것과 같습니다."

뛰어 들어 봅시다.

Azure AI 벡터 검색 미리 보기

ChatGPT와 같은 대규모 언어 모델(LLM)의 기능을 알게 되면서 가장 놀랍고 논란의 여지가 있는 기능 중 하나는 쿼리나 프롬프트에 대한 응답으로 데이터를 찾고 설명하는 기능입니다. 방대한 데이터 세트를 분석하려면 매우 강력한 검색 기능이 필요합니다.

대부분의 사람들은 단어나 구문이 결과 데이터의 조회 키로 사용되는 전통적인 키워드 검색에 익숙합니다. 그러나 AI 엔지니어들은 벡터 검색이라는 다른 종류의 검색을 사용해 왔습니다.

벡터 검색은 텍스트뿐만 아니라 이미지, 비디오, 오디오와 같은 미디어 유형도 검색할 수 있습니다. 이 차트는 키워드 검색이 벡터 검색과 어떻게 다른지에 대한 간략한 개요를 제공합니다.

벡터 검색은 키워드를 사용하는 대신 데이터의 숫자 표현을 생성합니다(벡터 임베딩이라고 함).

벡터 검색은 다양한 검색 메커니즘이 포함된 Azure Cognitive Search 제품의 일부입니다. 검색 애플리케이션은 이러한 검색 옵션의 하이브리드 세트를 호출하여 대규모 데이터 검색을 수행하고 심층적인 검색 기능을 제공할 수 있습니다.

오늘 Microsoft Inspire 2023에서 Microsoft는 벡터 검색이 이제 공개 미리 보기로 제공되며 개발자가 이 기능을 프로젝트에 통합할 수 있다고 발표했습니다.

Azure Al Document Intelligence 미리 보기

ChatGPT와 같은 AI 챗봇은 상당한 생산성 이점을 제공합니다. 그러나 기업 환경에서 사용하려고 시도하면 금세 벽에 부딪히게 됩니다.

LLM은 엄청난 지식 분석(및 무작위로 생성된 약간의 환각 필러)을 제공하지만 기업 정보를 처리하는 능력은 부족합니다.

이러한 역량 부족은 다음 세 가지 주요 요인에 의해 발생합니다.

1. 공개 LLM(특히 ChatGPT)의 데이터에는 시간적 경계가 있습니다. 즉, ChatGPT는 2021년 이후에는 아무것도 모릅니다.
2. 공공 LLM은 사용자 매뉴얼 및 수리 매뉴얼의 내용이든 재무 및 전략 계획 문서의 내용이든 귀하의 기업 정보에 대해 확실히 알지 못합니다.
3. 다행스럽게도 공개 LLM의 데이터세트에 깊이 있는 기업 정보를 삽입할 수 있는 방법이 없습니다. 모든 독점 정보가 공개되는 것을 원하지 않기 때문입니다.

그러나 생성적 AI 챗봇의 기능을 심층적인 기업 데이터 및 문서와 결합하면 엄청난 잠재력이 있습니다. 고유한 사용자 매뉴얼과 상호 작용하거나 몇 년 전의 회의록을 기반으로 질문을 할 수 있다고 상상해 보십시오. 발견 잠재력은 물론 부서 간 지식 통합 잠재력도 엄청납니다.

Azure AI Document Intelligence(이전의 Azure Form Recognizer)와 Azure OpenAI Service 간의 협업인 Document Generative AI가 등장하는 곳입니다. 또한 Inspire 2023에서 방금 발표된 이 기능은 여러 문서 유형인 OCR(AI 포함)을 지원합니다. - 구동된 오류 수정) 및 정보 추출.

무엇보다도 Microsoft와 Azure가 모든 클라우드 기반 서비스에 제공하는 모든 보안 기능을 통해 독점 데이터를 업로드하고 해당 데이터가 잠겨 있고 제어할 수 있다는 확신을 가질 수 있습니다.

그 외에도 Azure 기반 솔루션의 실제 핵심은 확장성입니다. 개별 문서는 작은 것부터 큰 것까지 가능하며, 문서 라이브러리는 기업 규모일 수도 있습니다. Microsoft는 오늘 이 GitHub 리포지토리를 통해 서비스를 시험해 볼 수 있다고 발표했습니다.

속삭임 모델 미리보기

우리의 관심을 끌었던 세 번째 주요 AI Azure AI 발표는 엔터프라이즈 규모에서 오디오 전사를 처리하는 서비스의 새로운 Whisper 모델입니다. 이 역시 OpenAI와의 협업으로 Azure 위에 OpenAI 서비스를 제공합니다.

위스퍼 모델은 57개 언어를 이해할 수 있는 능력을 가지고 있습니다. 이는 Microsoft가 "향상된 가독성"이라고 부르는 기능을 지원합니다. 이는 본질적으로 AI가 맥락에서 말하는 내용을 이해할 수 있고 적절하게 더 구어적인 표현으로 전사를 만들 수 있음을 의미합니다.

여기서 가장 큰 특징은 확장성입니다. Azure의 귓속말 모드는 수백 또는 수천 개의 문서를 기록하도록 확장할 수 있습니다. 예를 들어, 수천 건의 고객 서비스 대화를 기록하고 이전에 논의한 일부 도구를 사용하여 색인을 생성할 수 있습니다.

이는 서비스의 사용자 지정 및 Azure 통합 측면과도 관련이 있습니다. 앞서 살펴보았듯이 Azure AI에는 다양한 제품이 있으며 새로운 Whisper 모델은 이러한 제품에 통합되어 사용자가 매우 맞춤화된 애플리케이션을 구축할 수 있습니다.

IBM은 Watson 음성 텍스트 변환 솔루션을 제공하고 Google은 Amazon. 대부분은 Azure의 속삭임 모드와 유사한 기능을 제공합니다.

Azure/OpenAI 제품의 실제 차별화 요소는 다른 Azure 솔루션과 얼마나 긴밀하게 통합되고 Azure 보안 기능을 포함하여 사용자 지정 애플리케이션의 다른 측면과 함께 추가할 수 있는 매우 자연스러운 구성 요소인지입니다.

Whisper 모델은 Inspire 2023에서 발표되었습니다. 미리 보기로 제공되면 사용자는 Azure OpenAI 서비스에 대한 액세스를 신청할 수 있으며, 그러면 Whisper 테스트를 위한 문이 열립니다.

Inspire 2023의 더 많은 AI

Microsoft의 Montgomery는 "슈퍼컴퓨팅 인프라와 신뢰할 수 있는 클라우드 기능부터 최첨단 AI 모델과 강력하고 책임감 있는 AI 도구에 이르기까지 우리는 Azure를 AI 모델을 교육, 배포 및 확장하기 위한 최고의 장소로 만드는 데 지속적으로 초점을 맞추고 있습니다. 열려 있는."

이 기사에서는 Inspire 2023에서 발표된 세 가지 AI 기술을 집중 조명했습니다. Microsoft는 분명히 Azure 클라이언트를 위한 AI 도구를 제공하는 데 많은 시간과 투자를 투자했습니다. Inspire 2023에 대한 지속적인 보도와 Microsoft가 발표하는 기타 AI 이니셔티브에 대해 ZDNET을 계속 읽어보세요.

소셜 미디어에서 저의 일상적인 프로젝트 업데이트를 팔로우하실 수 있습니다. Substack에서 주간 업데이트 뉴스레터를 구독하고 Twitter(@DavidGewirtz), Facebook(Facebook.com/DavidGewirtz), Instagram(Instagram.com/DavidGewirtz), YouTube(YouTube.com/DavidGewirtzTV)에서 저를 팔로우하세요.