OpenAI, 애플리케이션 비용 절감을 위해 GPT-4o mini 제공

GPT-4o의 슬림형 버전은 개발자가 모델을 사용하여 예측할 때 비용을 60% 절감합니다.

OpenAI는 목요일에 GPT-4o 대형 언어 모델인 GPT-4o mini의 간단한 버전을 공개했습니다. GPT-4o mini는 GPT-4보다 정확도가 뛰어나고 개발자가 사용할 때 GPT-3.5 Turbo보다 비용이 훨씬 저렴합니다. AI 모델을 광범위하게 사용하는 애플리케이션 개발을 촉진할 수 있습니다.

스타트업은 새로운 AI 모델을 "시장에서 가장 비용 효율적인 소형 모델"이라고 선전하지만, 대부분의 OpenAI 릴리스와 마찬가지로 GPT-4o mini에 대한 기술적 세부 정보(예: 매개변수 수)가 제공되지 않습니다. 이 경우 "작은"이 무엇을 의미하는지 불분명합니다.

("AI 모델"은 AI 프로그램이 작동하는 방식의 핵심 요소인 수많은 신경망 매개변수와 활성화 기능을 포함하는 AI 프로그램의 일부입니다.)

GPT-4o mini의 가격은 백만 입력 토큰당 15센트, 출력 토큰 백만 당 60센트로, 이전 프론티어 모델보다 훨씬 저렴하고 GPT-3.5 Turbo보다 60% 이상 저렴하다고 OpenAI는 블로그에 썼습니다. 게시물이 ZDNET으로 이메일로 전송되었습니다.

이러한 비용 절감은 활동량의 영향을 받는 애플리케이션 개발에 도움이 될 것이라고 스타트업은 말했습니다.

예를 들어 여러 API(응용 프로그래밍 인터페이스) 호출을 수행해야 하거나 더 큰 "컨텍스트 창"을 사용하여 자료를 검색하거나(예: 앱을 개발할 때 전체 코드 베이스를 검색하기 위해) 자주 상호 작용해야 하는 애플리케이션 헬프데스크 지원 봇과 같은 사용자는 거래당 비용 절감의 혜택을 누릴 것이라고 OpenAI는 말했습니다.

Lmsys 리더보드의 크라우드소싱 테스트를 기반으로 한 이 모델은 챗봇으로 사용될 때 표준 GPT-4 모델보다 성능이 뛰어납니다. 또한 "텍스트 지능과 다중 모드 추론 모두에 대한 학문적 벤치마크에서 GPT-3.5 Turbo 및 기타 소형 모델을 능가하며" 표준 GPT-4o 모델만큼 많은 언어를 지원합니다.

"다중 모드 추론"의 "MMU" 테스트와 같은 인기 있는 AI 벤치마크에서 GPT-4o 미니 모델은 다른 여러 모델을 능가하며 표준 GPT-4o 성능에 근접합니다.

"다중 모드 추론"의 "MMU" 테스트와 같은 인기 있는 AI 벤치마크에서 GPT-4o 미니 모델은 다른 여러 모델을 능가하며 표준 GPT-4o 성능에 근접합니다.

새로운 모델은 Assistants API, Chat Completions API 및 Batch API를 통해 개발자가 즉시 사용할 수 있으며 ChatGPT의 무료, Plus 및 Team 계정에서 GPT-3.5 Turbo 대신 사용할 수 있습니다.

GPT-4o mini는 현재 텍스트와 이미지만 지원하며, 오디오와 비디오는 불특정 날짜에 추가될 예정입니다. GPT-4o 미니 컨텍스트 창은 토큰 128,000개이며, 훈련 데이터는 2023년 10월까지 최신입니다.