OpenAI의 Sora 비디오 생성기로 지금 바로 시작할 수 있는 수익성 있는 부업 3가지

위협 테스트 및 레드팀 구성의 엔지니어링은 Amazon 최초의 '프론티어' 모델의 가장 흥미로운 기여입니다.

Amazon의 새로운 프론티어 모델인 Reel에서 "베네치아 곤돌라를 탄 눈사람, 4k, 고해상도"라는 문구를 사용하여 생성한 영상입니다.

새로운 칩과 새로운 데이터 센터를 가져온 이번 달 초 AWS re:Invent 컨퍼런스에 대한 대부분의 보고서에서는 AWS가 OpenAI의 최고 기술과 경쟁할 수 있는 코드인 생성 인공 지능 분야의 첫 번째 "최초" 모델을 공개했다는 사실을 간과했습니다. Google.

Amazon은 "최첨단 인텔리전스와 업계 최고의 가격 대비 성능을 제공하는 차세대 최첨단 기반 모델"인 Nova를 선보였습니다.

구글의 제미니(Gemini)와 오픈AI(OpenAI)의 GPT-4가 주목을 받는 가운데 선두적인 성능 싸움을 벌인 아마존은 서둘러 따라잡기에 나섰다. 텍스트와 이미지를 포함하는 다양한 양식을 처리하는 Nova의 모델은 비디오 생성(OpenAI의 Sora와 유사) 및 이미지 생성에 적합한 버전으로 제공됩니다. 이는 텍스트와 이미지를 통합하는 대규모 언어 모델의 표준 요금이 되었습니다.

모델에는 멋진 이름도 붙어 있습니다. "Reel"은 비디오 생성 모델의 이름이고 "Canvas"는 이미지 생성 버전의 이름입니다. OpenAI와 Google에서 본 것과 유사한 기능에 대한 멋진 시연이 있습니다. "베네치아 곤돌라를 탄 눈사람, 4k, 고해상도"라는 키워드를 사용하여 Reel에서 생성한 비디오와 매끄러운 사진이 있습니다. "아주 멋진 프렌치 레스토랑"이라는 메시지와 함께 캔버스를 활용해 제작한 인테리어입니다.

Nova는 Amazon의 자체 테스트에서 데이터베이스를 활용하기 위한 RAG(검색 증강 생성) 접근 방식과 일종의 추론 연습으로 처리되는 출력을 생성하는 프로세스인 "생각의 사슬"을 광범위하게 사용합니다. AI 모델.

이 모든 것이 이제 Gen AI의 업계 표준이 되었습니다.

그렇다면 Amazon Nova의 새로운 기능은 정확히 무엇입니까?

상업용 AI 소프트웨어의 경우가 점점 늘어나는 것처럼 Amazon의 기술 보고서에는 Nova 모델의 구축 방법에 대한 귀중한 정보가 거의 공개되지 않기 때문에 말하기 어렵습니다. (보고서 작성자의 이름조차 공개되지 않습니다!)

회사는 Nova 모델이 Google의 2017년 획기적인 AI 언어 모델을 언급하면서 "Transformer 아키텍처를 기반으로 한다"고 밝혔습니다. 또한, 연속적인 훈련 라운드를 통해 모델이 다양한 데이터 영역을 처리하는 방법을 개선하는 "미세 조정" 접근 방식도 있습니다.

Amazon의 Nova Canvas 프론티어 LLM을 사용하여 만든 사실적인 인테리어 이미지와 "매우 멋진 프랑스 레스토랑"이라는 메시지가 포함되어 있습니다.

모델을 구축하기 위한 훈련 데이터도 공개되지 않았으며 Amazon은 "우리 모델은 라이선스 데이터, 독점 데이터, 오픈 소스 데이터 세트 및 공개적으로 사용 가능한 데이터를 포함하여 다양한 소스의 데이터에 대해 훈련되었습니다"라고만 밝혔습니다.

작업에서 가장 주목할만한 부분은 '책임 있는 AI', 즉 악의적인 위협 행위자가 AI 모델에 대한 적대적 공격과 같은 것을 피하는 것에 대한 폭넓은 논의입니다.

"정렬 가드레일을 우회하려는 시도와 같은 적대적인 입력에 대해 모델의 견고성을 보장하기 위해 우리는 모델을 사용하여 애플리케이션을 구축하는 개발자와 해당 애플리케이션을 통해 모델과 상호 작용하는 사용자 모두에게 적용 가능한 위험에 중점을 두었습니다."라고 저자는 썼습니다. 기술 보고서의

특히 Amazon의 엔지니어들은 소위 레드팀을 광범위하게 사용하여 "프롬프트 주입"과 같은 다양한 종류의 공격을 만들어 모델을 파괴하고 모델이 다음을 수행하도록 장려하는 키워드나 문구로 언어 모델의 프롬프트를 작성했습니다. 그 난간을 무너뜨립니다.

그 중 일부는 자동으로 악성 프롬프트를 생성하는 것과 관련되어 있습니다. "우리는 언어적, 구조적, 양식 기반 프롬프트 돌연변이 기술을 사용하여 수동으로 선별된 적대적 프롬프트의 다양성을 강화했으며, RAI를 준수하지 않는 응답을 생성할 때 각 돌연변이의 효율성을 평가했습니다. [책임감 있는 AI] 목표, 성공 가능성, 모델 개정에 대한 기술의 참신함."

보고서는 "전체적으로 우리는 300개 이상의 서로 다른 기술을 식별 및 개발했으며 개별적으로 기술을 테스트하고 다양한 조합을 연결하여 테스트했습니다"라고 밝혔습니다.

Amazon이 Gen AI의 신뢰성과 안전성 테스트에서 획기적인 발전을 이루었는지 여부는 아직 밝혀지지 않았습니다. 대부분의 개척지 모델 작업과 마찬가지로 악마는 세부 사항에 있으며 세부 사항은 지적 재산권 보호 뒤에 숨겨져 있습니다.

확실히 그 의도는 기술 보고서에서 야심차게 들립니다. Amazon의 레드팀 구성을 공개 소스와 비공개 소스 모두에서 경쟁 방법과 비교하기 위해서는 현장 전체가 벤치마크, 지표 등 적절한 평가를 내놓을 때까지 기다려야 합니다.