Microsoft, TikTok, 생성 AI에 일종의 메모리 제공

이 프로그램은 데이터베이스를 사용하여 수백 차례의 대화에서 ChatGPT를 이겼습니다. 혁신을 통해 모든 대규모 언어 모델에 ChatGPT와 유사한 기능을 제공할 수 있습니다.

TikTok 소유자 ByteDance의 "자체 제어 메모리 시스템"은 수백 차례의 대화와 수천 개의 문자로 구성된 데이터 뱅크에 접근하여 ChatGPT보다 우수한 언어 모델 기능을 제공하여 과거 이벤트에 대한 질문에 답할 수 있습니다.

ChatGPT와 같은 생성 인공 지능(AI) 프로그램의 프롬프트에 내용을 입력하면 프로그램은 사용자가 입력한 내용뿐만 아니라 이전에 입력한 모든 내용을 기반으로 응답을 제공합니다.

그 채팅 기록은 일종의 기억이라고 생각하시면 됩니다. 그러나 생성 AI에 생성된 것을 증가시킬 수 있는 조직화된 기억과 같은 것을 부여하려고 노력하는 여러 기관의 연구원에 따르면 그것만으로는 충분하지 않습니다.

이번 달 캘리포니아 대학교 산타바바라 캠퍼스의 Weizhi Wang 연구원과 Microsoft 공동 작업자가 "장기 기억을 통한 언어 모델 강화"라는 제목으로 발표하고 arXiv 사전 인쇄 서버에 게시된 논문은 언어에 새로운 구성 요소를 추가합니다. 모델.

문제는 ChatGPT와 유사한 프로그램이 한 순간에 매우 긴 컨텍스트를 가질 만큼 충분한 텍스트를 받아들일 수 없다는 것입니다.

Wang과 팀이 관찰한 바와 같이 "기존 LLM의 입력 길이 제한으로 인해 고정된 크기의 세션을 넘어서는 긴 형식의 정보를 처리하는 기능이 중요한 실제 시나리오로 일반화할 수 없습니다."

예를 들어 OpenAI의 GPT-3는 최대 2,000개의 토큰, 의미, 문자 또는 단어를 입력합니다. 예를 들어 5,000 단어로 된 기사나 70,000 단어로 된 소설을 프로그램에 제공할 수 없습니다.

입력 "창"을 계속 확장하는 것이 가능하지만 이는 까다로운 컴퓨팅 문제에 직면하게 됩니다. ChatGPT 및 GPT-4를 포함한 모든 대규모 언어 프로그램의 필수 도구인 주의 작업은 "2차" 계산 복잡성을 갖습니다(컴퓨팅의 "시간 복잡성" 참조). 이러한 복잡성은 ChatGPT가 답변을 생성하는 데 걸리는 시간이 입력으로 제공되는 데이터 양의 제곱에 따라 증가한다는 것을 의미합니다. 창을 늘리면 필요한 계산량이 늘어납니다.

그래서 Wang과 팀을 비롯한 일부 학자들은 이미 대략적인 기억을 생각해내려고 노력했습니다. 작년에 Google의 Yuhuai Wu와 동료들은 나중에 활용할 수 있는 이전 답변의 복사본을 저장하는 Memorizing Transformer라는 기능을 출시했습니다. 이 프로세스를 통해 한 번에 65,000개의 토큰을 사용할 수 있습니다.

그러나 Wang과 팀은 데이터가 "부실"해질 수 있다고 지적합니다. 메모리 변환기를 훈련하는 과정에서 신경 가중치 또는 매개변수가 업데이트됨에 따라 메모리의 일부 항목이 신경망과 동기화되지 않게 됩니다.

"장기 기억으로 강화된 언어 모델"(LongMem)이라는 Wang과 팀의 솔루션은 두 가지 작업을 수행하는 전통적인 대규모 언어 모델을 사용합니다. 입력을 면밀히 조사하면서 일부를 메모리 뱅크에 저장합니다. 또한 모든 현재 프롬프트의 출력을 SideNet이라는 두 번째 신경망에 전달합니다.

첫 번째 네트워크와 마찬가지로 언어 모델이기도 한 SideNet은 사람이 입력한 현재 프롬프트를 메모리 내용과 비교하여 관련 일치 항목이 있는지 확인하는 작업을 수행합니다. SideNet은 Memory Transformer와 달리 기본 언어 모델과 별도로 자체적으로 학습할 수 있습니다. 이렇게 하면 오래되지 않은 메모리 내용을 선택하는 능력이 점점 더 좋아집니다.

Wang과 팀은 테스트를 실행하여 LongMem을 Memorizing Transformer 및 OpenAI의 GPT-2 언어 모델과 비교했습니다. 또한 그들은 LongMem을 1,750억 매개변수 GPT-3을 포함하여 다른 언어 모델에 대해 문헌에서 보고된 결과와 비교합니다.

그들은 전체 기사와 교과서를 포함하여 매우 긴 텍스트를 요약하는 세 가지 데이터 세트(Project Gutenberg, arXiv 파일 서버 및 ChapterBreak)를 기반으로 하는 작업을 사용합니다.

이러한 작업의 규모에 대한 아이디어를 제공하기 위해 작년에 Simeng Sun과 Massachusetts Amherst 대학의 동료들이 소개한 ChapterBreak는 책 전체를 가져와 언어 모델을 테스트하여 한 장을 입력으로 제공하면 정확하게 작업을 수행할 수 있는지 확인합니다. 여러 후보 구절 중에서 어느 구절이 다음 장의 시작인지 확인하십시오. 이러한 작업에는 사건의 장소 및 시간 변화와 같은 "장거리 종속성에 대한 풍부한 이해가 필요"하며 "분석"을 포함한 기술도 필요합니다. 여기서 "다음 장은 서술의 이전 지점에 대한 '플래시백'입니다." ."

그리고 여기에는 수만 또는 수십만 개의 토큰을 처리하는 작업이 포함됩니다.

Sun과 팀이 작년에 ChapterBreak 테스트를 실행했을 때 주요 언어 모델이 "고군분투"했다고 보고했습니다. 예를 들어, 대형 GPT-3은 전체 시간 중 28%만 맞았습니다.

그러나 LongMem 프로그램은 "놀랍게도" 모든 표준 언어 모델을 능가했으며, Wang과 팀 보고서는 GPT-3을 포함하여 LongMem이 약 6억 개의 신경 매개변수만을 가지고 있음에도 불구하고 40.5%의 최첨단 점수를 제공했습니다. , GPT-3의 1,750억 개보다 훨씬 적습니다.

Wang과 팀은 "이러한 데이터 세트의 실질적인 개선은 LONGMEM이 캐시된 메모리에서 과거의 긴 컨텍스트를 이해하여 향후 입력에 대한 언어 모델링을 완벽하게 완료할 수 있음을 보여줍니다."라고 썼습니다.

Microsoft의 작업은 소셜 미디어 앱인 TikTok의 모회사인 ByteDance의 최근 연구를 반영합니다.

4월에 arXiv에 게시된 "자체 제어 메모리 시스템을 사용한 대규모 언어 모델에 대한 무한 길이 입력 용량 해방"이라는 제목의 논문에서 ByteDance의 Xinnian Liang 연구원과 동료들은 대규모 언어 모델을 제공하는 추가 기능 프로그램을 개발했습니다. 이야기되는 내용의 매우 긴 시퀀스를 저장하는 능력.

실제로 그들은 이 프로그램이 각각의 새로운 메시지를 상황에 맞게 배치하고 이에 대한 응답으로 적절한 설명을 작성하는 프로그램의 능력을 극적으로 향상시킬 수 있다고 주장합니다. 이는 ChatGPT보다 훨씬 더 뛰어납니다.

"자체 제어 메모리 시스템"(SCM)에서는 사용자가 프롬프트에 입력하는 입력을 메모리 컨트롤러가 평가하여 모든 정보를 포함하는 메모리 스트림이라는 보관 메모리 시스템에 딥핑해야 하는지 여부를 확인합니다. 사용자와 프로그램 간의 과거 상호 작용. 오히려 Wang과 팀의 SideNet 및 그에 수반되는 메모리 뱅크와 비슷합니다.

메모리가 필요한 경우 Pinecone과 같은 벡터 데이터베이스 도구를 통해 과거 입력 모음에 액세스합니다. 사용자의 입력은 쿼리이며 데이터베이스에 있는 내용과 관련성이 일치하는지 확인됩니다.

어떤 언어 모델에서나 처리할 수 있는 무작위 요청인 "농담을 말해 보세요"와 같은 일부 사용자 쿼리에는 메모리가 필요하지 않습니다. 하지만 "지난주에 우리가 피트니스 다이어트에 대해 내린 결론을 기억하시나요?"와 같은 사용자 프롬프트가 표시됩니다. 과거 채팅 자료에 액세스해야 하는 종류입니다.

깔끔하게 변형하면 사용자 프롬프트와 그것이 검색하는 메모리가 논문에서 "입력 융합"이라고 부르는 방식으로 결합됩니다. 그리고 결합된 텍스트가 응답을 생성하는 언어 모델에 대한 실제 입력이 됩니다. .

최종 결과는 SCM이 대화에서 수백 번의 이전 턴을 다시 참조하고 Liang과 팀을 작성하는 작업에서 ChatGPT를 능가할 수 있다는 것입니다. 그들은 SCM을 text-davinci-003이라는 GPT-3 버전에 연결하고 ChatGPT와 비교하여 동일한 입력으로 어떻게 작동하는지 테스트했습니다.

4,000개의 토큰으로 구성된 100개 이상의 턴으로 구성된 한 시리즈에서 인간이 세션 시작 부분에서 논의한 사람의 취미를 기계에 기억하도록 요청하면 "SCM 시스템은 쿼리에 대한 정확한 응답을 제공하여 뛰어난 메모리를 보여줍니다. -향상된 기능"이라고 적었지만 "반대로 ChatGPT는 관련 없는 상당한 양의 과거 데이터로 인해 주의가 산만해진 것으로 보입니다."

이 작품은 보고서 등 수천 단어의 긴 텍스트를 요약할 수도 있습니다. 이는 텍스트를 반복적으로 요약하여 수행합니다. 즉, 첫 번째 요약을 메모리 스트림에 저장한 다음 이전 요약과 결합하여 다음 요약을 생성하는 방식입니다.

SCM은 채팅 봇이 아닌 대규모 언어 모델이 채팅 봇처럼 동작하도록 만들 수도 있습니다. "실험 결과에 따르면 우리의 SCM 시스템은 다중 턴 대화에 최적화되지 않은 LLM이 ChatGPT와 비교할 수 있는 다중 턴 대화 기능을 달성할 수 있음을 보여줍니다."라고 그들은 썼습니다.

Microsoft와 TikTok 작업은 모두 언어 모델의 원래 의도를 확장한 것으로 생각할 수 있습니다. ChatGPT와 그 전신인 Google Transformer 이전에는 자연어 작업이 순환 신경망(RNN)이라고 불리는 것에 의해 수행되는 경우가 많았습니다. 순환 신경망은 현재 입력과 비교하기 위해 이전 입력 데이터로 돌아갈 수 있는 일종의 알고리즘입니다.

ChatGPT와 같은 Transformer 및 LLM은 RNN을 더 간단한 접근 방식인 Attention으로 대체했습니다. Attention은 입력된 모든 내용을 이전에 입력한 모든 내용과 자동으로 비교하므로 과거가 항상 적용됩니다.

따라서 Microsoft와 TikTok 연구 작업은 보다 조직적인 방식으로 과거의 요소를 회상하도록 명시적으로 제작된 알고리즘을 통해 관심을 확장합니다.

메모리 추가는 매우 기본적인 조정이므로 향후 대규모 언어 모델의 표준 측면이 될 가능성이 높으므로 프로그램이 채팅 기록과 같은 과거 자료에 연결하거나 매우 긴 작품의 전체 텍스트.