웹사이트 검색

머스크, 워즈니악 및 기타 기술 리더들은 추가 AI 개발을 중단하라는 청원서에 서명했습니다.

1,000명이 넘는 서명이 담긴 청원은 대규모 AI 실험을 중단할 것을 요구하고 있습니다. 이유는 다음과 같습니다.

AI에 대한 관심은 전례 없는 수준에 이르렀고, 새로운 AI 애플리케이션이 거의 매일 대중에게 공개되고 있습니다. OpenAI는 ChatGPT를 출시한 지 4개월 만에 가장 유능한 대형 언어 모델인 GPT-4를 공개했습니다.

새로운 청원은 이러한 빠르고 대규모 개발을 중단하고 AI 연구소가 GPT-4보다 더 강력한 AI 시스템 훈련을 최소 6개월 동안 중단할 것을 요구하고 있습니다.

업계 전문가들이 추진한 이 청원은 인간과 경쟁하는 지능을 갖춘 AI 시스템이 유발할 수 있는 "사회와 인류에 대한 심각한 위험"으로부터 사회를 보호하고자 합니다.

구체적으로, 이 청원은 이러한 고급 AI 모델을 배포하는 데 필요한 계획 및 관리 부족을 대상으로 하며, 청원서에서는 제작자가 "이해하고 예측할 수 없는" 시스템을 생산하는 "통제 불능의 경쟁"이라고 불렀습니다. 또는 안정적으로 제어할 수 있습니다."

공개 서한에 따르면 청원서에서 제안한 휴식 시간은 AI 연구소와 독립 전문가에게 AI 시스템을 더욱 정확하고 안전하며 해석 가능하고 신뢰할 수 있고 충성스럽게 만드는 고급 AI 설계를 위한 안전 프로토콜을 개발할 시간을 제공할 것이라고 합니다.

주요 행위자들이 신속하게 중단을 고수하기를 원하지 않는 경우, 청원서는 정부가 개입하여 유예 조치를 취해야 한다고 제안합니다.

인간 복제, 우생학 등 과거에 “사회에 잠재적으로 재앙을 초래할 수 있는” 기술이 정부 기관에 의해 일시 중지된 적이 있으며, 청원서에는 이 사건도 동일한 주의를 기울여 다루어야 한다고 명시되어 있습니다.

이 청원은 Tesla CEO Elon Musk, Apple 공동 창립자 Steve Wozniak, 안정적인 확산을 담당하는 Stability AI CEO Emad Mostaque 등 업계 유명인사를 포함하여 1,100명 이상의 서명을 받았습니다.

원래 2015년 OpenAI가 설립되었을 때 투자자였던 머스크는 AI의 급속한 성장, 특히 이전에 Microsoft의 참여에 대해 우려를 표명했습니다.

관련기사