OpenAI의 Altman은 '초지능'이 코앞에 다가왔다고 보고 있지만 세부적인 내용은 부족합니다.

Altman의 에세이는 AI의 한계에 대한 지적 비판과 환경 및 사회적 혼란에 대한 우려에 어긋납니다.

OpenAI의 알트만은 8년 안에 '초지능'이 도래하고 그 결과 인류 번영의 새로운 시대가 도래할 것으로 내다봤습니다.

오픈AI(OpenAI) CEO 샘 알트먼(Sam Altman)은 지금으로부터 불과 8년 안에 인공지능(AI)이 '초지능(superintelligence)'으로 발전할 것이라고 말했다.

알트만은 지능 시대라는 제목의 에세이에서 "우리가 수천 일 안에 초지능을 갖게 될 가능성이 있습니다. 더 오래 걸릴 수도 있지만 거기에 도달할 것이라고 확신합니다"라고 썼습니다., 그의 이름으로 된 웹사이트에. 해당 게시물은 현재까지 웹사이트의 유일한 콘텐츠인 것으로 보입니다.

월요일에 Altman은 X(이전의 Twitter)에 해당 게시물에 대한 링크를 게시했으며, 화요일 오후까지 12,000개의 좋아요와 2,400개의 재게시물을 받았습니다.

지능 시대: https://t.co/vuaBNwp2bD

— 샘 알트만(@sama) 2024년 9월 23일

Altman은 1년 전 Financial Times와의 인터뷰에서 초지능이라는 용어를 사용했습니다. 알트만은 초지능을 학계와 산업계에서 인간과 같거나 그 이상으로 추론할 수 있는 컴퓨터인 "인공 일반 지능"(AGI)을 달성하기 위한 광범위한 탐구와 동일시하는 경향이 있습니다.

1,100자 분량의 에세이에서 알트만은 인간 번영의 극적인 도약을 가능하게 할 '사회 인프라'의 발전으로서 AI를 가능한 한 많은 사람들에게 전파해야 한다고 주장합니다.

"이러한 새로운 능력을 통해 우리는 오늘날 상상할 수 없을 정도로 번영을 공유할 수 있습니다."라고 Altman은 썼습니다.

"미래에는 모든 사람의 삶이 지금보다 더 나아질 수 있습니다. 번영 자체가 반드시 사람들을 행복하게 만드는 것은 아닙니다. 비참한 부자들이 많이 있습니다. 하지만 전 세계 사람들의 삶을 의미 있게 향상시킬 수 있습니다."

Altman의 에세이는 기술적 세부 사항이 짧고 AI에 대해 몇 가지 포괄적인 주장을 합니다.

• AI는 컴퓨터 칩의 발명과 지속적인 개선으로 이어지는 "수천년에 걸친 과학적 발견과 기술 진보의 복합"의 정점입니다.
• 생성적 AI를 가능하게 한 AI의 "딥 러닝" 형태는 회의론자들의 의견에도 불구하고 매우 잘 작동했습니다.
• 점점 더 많은 컴퓨팅 성능이 문제를 계속 해결하는 딥 러닝 알고리즘을 발전시키고 있으므로 "AI는 규모가 커질수록 더 좋아질 것입니다."
• 가능한 한 많은 사람들에게 AI를 전파하려면 컴퓨터 인프라를 계속 늘리는 것이 중요합니다.
• AI는 일자리를 파괴하지 않고 새로운 종류의 작업을 가능하게 하며 이전에는 불가능했던 과학의 발전과 학생을 위한 개인 교사와 같은 개인적인 도우미로 이어질 것입니다.

Altman의 에세이는 최근 몇 년 동안 힘을 모은 AI의 윤리적, 사회적, 경제적 영향에 대한 많은 대중적 우려와 모순됩니다.

컴퓨팅 확장이 일종의 초지능 또는 AGI로 이어질 것이라는 개념은 많은 AI 학자들이 결론을 내린 것과 반대됩니다. 예를 들어 AGI 또는 이와 유사한 것은 전혀 존재하지 않는다고 주장하는 비평가 Gary Marcus와 같습니다. 그것이 달성 가능하다면 지평선에 있습니다.

AI 확장이 더 나은 AI를 향한 주요 경로라는 Altman의 개념은 논란의 여지가 있습니다. 저명한 AI 학자이자 기업가인 Yoav Shoham은 지난 달 ZDNET과의 인터뷰에서 컴퓨팅 확장만으로는 AI를 향상시키는 데 충분하지 않을 것이라고 말했습니다. 대신 Shoham은 딥러닝 이외의 과학적 탐구를 옹호했습니다.

Altman의 낙관적 견해는 또한 기술 학자들이 제기한 수많은 AI 편견 문제에 대해 언급하지 않으며, 급속도로 확장되고 많은 사람들이 심각한 환경 위험을 초래한다고 믿는 AI 데이터 센터의 에너지 소비에 대해서도 언급하지 않습니다.

예를 들어, 환경 운동가인 Bill McKibbon은 AI에 의해 "이런 종류의 추가 수요를 충족할 만큼 빠르게 재생 에너지를 구축할 수 있는 방법은 없습니다"라고 썼습니다. 지금은 AI를 확장하세요."

Altman의 에세이는 최근 발표된 AI에 대한 몇몇 저명한 비평의 뒤를 잇는 것이기 때문에 주목할 만합니다. 이러한 비평에는 이번 달 MIT Press에서 출판된 Marcus의 Taming Silicon Valley와 이번 달 Princeton에서 출판된 Princeton 컴퓨터 과학 학자 Arvind Narayanan과 Sayash Kapoor의 AI Snake Oil이 포함됩니다. 대학 출판부.

실리콘 밸리 길들이기에서 Marcus는 어떠한 사회적 통제에도 속박되지 않는 생성 AI 시스템의 심각한 위험에 대해 경고합니다.

최악의 경우, 신뢰할 수 없고 안전하지 않은 AI는 전력망의 혼란에서부터 우발적인 전쟁이나 날뛰는 로봇 함대에 이르기까지 대규모 재앙을 초래할 수 있습니다. 많은 사람들이 일자리를 잃을 수 있습니다. Generative AI의 비즈니스 모델은 저작권법, 민주주의, 소비자 안전 및 기후 변화에 대한 영향을 무시합니다. 그리고 제너레이티브 AI는 감독이 거의 없이 매우 빠르게 확산되었기 때문에 사실상 전체 인구를 대상으로 하는 방대하고 통제할 수 없는 실험이 되었습니다.

Marcus는 특히 AGI의 임박한 도래를 홍보하는 데 있어서 OpenAI의 우선 순위를 주장하기 위해 과장된 광고를 사용하는 Altman을 반복해서 요구합니다. Altman의 Marcus는 "OpenAI 이사회가 인공일반지능(AI)이 '성취'된 시기를 결정하기 위해 함께 모일 것이라고 말한 것이 한 가지 대단한 일이었습니다."라고 Altman의 Marcus는 썼습니다.

"AGI가 언제 도달했는지에 대한 중요한 과학적 질문이 과학계가 아닌 이사회에 의해 '결정'되는 이유를 알트만에게 묻는 사람은 거의 없었습니다."

AI 과대광고를 신랄하게 비난하는 저서 AI Snake Oil에서 Narayanan과 Kapoor는 AI 규제에 대한 Altman의 공개 발언을 구체적으로 언급하며 그가 "AI Snake Oil"이라고 알려진 조작 형태에 가담했다고 비난했습니다. 회사의 권력에 대한 실제 제약을 피하기 위해 규제 포획":

업계에 의미 있는 규칙을 설정하기보다는 [OpenAI] 회사는 자체 구조에 대한 변경을 피하면서 경쟁업체에 부담을 가하는 방법을 모색하고 있었습니다. 담배 회사들은 1950년대와 60년대에 담배에 대한 정부의 조치를 억누르기 위해 로비 활동을 했을 때 비슷한 시도를 했습니다.

Altman이 자신의 웹사이트를 통해 자신의 공개 발언을 확대할 것인지 아니면 이 에세이가 아마도 다른 회의적인 이야기에 대응하기 위한 일회성 사건인지는 아직 알 수 없습니다.