OpenAI, 교육자를 위한 무료 AI 교육 출시 - 액세스 방법

Marcus는 AI가 현재 직면하고 있는 최악의 12가지 위험에 대해 설명하여 정보가 풍부한 규제 기관으로 구성된 기관이 좋은 이유를 보여줍니다.

학자 Gary Marcus는 인공 지능(AI)의 단점에 대해 일종의 계관시인이 되었으며, 수많은 책과 기사를 통해 기술이 종종 부족하고 일반 개인이 믿는 것보다 덜 인상적이라는 사실을 기록했습니다.

5년 전 마커스가 공동 저자인 어니스트 데이비스(Ernest Davis)와 함께 AI 재부팅에서 AI의 기술적 단점에 대해 글을 썼을 때 그의 비평은 여전히 다소 이론적이었으며 기술의 잠재적 위험을 지적했습니다.

그 이후 몇 년 동안 ChatGPT는 전 세계를 휩쓸었습니다. 이러한 상황으로 인해 Marcus는 AI의 실제 현재 위험을 반영할 수 있는 실제 캔버스를 갖게 되었습니다.

지난달 MIT Press에서 출판한 그의 최근 작품 Taming Silicon Valley에는 이러한 실제 효과가 기록되어 있습니다. 이 책은 AI로 인해 삶의 작은 부분이라도 영향을 받는 사람, 즉 오늘날 거의 모든 사람이 읽어야 할 책입니다.

늘 그렇듯이 Marcus는 과학과 기술에 대한 확고한 지휘를 바탕으로 경쾌하고 위엄 있는 스타일로 자료를 전달하는 강력한 목소리로 글을 씁니다. 보상은 종종 무뚝뚝하며 Marcus는 그가 인용하는 각 일화 사례에서 더 나쁜 것이 나올 것이라고 예측했습니다.

Marcus는 Twitterverse(Xverse)에 참여하면서 다른 목소리를 최대한 활용하여 위험에 대해 길게 글을 쓴 학자 및 관심 있는 개인의 말을 인용합니다.

책의 처음 50페이지는 AI, 특히 생성 AI와 관련된 사고와 그것이 가져올 수 있는 위험과 피해에 대한 이야기입니다. 어떤 경우에는 이미 가져오고 있습니다. 이는 Marcus의 Substack 또는 X 피드를 팔로우하는 모든 사람에게 친숙한 영역이지만 컨텍스트를 한곳에 두는 것이 유용합니다.

위험은 초지능 AI, 즉 "인공 일반 지능"과는 아무런 관련이 없습니다. Marcus는 오늘날의 머신 러닝과 딥 러닝이 초인적인 능력을 달성하는 데 오랫동안 회의적이었습니다. 그는 그러한 지능이 인류를 단번에 전멸시킬 것이라는 생각을 비웃습니다.

Marcus는 실리콘 밸리 길들이기에서 "현장에서는 기계가 모든 사람을 멸망시킬 확률에 대한 수학적 표기법인 p(doom)에 대한 이야기가 많이 있습니다."라고 썼습니다. 엠>. "개인적으로 AI가 문자 그대로 멸종을 초래할 것이라고는 생각하지 않습니다."

대신 Marcus는 그다지 똑똑하지 않은 기계가 ChatGPT 및 기타 유사한 프로그램을 통해 이미 사회에 하고 있는 일의 일상적인 위험에 관심을 갖고 있습니다.

Marcus는 AI의 현재 최악의 위험 12가지에 대해 안내합니다. 이러한 위험에는 Wired 잡지 에 따르면 "Amazon에 넘쳐나는 사기성 AI 생성 도서 재작성"이라는 딜레마와 같이 정보를 대량 생산하는 기계 역할을 하는 LLM(대형 언어 모델)이 포함됩니다. 그가 인용한 기사.

더 심각한 것은 납치된 사람을 사칭하는 딥페이크 목소리가 이미 여러 차례 발생했다는 점이다. 그는 강탈 사기에 대해 “앞으로 훨씬 더 많이 일어날 것으로 예상한다”고 예측했다.

Marcus는 동의를 얻지 않고 LLM 교육을 위해 OpenAI 및 기타 업체에서 사용하는 저작권 작품의 형태로 지적 재산 도용을 논의하는 데 많은 페이지를 소비합니다. 종종 그렇듯이 마커스는 처음에 생각했던 것보다 문제에 더 큰 비중을 둘 수 있습니다.

"이 모든 것을 대 데이터 강탈(Great Data Heist)이라고 부릅니다. 이는 (정부 개입이나 시민의 행동에 의해 중단되지 않는 한) 지적 재산에 대한 토지 강탈로 거의 모든 사람이 아주 작은 재산으로 막대한 부의 이동을 가져올 것입니다. 회사 수"라고 적었다.

책의 중간 3분의 1은 실리콘 밸리의 약탈적 관행에 대한 비판과 거대 기술 기업이 발명품에 관한 신화를 엮어 대중과 국회의원을 속이는 방법에 대한 비판으로 넘어갑니다.

OpenAI의 깨진 약속은 Marcus로부터 마땅한 꼬챙이를 받았습니다. 여기에는 회사가 더 이상 비영리 단체가 아니며 더 이상 의미 있는 의미에서 "개방"되지 않고 대신 공개 조사에서 모든 코드를 숨기는 것이 포함됩니다.

그러나 문제는 한 명의 나쁜 행위자 그 이상입니다. 실리콘밸리는 잘못된 방향과 부정직함으로 가득 차 있습니다.

Marcus는 몇 가지 수사적 트릭 중에서 Microsoft, OpenAI 및 Alphabet의 Google과 같은 회사가 Doomsday 시나리오를 고려하느라 너무 바빠서 그가 설명하는 현재 위험의 종류를 신경 쓸 수 없다고 주장합니다.

"빅 테크는 실질적인 책임 없이 미래의 AI를 안전하게 유지하기 위해 노력하고 있다고 말함으로써 우리의 주의를 분산시키려고 합니다(힌트: 그들도 실제로 이에 대한 해결책이 없습니다). 현재 위험에 대해 너무 작은 조치를 취한다”고 그는 썼다.

"너무 냉소적인가요? 수십 명의 기술 리더들이 2023년 5월 AI가 멸종 위험을 초래할 수 있다고 경고하는 서한에 서명했지만, 그 리더 중 누구도 속도를 조금도 늦추지 않은 것 같습니다."

거대 기술 기업의 이러한 접근 방식의 결과는 정책 유형에 따라 "규제 포착"으로 알려진 정부의 채택이었습니다.

Marcus는 "소수의 사람과 회사가 막대하고 눈에 보이지 않는 영향력을 행사하고 있습니다."라고 썼습니다. "결국 미국에서 AI를 관리하는 것에 대해 우리가 본 모든 이야기에 대해 대부분 자발적인 지침이 있고 실제 치아에 대해서는 거의 아무것도 없다는 것은 우연이 아닙니다."

입증 가능한 위험과 Big Tech의 이기적인 책략을 고려할 때 무엇을 할 수 있습니까?

마지막 3분의 1에서 마커스는 현재의 위험과 허위 진술 및 이기심의 기술 문화에 대처하는 방법에 대해 반성합니다. 그는 전문가로서 미 의회에서 증언을 했음에도 불구하고 정책계의 아웃사이더이다.

따라서 그는 무슨 일이 일어나야 하는지에 대한 청사진을 제공하지는 않지만 대부분의 경우 명백히 타당한 제안을 제공하는 지능적인 작업을 수행합니다.

예를 들어 저작권법은 LLM의 연령에 맞춰 업데이트되어야 합니다.

"이제 요점은 이러한 법률을 업데이트하는 것입니다."라고 그는 썼습니다. "사람들이 새로운 방식으로, 즉 대규모 언어 모델로 알려진 만성(거의) 역류자에 의해 속이는 것을 방지하기 위해 우리는 법률을 업데이트해야 합니다. "

센서를 사용해 모든 사람의 데이터를 빨아들이는 '감시 자본주의'에 맞서 개인정보를 보호하기 위한 새로운 법규도 필요하다.

Marcus는 "이 글을 쓰는 시점에서 Amazon의 Echo 장치가 침실을 스누핑하지 않을 것이라는 점이나 자동차 제조업체가 요청하는 사람에게 위치 데이터를 판매하지 않을 것이라는 점을 보장하는 연방법이 없습니다."라고 말합니다.

규제 세계에서 가장 큰 허점은 미국 의회에서 통과된 1996년 통신 품위법(Communications Decency Act) 230조입니다. 섹션 230은 Meta의 Facebook 및 X를 포함한 온라인 서비스에서 잔인하고 비하적이며 폭력적인 콘텐츠를 포함한 콘텐츠에 대한 모든 책임을 면제합니다. 또한 해당 서비스 사용자는 그것이 단지 한 사람의 의견이라는 변명 뒤에 숨어 동료 사용자를 괴롭힐 수 있습니다.

"신문은 거짓말로 고소당할 수 있는데 소셜 미디어는 왜 면제되어야 합니까?" 마커스는 올바르게 관찰했습니다. "230조는 널리 유포되는 모든 것에 책임을 부여하여 폐지(또는 재작성)해야 합니다." 아멘.

Marcus는 또한 오픈 소스 코드를 요구할 뿐만 아니라 많은 경우 회사에서 LLM 등이 어떻게 사용되는지 공개하도록 강제하는 등 투명성을 포함하여 광범위한 예방 조치를 첫 번째 원칙으로 탐구합니다.

Marcus는 "예를 들어 작업 결정을 내리는 데 대규모 언어 모델이 사용되어 편향된 방식으로 수행되었습니까? 투명성, 추적성 및 책임성이 부족하기 때문에 우리는 단지 모릅니다"라고 말합니다.

Marcus가 위험을 계산하기 위해 탐색하는 가능한 모든 방법 중에서 그의 책은 작업의 복잡성을 처리하기 위해 국내 및 국제 AI 규제 기관을 주장하는 가장 강력한 사례를 제시합니다.

법을 만드는 것은 궁극적으로 현재의 피해를 해결하기에는 너무 느린 절차라고 Marcus는 썼습니다. 그는 2023년 미국 상원 증언에서 "소송에는 10년 이상이 걸릴 수 있다"고 말했다. 또한 기관은 국회의원보다 "더 민첩"할 수 있다고 그는 말했다.

비록 AI 기관에 대한 욕구는 거의 없지만 "대안은 더 나쁩니다. 즉, AI(또는 더 광범위하게는 일반적으로 디지털 기술을 위한)를 위한 새로운 기관이 없다면 미국은 영원히 따라잡기 위해 노력할 것입니다. 현대 세계보다 오래 전부터 인프라를 갖춘 AI와 디지털 세계."

AI 에이전시를 주장하면서 마커스는 두 가지 난관에 직면합니다. 하나는 상당한 피해를 보이고 있습니다. Marcus가 처음 50페이지에서 했던 것처럼 위험을 보여주는 것도 한 가지입니다. 그러나 이러한 모든 위험은 여론과 국회의원의 긴급성을 모두 모으기에 충분한 피해를 입혀야 합니다.

현대 규제의 역사를 보면 큰 피해가 입증된 후에야 규칙과 기관이 만들어졌음을 알 수 있습니다. 공개 기업이 투자자를 보호하기 위해 할 수 있는 것과 할 수 없는 것에 엄격한 기준을 적용한 1933년 증권법은 전 재산을 탕진하고 세계 경제를 망친 1929년 주식 시장 붕괴 이후에 제정되었습니다. 규제 노력에 활기를 불어넣을 정도로 전례 없는 재난의 순간이었습니다.

국제원자력기구(IAEA)는 일본 히로시마와 나가사키에서 20만명의 목숨을 앗아간 원자폭탄 이후 핵분열을 규제하기 위해 창설됐다. 소규모로 보면, 미국 식품의약국(FDA)은 저널리스트와 진보 운동가들이 오염된 물질의 막대한 해악을 조명한 후 20세기 초에 등장했습니다.

즉, 정부는 실질적인 피해가 입증되기 전에 규제를 촉진하는 조치를 취한 적이 거의 없습니다.

마커스의 처음 50페이지가 설득력 있는 사례를 제시합니까? 명확하지 않습니다. ChatGPT 등을 사용하는 개인의 수를 고려하면 피해에 대한 모든 개념은 도구의 대중적 매력과 경쟁해야 합니다. Marcus가 식별한 모든 피해는 ChatGPT, Perplexity 또는 Google Gemini의 열성적인 사용자에 의해 단지 새로운 도구를 얻기 위해 지불해야 하는 가격으로 변명될 수 있습니다.

나는 마커스에게 이메일을 보내 "책의 마지막 60페이지에 제안된 조치를 정당화할 만큼 책의 처음 50페이지에 충분한 피해가 입증되어 있습니까?"라고 질문했습니다.

이에 대해 마커스는 2023년 4월 30대 남성이 챗봇과 6주 동안 상호작용한 후 자살한 사건을 언급하면서 "누군가 LLM 관련 상황에서 실제로 자살했다"고 언급했습니다.

Marcus는 실제 사건을 넘어서 "우리는 이미 잘못된 정보부터 은밀한 인종차별, 합의되지 않은 딥페이크 포르노, 환경에 대한 해로움에 이르기까지 생성 AI의 많은 부정적인 결과에 직면해 있습니다. 이 모든 것이 빠르게 증가하고 있습니다."라고 말했습니다.

Marcus는 "우리는 이미 생성 AI로 인해 많은 부정적인 결과에 직면해 있습니다."라고 주장합니다.

마커스의 답변은 사회가 충분하다고 말하고 통제를 확립하기 전에 얼마나 많은 피해가 너무 큰지에 대한 질문을 재확인합니다.

실제로 AI 에이전시를 운영하는 가장 큰 이유는 피해에 대한 사회적 합의가 없을 가능성이 높기 때문일 수 있습니다. Marcus와 같은 일부에게는 피해가 너무 크지만, 다른 일부는 너무 많은 제한을 가하지 않고 초기 기술을 육성하기를 최우선으로 원합니다.

AI 기관은 보고된 피해를 엄격하게 기록 및 추적하고 이론적 피해를 탐구함으로써 이러한 깊은 격차를 조정하여 추측을 넘어 사회에 제기된 위험에 대한 포괄적인 감각으로 나아갈 수 있습니다.

AI 기관에 대한 Marcus의 요구에 대한 두 번째 큰 과제는 감독해야 할 대상을 정의하는 방법입니다. 대부분의 기관은 자신의 권한에 대한 대략적인 개요를 바탕으로 권한을 갖고 있습니다.

예를 들어, 미국 증권 거래 위원회는 상장 회사의 보통주와 같은 주식이나 채권과 같은 채무 증서가 포함될 수 있는 "증권"의 거래를 규제합니다. SEC는 다른 기관인 상품선물거래위원회(Commodities Futures Trading Commission)에 맡겨진 파생상품 계약과 같은 기타 거래 가능한 상품을 규제하지 않습니다.

'인공지능'이라는 용어의 문제점은 그것이 실제 용어가 된 적이 없다는 것이다. 마커스와 다른 학자들은 이 용어를 약칭으로 사용합니다. 하지만 실제로 AI에는 정확한 의미가 없습니다. AI는 AI로 지정하고 싶은 모든 종류의 컴퓨터 과학 작업을 위한 포괄적인 도구입니다.

MIT의 고(故) AI 학자 마빈 민스키(Marvin Minsky)는 누구나 포함하기를 원하는 모든 것을 나타낼 수 있는 표현을 의미하기 위해 "여행 가방 단어"라는 용어를 만들었습니다. AI는 여행가방을 뜻하는 단어입니다. 여기에는 LLM이 포함될 수 있지만 소프트웨어를 AI로 마케팅하는 것이 증가함에 따라 LLM과 공통점이 있는지 여부에 관계없이 모든 종류의 코드가 "AI"로 분류될 수 있습니다.

이러한 상황은 규제 당국에 문제를 제기합니다. 즉, 규제 당국의 선을 어디에 그어야 하는지입니다.

규제 기관은 대부분의 LLM을 교육하는 데 사용되는 확률적 경사하강법과 같이 기계 학습 형태의 AI와 연결된 특정 기술 구성 요소를 사용하는 것만 규제해야 합니까?

아니면 저작권이 있는 자료를 도용하거나 자연어로 결과물을 생성하는 등 특정 관찰 효과가 있는 모든 것을 규제해야 합니까? 아니면 AI라고 주장하는 모든 것으로 범위를 확장해야 할까요?

나는 마커스에게 이메일로 "규제당국은 베일리윅에 무엇이 있는지 어떻게 알 수 있습니까?"라고 물었습니다.

Marcus의 견해는 전문가들이 정의적인 질문을 정리할 것이라는 것입니다. "분명히 우리는 FDA나 비행기 규제와 마찬가지로 전문가가 필요합니다."

Marcus는 계속해서 다음과 같이 말했습니다. "어쨌든 우리는 '식품', '약물' 등에 대한 이러한 정의 질문을 상대적으로 잘 탐색할 수 있습니다." 사실입니다. 단, 그러한 것들이 궁극적으로 정의를 찾을 수 있는 실제 사물인 경우는 제외됩니다. AI는 그렇지 않습니다.

Marcus는 나에게 이 문제를 "과도하게 생각"하지 말라고 촉구했습니다. "각 규정은 규정과 관련된 범위를 갖게 될 것입니다. 예를 들어 [캘리포니아 주지사 Gavin] Newsom이 방금 교육에 서명한 법안은 교육받은 모델에 대해서만 투명성이 보장됩니다."라고 언급했습니다. 마커스. "고용 차별에 관한 규정은 고용 결정 등을 내리는 데 사용되는 훈련되었거나 하드 코딩된 모든 알고리즘에 관한 것이어야 합니다."

이러한 접근 방식은 개별 조치에 적용되지만 AI 기관의 임무 문제를 해결하지는 못합니다. 새로 설립되는 모든 기관은 FDA와 같은 권한을 가져야 합니다. AI라는 용어가 과대광고로 가득 차 있어 모호한 용어인 반면, 이는 까다로울 것입니다.

그러나 그러한 상황이 사회가 AI 기관의 프로젝트를 방해해서는 안 됩니다. 마커스의 주요 주장은 여전히 가장 강력한 주장입니다. 법률 제정은 AI의 확산을 따라잡을 수 없지만 기술을 정의하는 것은 불가능합니다. 해당 분야의 전문가로 구성되고 규제 권한으로 무장한 감독 기관은 매일 경계해야 합니다.

도널드 J. 트럼프(Donald J. Trump)가 1월에 미국 대통령이 되면서 워싱턴 D.C.의 정권 교체가 임박한 가운데, 나는 마커스에게 그러한 기관이 형성될 가능성에 대해 어떻게 생각하는지 물었습니다.

그는 낙관적이지 않습니다.

America absolutely needs an AI agency - both to encourage and leverage innovation, but also to mitigate the risks of AI, such as misinformation, discrimination, cybercrime, damage to environment, and the widespread theft of intellectual property. I fear that the Trump administration will ignore many of these risks, letting them escalate, and leaving society to bear them. I very much hope that I am wrong.