AI 선구자 Bengio는 ChatGPT의 성공이 AI의 비밀 유지에 해로운 변화를 촉발할 수 있다고 말합니다.

시장 압력으로 인해 업계의 공개가 줄어들 수 있으며, 이는 과학적 진보를 방해하고 다른 해를 끼칠 수 있습니다.

현재 세계에서 가장 중요한 인공지능 프로그램은 다른 많은 경쟁업체와 달리 소스 코드를 공개하지 않는 회사의 프로그램입니다.

OpenAI가 만든 ChatGPT는 이전의 다른 자연어 프로그램처럼 GitHub에서 오픈 소스가 아닙니다. OpenAI의 GPT 프로그램인 ChatGPT의 소스도 쉽게 사용할 수 없었습니다.

그리고 화요일, 회사는 최신 버전인 GPT-4의 기술적 세부 사항 공개조차 거부하는 획기적인 성과를 거두었습니다.

ChatGPT 및 GPT-4의 부족 또는 투명성은 학계와 기업 모두의 학자들이 코드가 쉽게 작성되는 오픈 소스 소프트웨어의 전통을 따라 공격적으로 출판하는 경향이 있는 딥 러닝 AI의 일반적인 관행과의 단절입니다. 원하는 사람은 누구나 이용 가능합니다.

ChatGPT의 폐쇄적 특성은 AI에서 훨씬 더 표준이 될 수 있으며 윤리적 영향을 미칠 수 있다고 캐나다 MILA AI 연구소의 과학 책임자인 AI 선구자 요슈아 벤지오(Yoshua Bengio)는 지난 주 기자 및 업계 구성원과의 대화에서 경고했습니다.

Bengio는 Zoom에서 언론과 경영진이 모인 소규모 모임에서 "학계에 있다가 산업계로 옮긴 연구자들의 학문적 사고 방식은 오픈소스 정신을 더 많이 공유하고 협력하는 문화를 변화시켰습니다"라고 말했습니다. 지난주.

Bengio는 "그러나 시장의 압력은 아마도 다른 방향으로 밀릴 것"이라고 Bengio는 말했습니다. "비밀주의는 윤리적인 이유로 나쁘고 기술 발전에도 좋지 않습니다. 왜냐하면 정보가 정보를 얻는 데 더 많은 시간이 걸리기 때문입니다. 비밀스러운 일이라면 더 많은 곳으로 연락하세요."

몬트리올 대학의 정교수이자 CIFAR의 기계 및 두뇌 학습 프로그램을 공동 지휘하고 있는 Bengio는 온라인 대화형 학술지인 Collective[i] Forecast에서 주최한 1시간 30분 동안 초청 연설자로 나섰습니다. "B2B 판매를 최적화하도록 설계된 AI 플랫폼"이라고 자칭하는 Collective[i]가 주최한 토론 시리즈입니다.

Bengio는 ChatGPT의 엄청난 상업적 잠재력과 ChatGPT의 기능을 통합한 Microsoft의 Bing 검색 프로그램을 고려할 때 AI 연구에서 "아직 윤리적 프레임워크를 갖는 것이 가능한가"라고 Bengio에게 질문한 청중인 Laura Wilson에게 응답했습니다.

Bengio는 학자들이 "계속해서 개방형 과학을 수행하고 작업을 공유할 것입니다. 이것이 모델의 일부이기 때문입니다"라고 말했습니다.

그는 업계 연구가 열린 길을 고수할 것인지는 불분명하다고 말했습니다.

최근 AI가 공개 출판에 초점을 맞추기 전에는 기업 연구는 "훨씬 더 비밀스러웠다"고 Bengio는 말했습니다. ChatGPT의 성공에 이어 AI에서 "이제 일어날 가능성이 있는 일종의 골드러시"를 보면서 "우리가 그 문화를 업계에서 유지할 것인가?"라고 생각합니다. 벤지오는 생각에 잠겼다.

Bengio는 AI가 실험실 간 교차 수분의 공동 노력으로 발전하기 때문에 논문의 우선권이 가장 중요하다고 말했습니다.

GPT-4와 같은 소위 대규모 언어 모델에 대해 Bengio는 "이것들은 복잡한 시스템입니다."라고 말했습니다.

"우리는 다른 사람의 코드 위에 우리 코드를 구축하고 있으며, 전 세계 과학 논문에 작성되고 평가되는 아이디어 위에도 구축하고 있습니다. 우리는 서로의 발전을 토대로 구축합니다."

"특허가 있지만 실제로 실제 고기는 그 논문에 나오는 것입니다."

Bengio는 비밀 관행이 잠재적으로 업계 연구를 방해할 뿐만 아니라 대중에게 해를 끼치는 것을 모호하게 할 수 있다고 말했습니다.

Bengio는 "사람들이 너무 빨리 움직여 일을 망가뜨리면 상황이 나빠질 수 있으며 업계 전체에 반발이 생길 수도 있다"고 말했습니다.

Bengio가 관찰한 바에 따르면 소규모 회사는 일반적으로 "그것이 비즈니스 게임"이기 때문에 테스트되지 않은 소프트웨어로 위험을 감수하려는 경향이 더 큽니다. 그는 어떤 경우에는 일부 사용자가 "불편하다"고 생각하는 결과를 생성하는 ChatGPT와 같은 프로그램을 언급하여 해당 프로그램이 완전히 개발되지 않았음을 시사했습니다.

"그러나 이제 구글, 마이크로소프트 등의 기업들은 경쟁에 뛰어들어야 한다는 압박감을 느끼고 있습니다"라고 그는 말했습니다. "그렇다면 제가 들은 우려 중 하나는 그들이 자신들이 내놓은 제품에 그만큼 주의를 기울일 것인가 하는 것입니다."

Bengio와 함께 AI 연구로 2019년 Turing Award를 수상한 Bengio의 동료 Yann LeCun도 비슷한 우려를 표명했습니다.

Meta의 AI 수석 과학자인 LeCun은 2월 17일 트윗에서 다음과 같이 썼습니다.

FAIR [Facebook AI Research]는 AI R&D 현장을 여는 데 핵심적인 역할을 했습니다. 다른 사람들도 따랐습니다. 적어도 잠시 동안은요. 이제 OpenAI, DeepMind 및 아마도 Google조차도 훨씬 적은 양의 게시 및 오픈 소스를 제공하고 있습니다. AI 과학기술의 발전은 어떤 결과를 가져올 것인가?

ChatGPT의 출시는 세상이 AI의 가능성과 위험을 모두 인식하게 함으로써 긍정적인 목적을 달성할 수 있다고 Bengio는 말했습니다.

"ChatGPT를 중심으로 한 일종의 미디어 서커스에서 제가 좋아하는 점은 그것이 모닝콜이라는 것입니다."라고 Bengio는 말했습니다. "사람들은 지난 몇 년간 AI의 발전을 지켜봤고, 많은 기업과 정부에서는 '그래, 알았어, 무슨 일이 일어나고 있는데 그 기술자들은 자신의 일을 하고 있지만 매우 강력한 시스템이 곧 닥칠 것이라는 사실을 깨닫지 못하고 있다'라고 생각했습니다. "