ChatGPT는 과학적 결과에 대해 거짓말을 하고 있으며 오픈 소스 대안이 필요하다고 연구자들은 말합니다.

코드의 투명성은 오해의 소지가 있는 정보로 인한 많은 위험을 방지하는 데 필수적입니다.

OpenAI의 매우 인기 있는 ChatGPT 텍스트 생성 프로그램은 과학 연구에 대한 수많은 오류를 전파할 수 있어 기능을 면밀히 조사할 수 있는 오픈 소스 대안의 필요성을 촉발한다고 이번 주 권위 있는 저널 Nature 에 발표된 연구에 따르면 .

"현재 거의 모든 최첨단 대화형 AI 기술은 AI 기술에 대한 자원을 보유한 소수의 거대 기술 회사의 독점 제품입니다."라고 암스테르담의 박사후 연구원이자 심리학자인 수석 저자 Eva A. M. van Dis가 썼습니다. UMC, 네덜란드 암스테르담 대학교 정신과 및 여러 공동 저자.

프로그램의 허위로 인해 "연구 커뮤니티에 가장 시급한 문제 중 하나는 투명성이 부족하다는 것"이라고 그들은 계속 말합니다.

"이러한 불투명성에 맞서기 위해서는 이제 오픈소스 AI 개발이 우선시되어야 합니다."

ChatGPT를 개발하고 Microsoft의 자금을 지원받는 샌프란시스코 스타트업인 OpenAI는 ChatGPT의 소스 코드를 공개하지 않았습니다. ChatGPT 이전의 생성 AI 클래스인 대규모 언어 모델, 특히 2020년에 도입된 OpenAI의 GPT-3에도 소스 코드가 제공되지 않습니다.

다양한 회사에서 출시한 수많은 대규모 언어 모델은 다운로드할 수 있는 소스 코드를 제공하지 않습니다.

Nature 기사에서 "ChatGPT: 연구를 위한 5가지 우선순위"라는 제목의 글에서 저자는 "전문 연구에 대화형 AI를 사용하면 부정확성, 편견 및 표절이 발생할 가능성이 있다"는 매우 광범위한 위험이 있다고 썼습니다. ,"라고 덧붙였습니다. "ChatGPT를 사용하는 연구자는 허위 또는 편향된 정보에 속아 자신의 생각과 논문에 이를 통합할 위험이 있습니다."

저자는 정신의학에 대한 "문헌에 대한 심층적인 이해가 필요한 일련의 질문과 과제"를 통해 ChatGPT를 사용한 자신의 경험을 인용합니다.

그들은 ChatGPT가 "종종 허위 및 오해의 소지가 있는 텍스트를 생성"한다는 사실을 발견했습니다.

"예를 들어 '우울증 환자 중 치료 후 재발을 경험하는 환자는 몇 명입니까?'라고 물었을 때 치료 효과는 일반적으로 오래 지속된다고 주장하는 지나치게 일반적인 텍스트를 생성했습니다. 그러나 수많은 고품질 연구에 따르면 치료 효과가 약해지고 재발 위험은 치료 완료 후 첫 해에 29%에서 51%에 이릅니다."

저자는 대규모 언어 모델을 없애자고 주장하는 것이 아닙니다. 오히려 그들은 “기회를 포용하고 위험을 관리하는 데 초점을 맞춰야 한다”고 제안합니다.

그들은 AI 연구의 언어로 "인간을 계속 추적"하는 다양한 방법을 포함하여 이러한 위험을 관리하기 위한 여러 가지 조치를 제안합니다. 여기에는 출판사가 "출판 기록의 일부가 될 수 있는 모든 자료를 준비할 때 대화형 AI의 사용에 대한 인식을 높이고 투명성을 요구하는 명시적인 정책을 채택"하는 것이 포함됩니다.

그러나 루프에 있는 인간만으로는 충분하지 않다고 van Dis와 동료들은 제안합니다. 대규모 언어 모델의 비공개 소스 확산은 위험하다고 그들은 썼습니다. "ChatGPT 및 이전 버전의 기본 훈련 세트와 LLM은 공개적으로 제공되지 않으며 기술 회사는 대화형 AI의 내부 작동을 숨길 수 있습니다."

대안으로 오픈 소스 코드를 추진하려면 민간 부문 외부의 기관에서 많은 노력을 기울여야 합니다.

To counter this opacity, the development and implementation of open-source AI technology should be prioritized. Non-commercial organizations such as universities typically lack the computational and financial resources needed to keep up with the rapid pace of LLM development. We therefore advocate that scientific-funding organizations, universities, non-governmental organizations (NGOs), government research facilities and organizations such as the United Nations — as well tech giants — make considerable investments in independent non-profit projects. This will help to develop advanced open-source, transparent and democratically controlled AI technologies.

기사에서 묻지 않은 질문은 오픈 소스 모델이 인공 지능의 악명 높은 "블랙 박스" 문제를 해결할 수 있는지 여부입니다. 수많은 계층의 조정 가능한 매개변수 또는 가중치를 가진 심층 신경망이 작동하는 정확한 방식은 심층 학습 실무자에게도 미스터리로 남아 있습니다. 따라서 투명성의 목표는 모델과 해당 데이터 소스를 오픈 소스화하여 학습할 내용을 지정해야 합니다.