연구는 Google 학술 검색에서 AI 생성 연구 논문을 발견했습니다.

인기있는 Google Scholar 검색 엔진을 사용하는 경우 인용 한 내용을 조심하십시오.

이 시점에서 대부분의 챗봇 사용자는 인공 지능 (AI) 도구가 거의 모든 시나리오에서 환각 될 가능성을 받아 들였습니다. AI 컨텐츠 탐지기, 사실 확인 자 및 점점 더 정교한 대형 언어 모델 (LLMS)의 노력에도 불구하고 아직 개발자는 아직 해결책을 찾지 못했습니다.

한편 잘못된 정보로 인한 결과는 점점 더 높아지고 있습니다. 사람들은 ChatGPT와 같은 생성 AI(gen AI) 도구를 사용하여 가짜 연구를 만들고 있습니다.

Harvard Kennedy School의 Misinformation Review에 발표된 최근 연구에 따르면 학술 문헌 검색 엔진인 Google Scholar에서 AI로 생성된 것으로 보이는 논문 139개가 발견되었습니다. 연구자들은 대부분의 "의심스러운" 논문을 색인이 없는(검증되지 않은) 저널에서 발견했지만 그 중 19개는 색인이 있는 저널과 기존 출판물에서 발견되었습니다. 또 다른 19개는 대학 데이터베이스에 나타났는데, 분명히 학생들이 작성한 것으로 보입니다.

더욱 우려되는 것은 논문의 내용이다. 가짜 연구의 57%는 건강, 컴퓨터 기술, 환경과 같은 주제를 다루었습니다. 연구자들은 정책 개발과 관련이 있고 영향을 미칠 수 있는 영역을 다루고 있습니다.

연구진은 논문을 분석한 후 "OpenAI의 ChatGPT와 같은 대규모 언어 모델(LLM)을 사용하는 대화 에이전트가 반환하는 두 가지 공통 문구 중 적어도 하나"가 포함되어 있어 AI가 생성했을 가능성이 있음을 확인했습니다. 그런 다음 팀은 Google 검색을 사용하여 논문에 액세스할 수 있는 위치를 찾고 데이터베이스, 아카이브, 저장소 및 소셜 미디어에서 여러 사본을 찾았습니다.

"2022년 ChatGPT의 공개 출시와 Google 학술검색의 작동 방식으로 인해 일반인(예: 미디어, 정치인, 환자, 학생)이 의심스러운(또는 완전히 GPT로 조작된) 논문 및 기타 문제가 있는 논문을 접할 가능성이 높아졌습니다. 연구 결과"라고 연구는 설명합니다.

연구를 주도한 연구자들은 자신들의 논문이 AI로 생성된 것으로 의심되는 최초의 학술 논문 목록이 아니며 여기에 논문이 "지속적으로 추가되고 있다"고 지적했습니다.

그렇다면 이러한 가짜 연구는 인터넷에 어떤 위험을 초래합니까?

선전, 슬랩대시 또는 위조된 연구가 새로운 것은 아니지만 Gen AI를 사용하면 이러한 콘텐츠를 기하급수적으로 쉽게 만들 수 있습니다. 연구진은 연구 인프라의 모든 영역에 스며드는 수많은 조작된 '연구'가 학술 커뮤니케이션 시스템을 압도하고 과학 기록의 무결성을 위태롭게 할 위험이 있다고 연구 결과에서 설명합니다. 그들은 누군가가 AI를 사용하여 "설득력 있게 과학적으로 보이는 콘텐츠"를 "기만적으로" 만들고 이를 최적화하여 Google Scholar와 같은 인기 검색 엔진에 순위를 매길 수 있다는 것이 걱정스럽다고 덧붙였습니다.

지난 4월 404 Media는 이전에 제한적이었기 때문에 ChatGPT 응답에서 흔히 볼 수 있는 "마지막 지식 업데이트 기준"이라는 문구를 검색하여 Google 도서 및 Google Scholar에서 완전히 AI로 제작된 도서 및 기타 자료에 대한 유사한 증거를 발견했습니다. 데이터 세트. 이제 ChatGPT 무료 버전에는 웹 탐색 기능이 있고 실시간 정보에 액세스할 수 있으므로 이와 같은 마커의 빈도가 줄어들거나 완전히 사라져 AI 생성 텍스트를 찾기가 더 어려워질 수 있습니다.

Google Scholar는 대부분의 양질의 문헌을 보유하고 있지만 "일반적으로 인용 데이터베이스를 특징짓는 표준에 대한 투명성과 준수가 부족합니다"라고 연구는 설명합니다. 연구원들은 Google 검색과 마찬가지로 Scholar가 자동화된 크롤러를 사용한다는 점에 주목합니다. 즉, "포함 기준은 주로 기술 표준을 기반으로 하며, 과학적 제휴 유무에 관계없이 모든 개별 저자가 논문을 업로드할 수 있도록 허용합니다." 또한 사용자는 자료 유형, 출판 상태 또는 동료 검토 여부와 같은 매개변수에 대한 결과를 필터링할 수 없습니다.

Google Scholar는 쉽게 액세스할 수 있으며 매우 인기가 높습니다. 유사한 웹(SimilarWeb)에 따르면, 검색 엔진은 지난 달 1억 1100만 건 이상의 방문을 기록했으며, 이는 ResearchGate.net과 같은 학술 데이터베이스를 능가하는 수치입니다. 매일 사용하는 다른 모든 Google 제품의 브랜드 신뢰를 기반으로 Scholar에 몰려드는 사용자가 너무 많아 잘못된 연구를 인용할 확률은 점점 더 높아지고 있습니다.

AI 챗봇 환각과 완전히 위조된 연구 사이의 가장 큰 차이점은 맥락입니다. ChatGPT를 쿼리하는 사용자가 사실이 아닌 정보를 기대한다는 것을 알고 있다면 ChatGPT의 응답을 대충 받아들이고 해당 주장을 다시 확인할 수 있습니다. 그러나 AI가 생성한 텍스트가 인간이 수행한 검증된 학술 연구로 제시되고 인기 있는 소스 데이터베이스에 의해 플랫폼화된다면 사용자는 자신이 읽고 있는 내용이 실제인지 확인할 이유나 수단이 거의 없습니다.