AI 위험은 어디에나 있습니다. 이제 MIT는 이 모든 위험을 하나의 데이터베이스에 추가하고 있습니다.

연구원들은 데이터를 통합하기 위해 AI 위험 저장소를 만들었습니다. 그들이 발견한 것 중 하나는요? 잘못된 정보는 가장 적게 해결되는 AI 위협입니다.

현재 애플리케이션 전반에 걸친 인공 지능(AI)의 위험은 잘 문서화되어 있지만 규제, 정책 또는 비즈니스 결정을 내릴 때 한 곳에서 쉽게 액세스하기는 어렵습니다. MIT 연구소는 이 문제를 해결하는 것을 목표로 하고 있습니다.

수요일, MIT의 컴퓨터 과학 및 인공 지능 연구소(CSAIL)는 700개 이상의 문서화된 AI 위험 데이터베이스인 AI 위험 저장소를 출시했습니다. CSAIL의 릴리스에 따르면 이 데이터베이스는 최초의 데이터베이스이며 활성 리소스로 사용할 수 있도록 지속적으로 업데이트될 예정입니다.

이 프로젝트는 AI의 글로벌 채택이 사람과 조직이 구현 위험을 얼마나 잘 이해하는지를 능가한다는 우려에서 촉발되었습니다. 인구 조사 데이터에 따르면 2023년 9월부터 2024년 2월 사이에 미국 산업의 AI 사용량이 3.7%에서 5.45%로 47% 증가한 것으로 나타났습니다. CSAIL과 MIT의 FutureTech Lab 연구원은 "가장 철저한 개별 프레임워크라도 약 30가지를 간과합니다. 검토된 모든 프레임워크에서 식별된 위험의 비율"이라고 릴리스에 명시되어 있습니다.

AI 위험에 대한 단편적인 문헌은 정책 입안자, 위험 평가자 및 기타 사람들이 직면한 문제에 대한 전체 그림을 파악하는 것을 어렵게 만들 수 있습니다. 이 프로젝트와 관련이 없는 케임브리지 연구 제휴사인 Taniel Yusef는 "무기, 군사 의사결정 지원 시스템 등 AI가 사용되는 일부 틈새 영역에서는 위험에 대한 구체적인 연구를 찾기가 어렵습니다."라고 말했습니다. "이러한 연구를 참조하지 않고서는 기술 전문가가 아닌 사람들에게 AI 위험의 기술적 측면에 대해 이야기하는 것이 어려울 수 있습니다. 이 저장소는 우리가 그렇게 하는 데 도움이 됩니다."

데이터베이스가 없으면 일부 위험이 레이더 아래로 날아가서 적절하게 고려되지 않을 수 있다고 팀은 릴리스에서 설명했습니다.

"AI 위험 문헌은 동료 검토 저널, 사전 인쇄본, 업계 보고서에 분산되어 있고 매우 다양하기 때문에 의사 결정자가 자신도 모르게 불완전한 개요를 참고하고, 중요한 우려 사항을 놓치고, 집단적 사각지대가 생길 수 있다는 점을 걱정합니다."라고 Peter 박사는 말했습니다. 프로젝트 리더이자 FutureTech Lab 박사후 연구원인 Slattery는 보도 자료에서 이렇게 말했습니다.

이 문제를 해결하기 위해 MIT의 연구원들은 퀸즈랜드 대학교, Future of Life Institute, KU Leuven, Harmony Intelligence 등 다른 기관의 동료들과 협력하여 데이터베이스를 만들었습니다. 사이트에 따르면 저장소는 "AI 위험 환경에 대한 접근 가능한 개요"를 제공하고 연구원과 개발자부터 기업과 정책 입안자에 이르기까지 누구나 사용할 수 있는 보편적인 참조 프레임 역할을 하는 것을 목표로 합니다.

이를 만들기 위해 연구자들은 학술 기록과 데이터베이스를 검토하고 여러 전문가와 대화하여 43개의 위험 분류 프레임워크를 개발했습니다. 연구원들은 43개 프레임워크에서 700개 이상의 위험을 추출한 후 원인(발생 시기 또는 이유), 도메인 및 하위 도메인(각각 "잘못된 정보" 및 "거짓 또는 오해의 소지가 있는 정보" 등)별로 분류했습니다.

위험은 차별과 허위 진술부터 사기, 표적 조작, 안전하지 않은 사용까지 다양합니다. 릴리스에서는 "가장 자주 언급되는 위험 영역에는 'AI 시스템 안전, 실패 및 한계'(문서의 76%), '사회경제적 및 환경적 피해'(73%), '차별 및 독성'(71)이 포함되어 있다고 설명합니다. %), '개인 정보 보호 및 보안'(68%) 및 '악의적인 행위자 및 오용'(68%)

연구원들은 인간과 컴퓨터의 상호 작용과 잘못된 정보가 위험 프레임워크 전체에서 가장 잘 해결되지 않은 문제라는 사실을 발견했습니다. 분석된 위험 중 51%는 인간이 아닌 AI 시스템에 기인했으며 인간이 34%를 담당했으며, 위험의 65%는 개발 과정이 아닌 AI 배포 이후에 나타났습니다.

차별, 개인정보 침해, 역량 부족과 같은 주제가 가장 많이 논의된 문제였으며, 연구자들이 검토한 문서의 50% 이상에 나타났습니다. AI가 정보 생태계에 피해를 준다는 우려는 문서의 12%에서만 훨씬 적게 언급되었습니다.

MIT는 Repository가 의사결정자가 AI로 인한 위험을 더 잘 탐색하고 해결하는 데 도움이 되기를 바라고 있습니다. 특히 전 세계적으로 급속히 등장하는 수많은 AI 거버넌스 이니셔티브에서 더욱 그렇습니다.

FutureTech Lab의 연구원이자 책임자인 Neil Thompson 박사는 "이 저장소는 우리가 AI 위험에 어떻게 대응하고 있는지 이해하고 현재 접근 방식에 격차가 있는지 확인하기 위한 더 큰 노력의 일부입니다"라고 말했습니다. "우리는 잠재적 위험의 폭을 이해하는 데 도움이 되는 포괄적인 체크리스트부터 시작합니다. 이를 사용하여 조직 대응의 단점을 식별할 계획입니다. 예를 들어 모든 사람이 한 가지 유형의 위험에만 집중하고 비슷한 중요성을 지닌 다른 위험은 간과한다면 이는 우리가 주목하고 해결해야 할 사항입니다."

다음으로 연구원들은 리포지토리를 사용하여 AI 기업 및 개발자의 공개 문서를 분석하여 부문별 위험 접근 방식을 결정하고 비교할 계획입니다.

AI 위험 저장소는 무료로 다운로드 및 복사할 수 있으며 사용자는 여기에서 팀에 피드백과 제안을 제출할 수 있습니다.