MIT는 생성 AI 도구의 대량 채택이 매우 중요한 요소 중 하나를 탈선시키고 있다고 말합니다.

MIT Sloan Management Review와 BCG의 연구에 따르면 AI 발전의 급속한 속도로 인해 '그림자 AI'가 생성되어 책임감 있게 AI를 사용하기가 더 어려워지고 있다고 경고합니다.

개발자, 데이터 과학자, 비즈니스 분석가를 지원하기 위해 새로운 인공 지능(AI) 플랫폼과 도구가 매일 등장하고 있습니다. 그러나 신흥 기술의 이러한 급속한 성장은 AI 시스템의 책임과 책무 능력을 훨씬 넘어서 AI 집합체의 복잡성을 증가시키고 있습니다.

이는 MIT Sloan Management Review와 Boston Consulting Group(MIT SMR 및 BCG)이 1,240명의 임원을 대상으로 실시한 최근 설문조사에서 나온 결론입니다. 이 조사에서는 책임 있는 AI 이니셔티브의 진행 상황과 내부 구축 및 외부 소스 AI 도구 채택을 조사했습니다. 연구원들이 "그림자 AI"라고 부르는 것.

이번 연구의 저자인 Elizabeth Renieris(옥스퍼드 AI 윤리 연구소), David Kiron(MIT SMR), Steven Mills(BCG)는 AI의 약속에는 결과가 따른다고 말합니다. 광범위한 사용 사례에 대한 준비가 되어 있지 않은 조직에는 위험이 따릅니다."

Renieris와 그녀의 공동 저자는 "섀도 AI 사용이 기업 전체에 확산되면서 많은 기업이 허를 찔렸다"고 말합니다. 더욱이, AI 발전의 빠른 속도로 인해 "AI를 책임감 있게 사용하는 것이 더 어려워지고 책임 있는 AI 프로그램이 이를 따라잡도록 압력을 가하고 있습니다."

날로 높아지는 섀도우 AI로 인한 리스크도 커지고 있다고 경고한다. 예를 들어, 훈련 데이터를 사용하여 현실적이거나 겉으로 보이는 생성 AI 알고리즘(예: ChatGPT, Dall-E 2 및 Midjourney)의 급속한 채택과 함께 급증하는 타사 AI 도구 공급에 대한 기업의 의존도가 높아지고 있습니다. 사실에 기반한 텍스트, 이미지 또는 오디오 - 추적하기 어려운 새로운 상업적, 법적, 평판 위험에 노출됩니다.

연구원들은 책임 있는 AI의 중요성을 언급하며, 이를 "AI 시스템이 개인과 사회에 좋은 서비스로 개발 및 운영되는 동시에 혁신적인 비즈니스 영향을 달성하도록 보장하는 원칙, 정책, 도구 및 프로세스가 포함된 프레임워크"라고 정의합니다. ."

또 다른 어려움은 많은 기업이 "산업 해고의 광범위한 추세의 일환으로 책임 있는 AI에 전념하는 내부 자원을 축소하고 있는 것으로 보인다"는 사실에서 비롯된다고 연구원들은 경고합니다. "책임 있는 AI 투자의 감소는 아마도 가장 필요할 때 일어나고 있습니다."

예를 들어 직원들이 ChatGPT 챗봇을 광범위하게 사용하는 것은 많은 조직을 놀라게 했으며 보안에 영향을 미칠 수 있습니다. 연구원들은 책임 있는 AI 프레임워크가 "생성 AI 도구로 인해 발생하는 갑작스럽고 상상할 수 없는 수의 위험을 처리"하도록 작성되지 않았다고 말합니다.

연구에 따르면 조직의 78%가 상용 API, 사전 훈련된 모델 및 데이터를 포함한 타사 AI 도구에 액세스, 구매, 라이선스 부여 또는 기타 방법을 사용하고 있다고 보고했습니다. 절반 이상(53%)은 타사 AI 도구에만 의존하고 있으며 자체적으로 내부적으로 설계하거나 개발한 AI 기술이 없습니다.

책임 있는 AI 프로그램은 "내부적으로 구축된 AI 도구와 타사 AI 도구를 모두 포괄해야 합니다"라고 Renieris와 공동 저자는 촉구합니다. "AI 시스템의 출처에 관계없이 동일한 윤리적 원칙이 적용되어야 합니다. 궁극적으로 무언가 잘못되면 도구를 제작하거나 구입하면 사람에게 부정적인 영향을 미치는 것은 중요하지 않습니다."

공동 저자는 "제3자 AI 위험 또는 해당 문제에 대한 모든 유형의 AI 위험을 완화하기 위한 묘책은 없지만" 오늘날의 개방형 환경에서 책임 있는 AI를 보장하기 위한 다각적인 접근 방식을 촉구한다고 경고합니다.

이러한 접근 방식에는 다음이 포함될 수 있습니다.

• 공급업체의 책임 있는 AI 관행 평가
• 책임 있는 AI 원칙 준수를 의무화하는 계약 언어
• 공급업체 사전 인증 및 감사(가능한 경우)
• 내부 제품 수준 검토(타사 도구가 제품 또는 서비스에 통합된 경우)
• 관련 규제 요구 사항 또는 업계 표준 준수
• 윤리적 AI 개발 지침, 위험 평가 프레임워크, 모니터링 및 감사 프로토콜 등 포괄적인 정책 및 절차 세트 포함

공동 저자들은 법안과 정부 명령의 망령으로 인해 AI 시스템이 도입됨에 따라 그러한 조치가 필요할 수 있다고 경고합니다.