윤리가 AI의 가장 큰 과제가 되는 이유
AI를 설계하는 팀에는 언어학 및 철학 전문가, 부모, 청소년, 다양한 사회 경제적 배경과 다양한 삶의 경험을 가진 일반 사람들이 포함되어야 합니다.
많은 조직에서는 윤리와 안전에 대한 우려로 인해 생성 AI 도입을 연기하거나 중단하고 있습니다. 이로 인해 AI를 기술 부서 밖으로 옮기고 AI 설계 및 관리에 더 많은 비기술적 비즈니스 이해관계자를 참여시켜야 한다는 요구가 촉발되고 있습니다.
IBM 기업가치연구소의 최근 조사에 따르면 절반 이상(56%)의 기업이 AI 표준과 규정이 명확해질 때까지 생성 AI에 대한 대규모 투자를 연기하고 있습니다. 최소 72%는 윤리적 문제로 인해 AI 생성 혜택을 기꺼이 포기하겠다고 답했습니다.
기술적인 문제보다 더 어려운 문제
인공지능과 관련된 기술적 문제는 대부분 해결됐지만 이제 AI 윤리를 둘러싼 노력이 대두되고 있다. 이는 기술 문제를 해결하는 것보다 훨씬 더 어려운 것으로 입증되었습니다.
IBM Consulting의 신뢰할 수 있는 AI 부문 글로벌 리더인 Phaedra Boinodiris는 최근 팟캐스트에서 "이 단계에서 개발팀의 과제는 "윤리적 AI를 만드는 것이 엄밀히 말하면 기술적 문제가 아니라 사회 기술적 문제라는 점을 인식하는 것"이라고 말했습니다. 이는 조직 전체의 IT 및 데이터 관리 팀을 넘어 AI 감독을 확장하는 것을 의미합니다.
책임감 있게 선별된 AI 모델을 구축하려면 "단순한 데이터 과학자 이상으로 구성된 팀이 필요합니다"라고 Boinodiris는 말했습니다. "수십 년 동안 우리는 전통적인 도메인 전문 지식이 없는 사람은 해당 공간에 속하지 않는다는 점을 전달해 왔습니다. 이는 큰 실수입니다."
AI팀은 스스로에게 이런 질문을 던져야 합니다
그녀는 잘 선별된 AI 모델이 "더 정확한 모델이기도 하다"는 점도 주목할 만하다고 덧붙였습니다. 이를 달성하려면 "모델을 설계하는 팀은 사일로가 아닌 다양한 분야에 걸쳐 있어야 합니다." 이상적인 AI 팀에는 "언어학 및 철학 전문가, 부모, 젊은이, 다양한 사회 경제적 배경과 다양한 삶의 경험을 가진 일상적인 사람들"이 포함되어야 한다고 그녀는 촉구했습니다. "다양한 것이 많을수록 좋습니다." 팀원은 다음 유형의 질문에 대해 고민해야 합니다.
- "이 AI가 우리에게 필요한 문제를 해결하고 있나요?"
- "도메인 전문가가 확인한 데이터가 맞는 걸까요?"
- "AI가 의도하지 않은 영향은 무엇입니까?"
- "어떻게 이러한 영향을 완화할 수 있습니까?"
전략적으로 매우 중요함
비즈니스 리더들은 AI의 윤리적 영향에 대해 점점 더 조심스러워지고 있지만, 경쟁력의 원천으로 윤리를 적극적으로 수용하고 있다고 보고 있습니다. 경영진의 75%는 AI 윤리를 경쟁 차별화의 중요한 원천으로 보고 있으며, 대다수(54%)는 AI 윤리가 "전략적으로 매우 중요"할 것으로 예상합니다. 이는 이해관계자에게 중요한 신호입니다. 설문 조사에 참여한 소비자, 시민 및 직원의 85% 이상이 AI 윤리를 중요하게 생각합니다.
전체적인 AI 윤리 프레임워크는 AI 윤리 투자로 인해 발생할 수 있는 세 가지 유형의 ROI를 식별한다고 IBM 보고서는 말합니다.
- 경제적 영향(유형의 ROI): AI 윤리의 유형적이거나 직접적인 금전적 이점은 '비용 절감, 수익 증가, 자본 비용 감소 등' 측정 가능한 요소를 포함합니다. 예를 들어 조직은 규제 벌금을 피할 수 있습니다. AI 위험 관리에 투자함으로써."
- 기능 영향(장기 ROI): 이는 AI 윤리 노력의 장기적인 이점을 암시합니다. 예를 들면 "윤리를 위한 기술 인프라 또는 특정 플랫폼을 통해 조직은 추가 비용 절감 및 혁신으로 이어지는 방식으로 현대화할 수 있습니다."가 포함될 수 있습니다.
- 평판 영향(무형의 ROI): 강력한 AI 윤리 노력에서 나오는 무형이거나 정량화하기 어려운 이점에는 '주주, 정부, 직원, 고객." 여기에는 "향상된 환경, 사회 및 거버넌스 점수, 직원 유지율 증가, 긍정적인 언론 보도"가 포함될 수 있습니다.
많은 경영진과 관리자는 AI 윤리 노력이 전달할 수 있는 세 가지 잠재적 영향 영역에 완전히 적응하지 못하고 있으며, 이는 지속적인 교육 프로세스가 필요합니다. Boinodiris는 "가장 현명한 AI 윤리 전문가를 참여시켜 AI 윤리에 대한 손실 회피와 가치 창출 접근 방식의 차이점에 대해 최고 경영진에게 교육합니다. 경영진이 AI 윤리 기술, 플랫폼 및 인프라를 보다 폭넓게 사용할 수 있는 잠재력을 구상하도록 돕습니다."라고 조언합니다.