인공 지능에 인간 중심의 디자인을 도입하라는 요구

많은 AI 시스템은 '우리가 AI에게 원하는 것이 무엇이든 버튼을 누르면 마치 마법처럼 결과를 우리에게 전달할 것'이라는 가정 하에 개발됩니다.

인공 지능은 모든 사람이 주어진 질문에 대한 최종 단어이기를 바라는 불투명한 결과를 제공하는 "큰 빨간 버튼"을 통해 활성화될 필요가 없습니다. 오히려, 결과가 무엇을 말하고 있는지 감을 잡을 수 있는 루프에 있는 인간에 의해 어느 정도 통제되어야 합니다.

스탠포드 대학의 부교수인 Ge Wang은 AI 애플리케이션 및 시스템에 대한 인간 중심의 디자인 접근 방식을 촉구합니다. 스탠포드 HAI(Human-Centered AI)가 주최한 최근 웹캐스트에서 Wang은 AI 개발자와 디자이너에게 한 걸음 물러서서 루프에서 인간의 중요한 역할을 고려할 것을 촉구합니다. "우리는 AI에 대한 답과는 너무 거리가 멀었고 아직 대부분의 질문을 알지 못한다"고 그는 지적합니다. 

그는 오늘날의 많은 AI 시스템이 큰 빨간 버튼을 중심으로 설계되었다고 말합니다. "우리가 AI에게 원하는 것이 무엇이든 우리는 버튼을 누를 것이고, 마치 마법처럼 결과를 우리에게 전달할 것입니다"라고 Wang은 말합니다. "AI는 지능이라는 더 나은 단어가 없기 때문에 이를 나타낸다는 의미에서 이러한 마법 같은 특성을 가지고 있습니다. 그리고 복잡한 작업을 수행할 수 있습니다. AI는 우리가 지금까지 개발한 것 중 가장 강력한 패턴 인식기입니다." 

그렇다면 "우리가 AI에서 진정으로 원하는 것은 무엇인가?"라는 질문이 생깁니다. "우리는 항상 자신의 작업을 반드시 보여주지 않고 올바른 답변을 제공하는 오라클을 원합니까? 아니면 도구를 원합니까? 더 잘하기 위해 배울 수 있는 것들? 그리고 정의에 따라 인간과 상호 작용하는 도구입니까?"

인간을 AI 루프에 더 많이 끌어들이는 방법이 반드시 복잡할 필요는 없습니다. 매우 효과적인 접근 방식 중 하나는 AI 애플리케이션에 사용자 인터페이스와 함께 제공되는 "슬라이더"를 도입하는 것이라고 Wang은 제안합니다. AI 시스템 설계는 "'이것에 슬라이더를 끼워 넣을 수 있을까?'라는 간단한 질문으로 시작할 수 있다"고 Wang은 말합니다. 그것은 무엇을 의미할까요? 어떻게 하면 시스템을 더 유용하고 흥미롭게 만들 수 있을까요?"

슬라이더를 사용하면 사용자가 가벼운 터치에서 완전한 AI 출력에 이르기까지 질문에 적용되는 AI의 강도를 높일 수 있습니다. Wang은 법률 문서를 일반 영어로 번역하는 AI 시스템인 학생 프로젝트 중 하나를 예로 들었습니다. "흥미로운 것은 legalese를 제어하는 슬라이더가 출력에 추가되었다는 것입니다"라고 그는 말합니다. 슬라이더를 사용하면 문서를 원래 법률 용어에 가깝게 유지할 수 있으며 완전히 번역된 일반 언어까지 유지할 수 있습니다. "슬라이더가 추가되는 순간, 이것은 경직된 큰 버튼 시스템에서 제어할 수 있는 시스템으로 바뀌지만, 다른 사람들이 자신의 종류의 요구 사항을 다시 식별할 수 있는 시스템으로 바뀝니다. 우리의 도구를 통해 AI로 실제로 그렇게 할 수 있다면 어떨까요?"

"이러한 종류의 인간 참여형 설계의 장점은 시스템이 실제로 어떻게 작동하는지에 대한 상당한 투명성을 얻을 수 있다는 것입니다"라고 Wand는 말합니다. "또한 어떻게 설계하느냐에 따라 인간의 판단을 효과적인 방식으로 통합할 수 있는 방법이 됩니다. 그것은 단지 압력의 무게를 측정하는 것입니다. 우리는 인간이 참여하는 시스템을 구축하려고 할 때마다 실제로 이것을 볼 수 있습니다. 우리는 완벽한 알고리즘을 구축하는 것에서 큰 빨간 버튼을 향해 무게를 가해야 합니다. 이건 완벽할 필요도 없고, 영원히 틀에서 벗어날 수도 있어요, 왜냐면 그거 아세요? 인간은 결과물을 정제할 수 있습니다."

결과적으로 AI 출력에 대한 인간의 통제력을 높일 수 있는 슬라이더와 같은 적응은 "거의 항상 더 강력한 시스템을 가능하게 한다"고 Wang은 요약합니다. 

다른 첨단 기술과 마찬가지로 AI는 단순히 인력 조직 위에 떨어진다면 성공하지 못할 것입니다. 사람들은 AI 기반 도구를 활용하여 고객과 직원을 위해 더 나은 세상을 만드는 데 도움이 되는 아이디어와 접근 방식을 만들고 운영할 수 있어야 합니다.