인간을 위한 AI를 설계하는 데 '생산적인 불편함'이 필요한 이유

최근 스탠포드 인공지능 컨퍼런스에서 발표자들은 '사람들이 원하는 인공지능'을 설계하는 것이 작동하는 인공지능을 설계하는 것만큼이나 중요하다고 촉구했다.

2014년 Google Glass의 소비자 버전이 등장했을 때 인간-컴퓨터 인터페이스의 새로운 시대가 시작되었음을 알렸습니다.

사람들은 눈앞에서 필요한 모든 정보에 액세스하면서 하루를 보낼 수 있습니다.

8년이 지난 지금, 얼마나 많은 사람들이 스마트 안경을 쓰고 돌아다니는 것을 볼 수 있을까요? 

스탠퍼드 대학의 엘리자베스 거버(Elizabeth Gerber) 교수가 설명하듯이, 여기서 얻을 수 있는 교훈은 "기술은 사람들이 원할 때만 도달할 수 있다"는 것이다. 

최근 스탠포드 인간 중심 인공 지능 가을 컨퍼런스에서 그녀는 "Google Glass가 우리의 사생활을 침해했기 때문에 우리는 Google Glass를 착용하고 싶지 않았습니다. 우리는 그렇게 하고 싶지 않았는데, 왜냐하면 그것이 인간의 상호작용을 바꾸어 놓았기 때문입니다. AI가 무엇을 할 수 있을지 고민할 때 구글 글래스(Google Glass)를 기억하라. 사람들이 그것을 원해야 한다"고 말했다.(전체 컨퍼런스에 대한 자세한 개요는 HAI 사이트에서 샤나 린치(Shana Lynch)의 기사를 참조하기 바란다.)

거버는 "사람들이 원하는 AI를 설계하는 것은 AI가 작동하는지 확인하는 것만큼이나 중요하다"고 덧붙였다. 또 다른 교훈은 코로나로 인한 학교 폐쇄 기간 동안 Zoom을 통해 AI 기반 교사를 채택한 것인데, 이는 아이들이 과목에서 멀어지는 역할을 했습니다. AI 기반 시스템으로 작업해야 하는 근로자에게도 동일하게 적용된다고 그녀는 덧붙였습니다.

인간 중심의 AI를 설계하려면 기업 전반의 사람들과의 더 많은 상호 작용이 필요하며, 어떤 시스템이 비즈니스에 유용하고 가치가 있는지에 대해 모든 사람이 동의하고 동일한 페이지에 있도록 하는 것은 어려운 작업입니다. "적절한 사람들이 한 방에 있다고 해서 합의가 보장되는 것은 아니며, 실제로 결과는 종종 의견 불일치와 불편함에서 비롯됩니다. 우리는 생산적인 불편함을 관리하고 이를 추구해야 합니다"라고 호주 국립 대학교의 교수이자 HAI 행사의 연사인 Genevieve Bell은 말했습니다 . "불편하게 느껴지는 장소에 있는 것을 잘하도록 사람들을 어떻게 가르칠 수 있을까요?" 

이는 어떤 AI도 일부 AI보다 낫지 않다는 것을 의미할 수도 있다고 Gerber는 지적했습니다. "디자인할 때 인간 중심의 접근 방식을 취하고 사람들의 작업을 위해 디자인할 때 때로는 스크립트가 필요하다는 것을 기억하십시오. AI 우선 접근 방식을 취하는 대신 인간 중심 접근 방식을 취하십시오. 직원들과 함께 설계하고 반복적으로 테스트하여 직무 만족도와 참여도를 높일 수 있습니다."

어쩌면 직관에 반하여 AI를 설계할 때 대화형 인터페이스에 자연어 처리를 사용하는 것과 같이 AI를 더 인간처럼 만들려는 시도를 피하는 것이 가장 좋을 수 있습니다. 이 과정에서 사람들의 생산성을 높이는 데 도움이 되는 시스템의 기능이 희석되거나 완전히 손실될 수 있습니다. "이해하지 못하는 누군가가 프롬프트 시스템을 설계할 때 무슨 일이 일어나는지 보라"고 메릴랜드 대학의 벤 슈나이더만(Ben Shneiderman) 교수는 말했다. "왜 대화적인 것일까요? 프롬프트 형성의 의미론에 따라 설계된 다양한 구성 요소를 가진 구조화된 프롬프트를 설계하기에 좋은 장소임에도 불구하고 자연어 인터페이스인 이유는 무엇입니까?"

"인간과 컴퓨터의 상호작용이 인간과 인간의 상호작용에 기초해야 한다는 생각은 차선책이며, 이는 좋지 않은 설계"라고 슈나이더먼은 덧붙였다. "인간과 인간의 상호 작용은 최선의 모델이 아닙니다. 우리는 더 나은 디자인 방법을 가지고 있으며, 자연어 상호 작용에서 변화하는 것은 명백한 것입니다. 우리가 그 모델을 넘어서서 슈퍼 도구, 텔레봇 및 액티브 어플라이언스와 같은 도구를 설계한다는 아이디어로 재구성해야 할 많은 방법이 있습니다."

"우리는 인간에게 긍정적인 영향을 미치도록 AI 시스템을 설계하는 방법을 모른다"고 스탠포드 HAI의 부국장이자 컨퍼런스 주최자인 제임스 랜데이(James Landay)는 말했다 . "AI를 설계하는 더 나은 방법이 있습니다."  

컨퍼런스에서 나온 권고 사항은 다음과 같습니다.

1. 인간 중심 디자인의 재구성 및 재정의: 패널리스트들은 인간 중심 AI에 대한 새로운 정의를 제안했는데, 이는 인간의 삶을 개선하는 시스템의 필요성을 강조하고 현재 AI 도구의 생성을 주도하는 문제적 인센티브에 도전하는 정의입니다. 현재의 노력은 "인간의 전문성을 부정하는 것"에 기초하고 있다고 슈나이더먼은 말했다. "인간은 실수를 저지르지만, 창의성과 전문 지식에 대한 능력도 뛰어납니다. 우리가 정말로 해야 할 일은 똑똑한 사람들을 더 똑똑하게 만드는 기계를 만드는 것입니다.

우리는 그들의 능력을 향상시키고 싶습니다. 우리는 많은 디자인에서 제한 사항, 가드 레일, 인터록을 통해 그것을 이해합니다. 이것들은 70년 동안 문학의 인적 요소에서 사라진 모든 것들입니다 -- 우리가 실패를 어떻게 예방하는지에 관한 것입니다. 그래서 자동 청소 오븐은 온도가 화씨 600도 이상이 되면 문을 열 수 없습니다. 그리고 그것은 많은 기술에 내장되어 있습니다. 이것이 바로 디자인이 작동하는 방식입니다. 이것이 바로 우리가 더 많이 구축해야 하는 올바른 종류의 디자인입니다. 그리고 우리는 오류 가능성을 낮추면서 인간의 전문성을 향상시켜야 합니다."

2. 다양한 관점 추구: 이를 위해서는 작업자, 관리자, 소프트웨어 디자이너 및 상충되는 관점을 가진 다른 사람들로 구성된 다학제 팀이 필요하다고 카네기 멜론 대학의 조디 포를리지(Jodi Forlizzi) 교수는 말하며, 또한 Microsoft Research의 선임 수석 연구 관리자인 Saleema Amershi에 따르면 "디자이너와 같은 사람이나 인간 중심 원칙을 이해하는 사람들이 있더라도 일부 프로세스를 재구성해야 합니다. 그 사람들 중 많은 사람들이 무엇을 지을 것인지에 대한 결정을 내리기 위해 방에 있지 않습니다. 우리는 우리의 전체와 프로세스를 재고해야 하며, 기술자와 함께 일하는 사람들이 AI 사람들과 함께 일할 수 있도록 해야 합니다."

• AI 성공 지표 재고: 우리는 대부분 이러한 모델이 무엇을 할 수 있는지에 대한 질문을 하지만, 실제로 사람들이 이러한 모델로 무엇을 할 수 있는지에 대해 질문해야 합니다."라고 Amershi는 말했습니다. "우리는 현재 정확성을 위해 최적화하여 AI를 측정하지만 정확성이 가치의 유일한 척도는 아닙니다. 인간 중심의 AI를 설계하려면 인간 중심의 메트릭이 필요합니다."
• 인간과 AI를 쉽게 무시할 수 있도록 유지: "우리는 이해할 수 있고, 예측 가능하며, 제어할 수 있는 AI 모델을 원합니다"라고 Shneiderman은 말합니다."그것은 여전히 지속적인 개념이며, 당신이 주도권을 가지고 있고 그것을 무시할 수 있다는 것입니다. 우리는 카메라가 셔터, 초점 및 색상 균형을 설정하는 것과 같이 신뢰할 수 있고 안전하며 신뢰할 수 있는 것들에 의존하게 됩니다. 그러나 초점이 잘못되었다는 것을 알게 되면 조정할 수 있습니다. 멘탈 모델은 사용자가 원하는 것을 얻을 수 있는 제어판을 가지고 있고, 시스템이 사용자에게 몇 가지 미리보기를 제공하고, 어떤 것은 기회를 제공하지만, 재정의할 수 있어야 합니다."