DeepMind의 AI 시각화가 전혀 쓸모없는 이유

틱택이나 젤리의 예쁜 사진은 사람들이 AI가 무엇인지 이해하는 데 도움이 되지 않습니다. 도대체 이 이미지들은 무엇을 나타내려는 걸까요?

충격적이지만 그게 무슨 뜻인가요? Tim West가 개발한 이와 같은 DeepMind 이미지는 놀랍지만 인공 지능 프로그램에서 실제로 무슨 일이 일어나고 있는지 설명하는 데는 아무런 도움이 되지 않습니다. 이 이미지는 분명히 ChatGPT와 같은 "대규모 언어 모델의 장점과 결점"을 나타냅니다. 하지만 어떻게 그럴까요?

"통계 그래픽의 우수성은 명확성, 정확성 및 효율성을 통해 전달되는 복잡한 아이디어로 구성됩니다." -- Edward R Tufte, 정량적 정보의 시각적 표시.

일반적으로 시각화는 볼 수 없는 것을 이해하는 데 도움을 주기 위한 것입니다. Google의 DeepMind 부서는 최근 다양한 시각 예술가들이 만든 인공 지능의 시각화를 발표했습니다. 의도는 좋았을지 모르지만 결과는 재앙이다.

"AI 시각화는 Google DeepMind의 과학자, 엔지니어, 윤리학자와의 대화에서 영감을 받아 AI에 대한 보다 다양하고 접근 가능한 표현을 만들도록 전 세계 예술가에게 의뢰합니다."라고 회사는 말합니다. 이러한 '다양하고 접근 가능한' 이미지를 빛나는 두뇌나 로봇 등을 포함하는 전형적인 AI 이미지와 대조합니다.

빛나는 글자 "A"와 "I"와 같은 AI의 전형적인 스톡 사진 이미지는 인공지능의 지배적인 형태인 AI의 기계 학습 형태에 대한 다소 신비한 예술과 과학을 이해하는 데 도움이 되지 않는 것이 사실입니다. .

시각화 이해에 획기적인 이정표를 세운 The Visual Display of Quantitative Information이라는 책을 쓴 유명한 시각화 전문가 Edward R. Tufte는 다음과 같은 성공적인 글을 썼습니다. 시각적 디스플레이는 무엇보다도 "방법론, 그래픽 디자인, 그래픽 제작 기술 등이 아닌 본질에 대해 생각하도록 시청자를 유도"해야 합니다.

DeepMind 사진은 대부분 오직 그래픽 디자인과 같은 것들에 관한 것입니다. 실제로 그래픽 디자인의 과부하입니다.

Novoto Studio의 한 이미지는 일종의 컴퓨터 인터페이스에 접근하는 틱택 사탕처럼 보이는 것을 보여줍니다. 딥 러닝이나 다른 형태의 AI에는 틱택을 포함하는 것이 없습니다.

틱택, 누구 있어? Novoto Studio가 개발한 이와 같은 DeepMind 이미지는 놀랍지만 인공 지능 프로그램에서 실제로 무슨 일이 일어나고 있는지 설명하는 데는 아무런 도움이 되지 않습니다.

틱택과 함께 제공되는 텍스트도 똑같이 비밀스럽습니다. "작은 물체가 많이 달린 전자 장치"라고 읽습니다. "예술가의 인공지능(AI) 일러스트레이션. 이 이미지는 3D 시각화를 통해 사회를 위한 AI의 잠재력을 묘사합니다." 그것이 무엇을 의미하든, 아마도 틱택과는 별로 관련이 없을 것입니다.

tic-tacs의 동반 비디오는 다소 매혹적이지만 마찬가지로 이해하기 어렵습니다. 제목이 "틱택의 행진"일 수도 있지만 AI를 이해하는 데 도움이 되지 않을 수도 있습니다.

Wes Cockx의 또 다른 이미지는 "나무와 금속으로 만들어진 금속 구조"로 추정되며 "대규모 언어 모델에 사용되는 예측 방법"을 묘사하는 것을 목표로 합니다.

그것은 매혹적인 상상의 구조이지만 예측에서 무엇을 하는지는 명확하지 않습니다. 나무와 금속 구조의 실제 모습을 보여주는 동반 비디오도 큰 도움이 되지 않습니다. 그것은 장치처럼 보이는 것, 아마도 일종의 거대한 주판처럼 보이는 것을 보여줍니다. 그러나 그것은 무엇을 하고 있습니까?

일부 이미지는 너무 환상적이어서 어떤 것과도 전혀 관련이 없는 것처럼 보입니다. XK Studio의 한 이미지는 다른 종류의 세포와 같은 젤라틴 같은 물질을 흘리고 있는 것처럼 보이는 일종의 젤라틴 물질의 큐브처럼 보이는 것을 묘사하고 있으며, 다시 말하지만 다소 매혹적이지만 AI나 그 어떤 것과도 관련이 없습니다. 또 다른. 억지로 추측해보면 젤라틴 형성 과정을 렌더링한 것이라고 생각할 수도 있습니다.

젤라틴 같은 것의 비디오는 많은 물질이 형성되고, 이것이 다시 다른 물질을 형성하는 것을 보여줍니다. 다시 말하지만, 어떤 물질이 형성되고 있으며 그 이유는 무엇인지 누가 알겠습니까?

동반 텍스트에서는 이미지와 영상이 "미래에 인간이 어떻게 인공일반지능(AGI)과 창의적으로 협력할 수 있는지, 그리고 그것이 어떻게 새로운 관점을 제공하고 프로세스 속도를 높이며 새로운 영역으로 이어질 수 있는지 탐구한다"고 설명합니다. AGI가 무엇인지, 또는 무엇일 수 있는지 설명하지 않는 것 외에도 텍스트가 너무 모호해서 쓸모가 없습니다. 이것은 사진, 심지어 천 단어조차도 누구에게도 도움이 되지 않을 수 있는 경우입니다.

표시에 가장 가까운 이미지는 Novoto Studio의 또 다른 이미지로, 분기 구성으로 보이는 것을 보여줍니다. 본문에서는 이를 "딥 러닝에 사용되는 영감을 받은 신경망"이라고 설명합니다.

실제로 인공 신경망은 어떤 의미에서는 집단 활동에 많은 요소를 포함하는 분기 네트워크로 생각할 수 있기 때문에 목표에 가장 가깝습니다.

사실, 일러스트레이션 AI에는 풍부한 전통이 있기 때문에 일러스트레이션이 모두 요점을 벗어난 것이 이상합니다. 코넬 대학교 항공 연구소의 Frank Rosenblatt가 수행한 최초의 신경망 연구 작품인 "The Perceptron"은 인공 신경망 구축을 위한 60년의 노력의 시작을 알렸습니다. Rosenblatt는 그의 그림에서 인공 뉴런으로 구성된 네트워크를 묘사했습니다. 단순함이 아름답습니다.

연결 네트워크가 우리 삶 전체를 관통하기 때문에 무슨 일이 일어나고 있는지 잠시 후에 파악하는 것은 쉽습니다. 지하철 역 지도는 연결망을 보여줍니다. Facebook의 소셜 그래프는 연결된 개체의 모음입니다. 모든 것의 연결 그래프는 강력합니다. Novoto Studio 및 나머지의 이상한 틱택 렌더링보다 훨씬 더 강력합니다.

Rosenblatt의 원본 기술 다이어그램을 환상적인 이미지로 바꿀 수도 있습니다. 이러한 이미지는 구체적이지 않을 수 있지만 입력과 출력이 있고 이들 사이의 연결을 생성하는 시스템의 일부 의미를 포착할 수 있습니다.

신경망은 왼쪽의 원인 입력을 오른쪽의 출력으로 변환합니다. 이것이 일어나는 방식은 가중치(중앙)의 변환인데, 우리는 종종 데이터 자체의 패턴과 혼동합니다.

DeepMind 이미지의 근본적인 문제는 아티스트가 AI에 대해 거의 이해하지 못하는 것 같기 때문에 그들의 임무는 주로 그들이 AI라고 상상하는 것에 대해 정보 없이 인상주의적인 렌더링을 제공하는 것입니다. 대중이 실제로 AI에서 무슨 일이 일어나고 있는지에 대해 뭔가를 수집하기를 원한다면 이는 특히 도움이 되지 않습니다.

기술을 확실히 이해하고 시각화를 생성하는 기계 학습 분야에서 일하는 사람들이 많기 때문에 안타깝습니다. 예를 들어 Google의 People+AI Research 그룹은 기술의 다양한 측면에 대한 멋진 시각화를 제작했습니다.

정확성과 개인 정보 보호 간의 기계 학습 균형을 보여주는 Google People+AI 팀의 그림입니다.

이 그룹의 전 멤버였던 하버드 대학교 마틴 와텐버그(Martin Wattenberg) 교수는 어려운 아이디어를 시각화하는 진정한 학자입니다. 그는 무엇보다도 2013년 MarketWatch에 합병된 소비자 금융 간행물의 웹사이트를 위해 개발된 SmartMoney의 시장 지도로 유명합니다.

AI를 이해하고 그 중 일부를 전달할 수 있는 사람들이 있습니다. 시각적인 스토리텔링과 설명에 뛰어난 사람들도 있습니다. DeepMind는 둘 중 하나에 대해 잘 모르는 디자인 스튜디오를 선호하여 이를 넘겨준 것 같습니다.