AI: 패턴은 데이터가 아니라 기계에 있습니다.

컴퓨터가 만들어내는 패턴은 데이터의 고유한 속성이 아니라 프로그램 자체의 구조가 만들어내는 창발적 속성이다.

신경망은 왼쪽의 원인 입력을 오른쪽의 출력으로 변환합니다. 이것이 어떻게 일어나는지는 가중치, 중심의 변환이며, 우리는 종종 데이터 자체의 패턴과 혼동합니다. 

방대한 양의 데이터에 의존하는 기계 학습이 데이터에서 패턴을 찾아 작동한다고 말하는 것은 인공 지능의 흔한 일입니다. 

사실 "데이터에서 패턴 찾기"라는 문구는 수년 동안 데이터 마이닝 및 지식 발견과 같은 분야의 주요 문구였으며, 기계 학습, 특히 딥 러닝 변형은 이러한 패턴을 찾는 전통을 이어가고 있는 것으로 간주되어 왔습니다.

인공지능 프로그램은 실제로 패턴을 만들어내지만, "친애하는 브루투스여, 잘못은 우리의 별에 있는 것이 아니라 우리 자신에게 있다"는 것처럼, 그러한 패턴의 사실은 데이터 속에 있는 것이 아니라 인공지능 프로그램이 데이터를 만들어내는 것이다.

거의 모든 기계 학습 모델은 프로그램에 데이터 예제와 해당 데이터에 첨부된 레이블이 제공됨에 따라 프로그램의 소위 가중치(매개변수라고도 함)를 변경하는 학습 규칙을 통해 작동합니다. "앎" 또는 "이해"로 간주되는 가중치의 값입니다.

발견되고 있는 패턴은 실제로 가중치가 어떻게 변하는지에 대한 패턴입니다. 가중치는 실제 뉴런이 어떻게 "불화"한다고 믿어지는지, 심리학자 Donald O. Hebb가 형성한 원리, Hebbian 학습으로 알려지게 된 원리, 즉 "함께 발사하는 뉴런은 함께 연결된다"는 아이디어를 시뮬레이션하고 있습니다.

기계 학습에서 학습과 이해를 위한 모델인 체중 변화 패턴은 딥 러닝의 창시자가 강조한 것입니다. 거의 40년 전, 딥 러닝의 기초 교재 중 하나인 Parallel Distributed Processing, Volume I에서 James McClelland, David Rumelhart, Geoffrey Hinton은 다음과 같이 썼습니다.

저장되는 것은 이러한 패턴을 만들 수 있도록 하는 장치 간의 연결 강도입니다. 지식이 연결의 강점이라면, 학습은 올바른 연결 강도를 찾는 문제여야 하며, 이를 통해 올바른 상황에서 올바른 활성화 패턴이 생성될 수 있습니다. 

McClelland, Rumelhart, Hinton은 인지 심리학자와 컴퓨터 과학자 등 엄선된 청중을 대상으로 글을 썼으며, 컴퓨터가 하는 모든 일이 "지식"을 나타낸다고 쉽게 가정하지 않던 매우 다른 시대에 글을 쓰고 있었습니다.그들은 AI 프로그램이 많은 것을 할 수 없던 시대에 일하고 있었습니다. 그리고 그들은 주로 상당히 제한된 트랜지스터 배열에서 계산(모든 계산)을 생성하는 방법에 관심이 있었습니다. 

그 후 약 16년 전 강력한 GPU 칩이 등장하면서 컴퓨터는 실제로 흥미로운 동작을 생성하기 시작했으며, 2012년 힌튼이 대학원생들과 함께 작업한 획기적인 이미지넷(ImageNet) 성능에 힘입어 딥 러닝의 시대가 열렸습니다. 

새로운 컴퓨터 성과의 결과로 대중은 AI와 딥 러닝을 중심으로 모든 종류의 신화를 구축하기 시작했습니다. 이 기술을 초인적인 성능에 비유하는 정말 나쁜 헤드라인이 쇄도했습니다.

오늘날의 인공지능에 대한 개념은 맥클렐랜드(McClelland), 루멜하트(Rumelhart), 힌튼(Hinton)이 초점을 맞춘 것, 즉 기계와 기계가 패턴을 "생성"하는 방법을 모호하게 만들었다. 그들은 입력에서 단순히 데이터인 것에 대한 응답으로 패턴을 구성하는 가중치의 역학에 매우 익숙했습니다. 

이 모든 것이 왜 중요할까요? 기계가 패턴을 만든다면, 사람들이 AI에 대해 도출하는 결론은 대부분 틀렸을 것입니다. 대부분의 사람들은 컴퓨터 프로그램이 세상의 패턴을 인식한다고 가정하며, 이로 인해 사람들은 기계에 대한 판단을 미루게 될 수 있습니다. 만약 그것이 결과를 만들어낸다면, 컴퓨터는 인간이 못하는 것을 보고 있는 것이 틀림없다고 생각한다. 

패턴을 구성하는 기계가 명시 적으로 아무것도 않는다는 점을 제외하고는 말입니다. 패턴을 구축하는 것입니다. 즉, "보인" 또는 "알려진" 것은 인간이 스스로를 아는 것으로 말하는 구어체적이고 일상적인 의미와 동일하지 않다는 것을 의미합니다.

인간 중심적 질문에서 출발하는 대신, 기계는 무엇을 알고 있는가? 보다 정확한 질문에서 시작하는 것이 가장 좋습니다.이 프로그램은 가중치의 연결에서 무엇을 나타내고 있습니까?

작업에 따라 이 질문에 대한 답은 다양한 형태를 취합니다. 

컴퓨터 비전을 생각해 보십시오. 이미지 인식 및 기타 시각적 인식을 위한 기계 학습 프로그램의 기반이 되는 합성곱 신경망은 디지털 이미지의 픽셀 값을 측정하는 가중치 모음으로 구성됩니다. 

픽셀 그리드는 이미 현실 세계에 2차원 좌표계를 부과한 것입니다. 좌표 그리드의 기계 친화적인  추상화가 제공되면 신경망의 표현 작업은 픽셀 모음의 강도를 "새" 또는 "블루 제이"와 같이 부과된 레이블과 일치시키는 것으로 요약됩니다. 

새 또는 특히 블루 제이가 포함된 장면에서는 구름, 햇빛, 지나가는 사람 등 많은 일이 일어날 수 있습니다. 그러나 장면 전체가 전부는 아닙니다. 프로그램에서 중요한 것은 적절한 레이블을 생성할 가능성이 가장 높은 픽셀의 수집입니다. 다른 말로 하면, 이 패턴은 신경망 연결의 활성화에 내재된 집중과 선택의 환원적 행위이다. 

이런 종류의 프로그램은 필터링하는 것만큼 "보거나" "인식"하지 않는다고 말할 수 있습니다. 

AI가 체스와  포커를 마스터한 게임에서도 마찬가지입니다. 딥마인드(DeepMind)의 알파제로(AlphaZero) 프로그램이 마스터한 '완전 정보' 체스에서 머신 러닝 작업은 매 순간 잠재적인 다음 수가 궁극적으로 얼마나 이기고, 지고, 무승부로 이어질지에 대한 확률 점수를 만드는 것으로 요약됩니다. 

미래의 잠재적인 게임판 구성의 수는 가장 빠른 컴퓨터로도 계산할 수 없기 때문에, 컴퓨터의 가중치는 요약이라고 부를 수 있는 작업을 수행함으로써 움직임을 찾는 것을 단축시킵니다. 이 프로그램은 주어진 방향으로 여러 수를 추구할 경우 성공 가능성을 요약한 다음 해당 요약을 다른 방향으로 취해야 할 잠재적 이동의 요약과 비교합니다. 

어느 순간의 체스 보드의 상태, 즉 말의 위치와 남아 있는 말이 인간 체스 그랜드마스터에게는 어떤 "의미"를 가질 수 있지만, "평균"이라는 용어가 이러한 요약 작업에 대한 DeepMind의 AlphaZero에 어떤 의미가 있는지는 확실하지 않습니다. 

2019년에 가장 어려운 형태의 포커인 No-limit Texas 홀덤을 정복한 Pluribus 프로그램에서도 유사한 요약 작업이 수행됩니다. 이 게임은 숨겨진 정보, 플레이어의 뒷면 카드, 블러핑의 추가 "확률적" 요소가 있다는 점에서 훨씬 더 복잡합니다. 그러나 이 표현은 다시 말하지만, 각 턴에 의한 가능성의 요약입니다. 

인간의 언어를 다루는 프로그램에서조차도, 가중치 안에 있는 것은 평범한 관찰자가 생각하는 것과는 다르다. OpenAI의 최고의 언어 프로그램인 GPT-3는 문장과 단락에서 놀랍도록 인간과 유사한 출력을 생성할 수 있습니다. 

프로그램이 언어를 "알고" 있습니까? 그 가중치는 개별 단어와 심지어 전체 텍스트 문자열이 다른 단어 및 문자열과 함께 순서대로 발견되는 방법의 가능성을 나타냅니다. 

신경망의 기능을 알파고(AlphaGo)나 플루리버스(Pluribus)와 비슷한 요약이라고 부를 수 있는데, 이 문제는 체스나 포커와 비슷하다. 그러나 신경망에서 연결로 표현될 수 있는 가능한 상태들은 방대할 뿐만 아니라, 언어의 무한한 구성 가능성을 감안할 때 무한하다. 

반면에, GPT-3와 같은 언어 프로그램의 출력, 즉 문장이 불연속적인 점수가 아니라 퍼지 답변이라는 점을 감안할 때, "정답"은 체스나 포커의 승패 또는 무승부보다 다소 덜 까다롭습니다. GPT-3 및 이와 유사한 프로그램의 이 기능을 가중치에 있는 사물의 "인덱싱" 또는 "인벤토리"라고 부를 수도 있습니다. 

인간도 비슷한 종류의 언어 목록이나 색인을 가지고 있습니까? 아직까지 신경과학에서 이에 대한 징후는 없는 것 같습니다. 마찬가지로, "춤에서 무용수를 말하다" 라는 표현 에서 GPT-3는 이 문구 또는 연관성에서 여러 수준의 중요성을 발견합니까? 그러한 질문이 컴퓨터 프로그램의 맥락에서 의미를 갖는지는 확실하지 않습니다. 

체스판, 카드, 단어 문자열 등 각각의 경우에서 데이터는 다양한 방식으로 분할된 형성된 기판, 플라스틱 직사각형 종이 제품 세트, 소리 또는 모양의 클러스터링입니다. 그러한 발명이 집합적으로 컴퓨터에 어떤 것을 "의미"하는지 여부는 컴퓨터가 어떤 목적을 위해 반응하여 조정된다는 것을 말하는 방법일 뿐입니다.

이러한 데이터가 기계에서 불러일으키는 것들 - 필터, 요약, 인덱스, 인벤토리 또는 이러한 표현을 특성화하려는 방법 - 그 자체는 결코 존재하지 않습니다. 그것들은 발명품입니다. 

그러나 사람들은 눈송이를 보고 차이점을 보며, 마음만 먹으면 그 차이점을 목록화하기도 한다고 말할 수 있습니다. 사실, 인간의 활동은 항상 다양한 수단을 통해 패턴을 찾으려고 노력해 왔다. 직접 관찰은 가장 간단한 수단 중 하나이며, 어떤 의미에서 신경망에서 수행되는 것은 일종의 확장입니다. 

신경망은 수천 년 동안 인간 활동에서 항상 사실이었던 것, 즉 패턴에 대해 이야기하는 것은 세상에 있는 것이 아니라 세상에 부과된 것임을 드러낸다고 말할 수 있습니다. 세상에서 눈송이는 형태를 가지고 있지만 그 형태는 그것을 수집하고 색인화하고 분류하는 사람에게는 패턴일 뿐입니다. 다른 말로 하면, 그것은 구성물이다.

패턴을 만드는 활동은 점점 더 많은 프로그램이 세계의 데이터에 풀려남에 따라 극적으로 증가할 것이며, 그 가중치는 유용한 표현을 생성하기를 희망하는 연결을 형성하도록 조정됩니다. 이러한 표현은 매우 유용할 수 있습니다. 그들은 언젠가 암을 치료할 수 있습니다. 그러나 그것들이 드러내는 패턴은 세상 밖에 있는 것이 아니라 인식하는 사람의 눈 속에 있다는 것을 기억하는 것이 유용하다.