초지능 AI가 악당이 된다면 어떻게 될까요? OpenAI는 알고 싶어하지 않습니다

OpenAI는 초지능 AI가 '인류의 무력화 또는 심지어 인류 멸종으로 이어질 수 있다'고 경고하고 있습니다. 그래서 그것을 막기 위해 팀을 구성하고 있습니다.

만약 가장 지능적인 인간보다 더 똑똑한 초지능 AI가 어느 날 악당이 된다면 어떻게 될까요? OpenAI의 새로운 팀은 우리가 절대 알아내지 못하도록 하기 위해 나섰습니다.

이번 주 발표에서 OpenAI는 "우리보다 훨씬 더 스마트하게 AI 시스템을 조종하고 제어"하는 팀을 구성하고 있다고 밝혔습니다.

인공지능 연구소는 앞으로 10년 안에 도래할 초지능이 지금까지 만들어진 기술 중 가장 영향력 있는 기술이 될 것이며 세계의 가장 중요한 문제를 해결하는 데 도움이 될 수 있다고 말했습니다. 그러나 이어 "매우 위험할 수 있으며 인류의 무력화 또는 심지어 인류 멸종으로 이어질 수 있다"는 다소 무서운 경고가 이어졌습니다.

현재로서는 인간이 더 똑똑하기 때문에 인공지능을 견제할 수 있다고 회사는 말합니다. 하지만 AI가 인간을 앞지르면 어떻게 될까요?

연구소의 현재 수석 과학자와 현재 정렬 책임자가 이끄는 새로운 팀이 등장합니다. 해당 리더십 외에도 팀은 OpenAI의 최고 연구원 및 엔지니어와 현재 컴퓨팅 성능의 20%로 구성됩니다.

최종 목표는 "거의 인간 수준의 자동화된 정렬 연구원", 즉 설정된 목표를 달성하고 설정된 매개변수를 벗어나지 않는 AI 시스템을 만드는 것입니다. 팀에서는 다음 세 단계로 이를 달성할 계획입니다.

• AI가 인간의 상호 작용 없이 다른 AI를 분석하는 방법에 대한 이해를 발전시킵니다.
• AI를 사용하여 문제 영역이나 익스플로잇 검색
• AI가 감지되는지 확인하기 위해 의도적으로 일부 AI를 잘못 훈련시킵니다.

간단히 말해서, OpenAI의 인간 팀은 AI를 사용하여 AI를 훈련시켜 매우 스마트한 AI를 제어할 수 있도록 돕고 있습니다. 그리고 그들은 4년 안에 문제가 해결될 것이라고 생각합니다. 그들은 그것이 야심찬 목표이고 성공이 보장되지 않는다는 점을 인정하지만 자신의 일에 자신감을 갖고 있습니다.