지난주 우리가 AI를 앞지르기 위해 시도한 3가지 방법: 입법, 준비, 개입

싱가포르에서 유럽, 워싱턴 DC에 이르기까지 인간은 genAI 모델을 더 잘, 그리고 더 안전하게 활용하기 위해 분주했습니다.

현재 인공지능(AI) 모델은 통화 정책을 위한 도구로 활용될 준비가 되어 있지 않지만, 새로운 보고서에 따르면 정부가 필요한 보호 장치에 개입하지 않으면 이 기술이 인류 멸종으로 이어질 수 있다고 합니다. 그리고 개입은 바로 유럽연합(EU)이 지난주에 했던 일입니다.

유럽의회는 지난 수요일 유럽연합(EU) AI법을 통과시켜 전 세계적으로 제정된 최초의 주요 AI 법안이 됐다. 유럽법은 중국에서 사용되는 것과 같이 정부가 운영하는 사회 점수 지수가 금지되는 "허용할 수 없는 위험"을 포함하여 세 가지 주요 위험으로부터 보호하는 것을 목표로 합니다.

유럽의회는 "새 규정은 민감한 특성을 기반으로 한 생체 인식 분류 시스템, 얼굴 인식 데이터베이스를 만들기 위해 인터넷이나 CCTV 영상에서 얼굴 이미지를 의도치 않게 스크랩하는 등 시민의 권리를 위협하는 특정 AI 애플리케이션을 금지한다"고 밝혔다. "직장과 학교에서의 감정 인식, 사회적 채점, 예측 치안(개인 프로파일링이나 특성 평가에만 기반한 경우), 인간 행동을 조작하거나 사람의 취약성을 이용하는 AI도 금지됩니다."

취업 지원자의 순위를 매기는 이력서 검색 도구와 같이 "고위험"으로 식별된 지원서는 특정 법적 요구 사항을 준수해야 합니다. 위험도가 높거나 명시적으로 금지되지 않은 애플리케이션은 대부분 규제되지 않은 상태로 남아 있습니다.

시간 및 지리적 범위의 사용 제한을 포함하여 "엄격한 보호 조치"가 충족되는 경우 실시간 생체 인식 시스템을 사용할 수 있는 법 집행 기관에 대한 몇 가지 예외가 있습니다. 예를 들어, 이러한 시스템은 실종자에 대한 표적 수색을 용이하게 하거나 테러 공격을 예방하는 데 사용될 수 있습니다.

중요 인프라, 교육, 의료 및 은행을 포함한 필수 민간 및 공공 서비스와 같은 고위험 AI 시스템의 운영자는 위험을 평가하고 완화하는 동시에 사용 로그와 투명성을 유지해야 합니다. 이러한 운영자가 이행해야 하는 다른 의무에는 인간의 감독 및 데이터 정확성 보장이 포함됩니다.

시민들은 또한 AI 시스템에 대한 불만 사항을 제출하고 자신의 권리에 영향을 미치는 고위험 AI 시스템을 기반으로 한 결정에 대해 설명을 들을 권리가 있습니다.

범용 AI 시스템과 그 기반이 되는 훈련 모델은 EU 저작권법 준수, 훈련에 사용되는 콘텐츠 요약 게시 등 특정 투명성 요구 사항을 준수해야 합니다. 시스템적 위험을 초래할 수 있는 보다 강력한 모델은 모델 평가 수행 및 사고 보고를 포함한 추가 요구 사항에 직면하게 됩니다.

또한 딥페이크를 포함하여 인공적이거나 조작된 이미지, 오디오 및 비디오 콘텐츠에는 그러한 내용을 명확하게 표시해야 합니다.

EU는 "AI 애플리케이션은 어떤 콘텐츠가 귀하에게 관심을 끌지 예측하고, 얼굴의 데이터를 캡처 및 분석하여 법을 집행하거나 광고를 개인화하고, 암 진단 및 치료에 사용되어 온라인에서 보는 정보에 영향을 미칩니다"라고 말했습니다. "즉, AI는 삶의 많은 부분에 영향을 미칩니다."

EU 내부 시장 위원회 공동 조사관이자 이탈리아의 Brando Benifei는 다음과 같이 말했습니다. "우리는 마침내 위험을 줄이고, 기회를 창출하고, 차별에 맞서 싸우고, 투명성을 가져오는 AI에 관한 세계 최초의 구속력 있는 법률을 갖게 되었습니다. 용납할 수 없는 AI 관행은 유럽에서 금지될 것이며, 노동자와 시민은 보호받을 것입니다.

Benifei는 AI Office가 발효되기 전에 기업이 규칙을 준수하도록 지원하기 위해 설립될 것이라고 덧붙였습니다.

규정은 변호사의 최종 확인과 유럽이사회의 공식 승인을 거쳐야 합니다. AI법은 공식 저널에 공표된 날로부터 20일 후에 발효되며, 발효 후 2년이 지나면 완전히 적용됩니다. 단, 금지된 행위에 대한 금지는 발효일로부터 6개월 후에 적용됩니다. 실천강령도 초기 규칙이 시작된 후 9개월 후에 시행되며, 거버넌스를 포함한 범용 AI 규칙은 1년 후에 시행됩니다. 고위험 시스템에 대한 의무는 법 시행 후 3년 후에 발효됩니다.

유럽의 중소기업(SMB)과 스타트업이 AI법으로 인해 어떤 영향을 받을 수 있는지 이해하도록 안내하는 새로운 도구가 개발되었습니다. 그러나 EU AI Act 사이트에서는 이 도구가 여전히 "진행 중인 작업"임을 언급하고 조직이 법적 지원을 구할 것을 권장합니다.

EU는 "AI법은 유럽인들이 AI가 제공하는 것을 신뢰할 수 있도록 보장한다"고 말했다. "대부분의 AI 시스템은 위험이 전혀 없으며 많은 사회적 과제를 해결하는 데 기여할 수 있지만 특정 AI 시스템은 바람직하지 않은 결과를 피하기 위해 해결해야 하는 위험을 생성합니다. 예를 들어 AI 시스템이 왜 그렇게 했는지 알아내는 것이 불가능한 경우가 많습니다. 따라서 채용 결정이나 공익 제도 신청 등에서 누군가가 부당한 불이익을 받았는지 여부를 평가하기가 어려워질 수 있습니다."

새로운 법안은 무엇보다도 고위험 애플리케이션을 식별하고 AI 시스템이 서비스 또는 시장에 출시되기 전에 표준 평가를 요구하도록 노력하고 있습니다.

EU는 AI법이 일반 데이터 보호 규정(GDPR)과 같은 글로벌 표준이 되기를 바라고 있습니다.

AI는 인간의 개입 없이 인류를 멸종시킬 수 있다

미국에서는 AI 시스템이 위험한 무기로 발전해 인류 멸종을 포함한 '재앙적인' 사건으로 이어지기 전에 정부의 개입이 필요하다는 새로운 보고서가 나왔다.

글래드스톤 AI(Gladstone AI)가 발표한 이 보고서는 미국 국무부의 의뢰로 "검토를 위해 작성"되었지만 그 내용은 정부 기관의 견해를 반영하지 않는다고 저자는 말했습니다.

보고서는 "대량 살상 무기와 같은" 위험의 기회와 새로운 범주를 모두 제시하는 고급 AI의 가속화된 발전을 언급했습니다. 이러한 위험은 인간 수준 및 초인적 인공일반지능(AGI)을 달성할 수 있는 가장 진보된 시스템을 구축하려는 AI 연구소 간의 경쟁으로 인해 크게 촉발되었습니다.

Gladstone AI는 이러한 개발이 전 세계적으로 규모가 크고 기술적 기원이 깊으며 빠르게 진화하는 위험을 주도하고 있다고 말했습니다. "결과적으로 정책 입안자들은 이러한 고려 사항의 균형을 맞추고 고급 AI가 책임감 있게 개발 및 채택되도록 보장할 수 있는 기술적으로 정보를 갖춘 안전 장치를 도입할 기회가 줄어들고 있습니다."라고 말했습니다. "이러한 안전 장치는 이 기술이 발전하면서 급속히 나타나고 있는 심각한 국가 안보 격차를 해결하는 데 필수적입니다."

보고서는 구글, 오픈AI(OpenAI), 마이크로소프트(Microsoft) 등 주요 AI 업체들이 잠재적인 위험을 인지하고 있음을 지적하고 AI 연구실의 '부적절한 보안 전망'이 '고급 AI 시스템이 자사에서 도난당할 수 있는 위험'을 가중시켰다고 지적했다. 미국 개발자들이 미국의 이익에 반하여 무기화했습니다."

글래드스톤 AI는 이들 선도적인 AI 연구소는 또한 자신들이 개발 중인 AI 시스템에 대한 통제력을 상실할 가능성을 강조했으며, 이는 글로벌 보안에 "잠재적으로 파괴적인 결과"를 초래할 수 있다고 말했습니다.

"무기화와 통제력 상실로 인한 AI 능력의 급속한 확장으로 인해 발생하는 국가 안보에 대한 위험 증가, 특히 이러한 능력의 지속적인 확산이 두 가지 위험을 모두 증폭시키는 역할을 한다는 사실을 고려할 때 미국에 대한 명확하고 긴급한 필요성이 있습니다. 정부가 개입할 것"이라고 보고서는 지적했다.

관련 공급망에 대한 수출 통제를 포함하여 첨단 AI 개발을 안정화하기 위한 임시 보호 조치 구현을 포함하는 실행 계획이 필요했습니다. 미국 정부는 또한 기본적인 규제 감독을 개발하고 이후 단계에 대한 역량을 강화해야 하며, 감독할 새로운 규제 기관을 설립하여 책임 있는 AI 사용에 대한 국내 법적 체제로 나아가야 합니다. 보고서에 따르면 이는 나중에 다자간 및 국제적 영역을 포함하도록 확장되어야 합니다.

Gladstone AI는 규제 기관이 AI 개발 및 배포를 감독하기 위한 규칙 제정 및 라이센스 권한을 가져야 한다고 덧붙였습니다. 형사 및 민사 책임 제도는 또한 AI로 인한 피해에 대한 책임을 정의하고 AI 공급망의 모든 수준에서 AI 사고 및 무기화에 대한 책임 범위를 결정해야 합니다.

AI는 통화 정책을 추진할 준비가 되어 있지 않습니다.

싱가포르의 다른 곳에서는 중앙은행이 팬데믹 이후 인플레이션 지속성을 예측하지 못하는 세계 경제의 집단적 실패에 대해 고민했습니다.

통화(Monetary)의 경제 정책 담당 부국장이자 수석 이코노미스트인 에드워드 S. 로빈슨(Edward S. Robinson)은 기존 모델의 효율성에 대한 질문에 직면한 경제학자들이 예측과 모델을 개선하기 위해 데이터 분석 및 AI 기술의 발전을 살펴봐야 하는지에 대한 질문을 받았다고 말했습니다. 싱가포르 당국(MAS).

지난 주 초에 개최된 2024년 중앙은행 고급 워크숍에서 연설한 로빈슨은 전통적인 빅데이터와 머신러닝 기술이 이미 다양한 분야에서 중앙은행을 포함해 이 분야에서 널리 사용되고 있다고 말했습니다. 여기에는 예를 들어 비정상적인 금융 거래를 식별하는 데 사용되는 금융 감독 및 거시 경제 모니터링을 위한 AI 및 기계 학습 사용이 포함됩니다.

그러나 현재의 AI 모델은 아직 통화 정책 도구로 활용될 준비가 되어 있지 않다고 그는 말했습니다.

그는 "예측 작업에서 AI 및 기계 학습 모델링 접근 방식의 주요 강점은 데이터를 통해 모델의 기능적 형태를 유연하게 결정할 수 있는 능력입니다"라고 설명했습니다. 이를 통해 모델은 경제 역학의 비선형성을 포착하여 인간 전문가의 판단을 모방할 수 있습니다.

최근 생성 AI(GenAI)의 발전은 대체 시나리오를 생성할 수 있는 방대한 양의 데이터에 대해 훈련된 대규모 언어 모델(LLM)을 통해 이를 더욱 발전시켰다고 그는 말했습니다. 이는 기본 경제 모델을 지정 및 시뮬레이션하고 인플레이션 예측에 있어서 인간 전문가를 능가합니다.

하지만 LLM의 유연성은 단점이라고 로빈슨은 말했습니다. 그는 이러한 AI 모델이 취약할 수 있다는 점을 지적하면서 모델의 매개변수 또는 사용된 프롬프트의 선택에 따라 출력이 민감한 경우가 많다고 말했습니다.

그는 또한 LLM이 불투명하기 때문에 모델링되는 프로세스의 기본 동인을 구문 분석하기가 어렵다고 덧붙였습니다. "인상적인 능력에도 불구하고 현재 LLM은 논리 퍼즐과 수학 연산으로 어려움을 겪고 있습니다."라고 그는 말했습니다. "[그것은] 그들이 아직 자신의 예측에 대해 신뢰할 만한 설명을 제공할 능력이 없다는 것을 암시합니다."

그는 오늘날 AI 모델에는 기존 모델이 통화 정책 입안자에게 유용할 수 있도록 하는 구조의 명확성이 부족하다고 덧붙였습니다. 그는 경제가 어떻게 작동하는지 설명할 수 없거나 경쟁 내러티브를 구별할 수 없기 때문에 AI 모델은 아직 중앙은행의 구조적 모델을 대체할 수 없다고 말했습니다.

그러나 GenAI가 GPT로 진화하는 날을 위해서는 준비가 필요하다고 로빈슨은 말했습니다.