대부분의 사람들은 딥페이크에 대해 걱정하고 있으며 딥페이크를 발견하는 능력을 과대평가합니다.

연구에 따르면 전 세계 유권자들은 정치적 딥페이크에 대해 불안해하고 있으며 일부 국가의 시민들은 다른 시민들보다 훨씬 더 우려하고 있는 것으로 나타났습니다.

생성적 인공지능(gen AI)의 부상이 전 세계적으로 선거와 충돌하고 있어 소비자들은 우려하고 있습니다.

싱가포르, 멕시코, 미국, 영국은 모두 올해 총선을 치릅니다. 유권자들은 딥페이크를 식별하지 못할까 봐 걱정하고 있습니다. 디지털 ID 관리 공급업체인 Jumio가 발표한 보고서에 따르면 대부분의 소비자는 AI와 딥페이크가 다가오는 선거에 영향을 미칠 가능성에 대해 우려하고 있습니다.

3월 말에 실시된 이 연구는 4개국에서 각각 약 2,000명씩 총 8,077명의 응답자를 대상으로 실시되었습니다. 영국은 이달 초 총선을 치렀고, 멕시코는 지난달 총선을 치렀다. 미국은 11월 대선을 치르고, 싱가포르는 올해 말, 늦어도 2025년 11월 이전에 총선을 치를 것으로 예상된다.

이 연구에 따르면 응답자의 72%는 딥페이크에 속을 수 있다고 매일 걱정하고 있으며 멕시코와 싱가포르 응답자는 각각 89%와 88%로 가장 큰 우려를 표했습니다. 이에 비해 영국에서는 57%, 미국에서는 55%가 같은 걱정을 하고 있다고 답했습니다.

응답자의 약 60%는 지난 1년 동안 딥페이크를 접했다고 믿고 있으며, 22%는 그런 적이 있는지 확실하지 않습니다. 단지 15%만이 아직 딥페이크를 접한 적이 없다고 답했습니다.

딥페이크에 속지 않을까 걱정하면서도 60%는 딥페이크를 탐지할 수 있다고 확신했습니다. Jumio는 이 수치가 작년보다 8% 높다고 말했습니다. 싱가포르 응답자는 77%로 가장 자신감이 높았으며, 이는 미국 58%, 멕시코 54%, 영국 53%에 비해 높았습니다.

특히 전 세계 응답자의 46%는 정치인의 딥페이크를 식별할 수 있다고 믿고 있습니다. 각 국가 중 싱가포르인이 60%로 가장 확신이 높았고, 멕시코가 51%, 미국이 37%, 영국이 33%로 그 뒤를 이었습니다.

전 세계적으로 71%는 지난 선거에 비해 온라인 정치 콘텐츠에 대해 더 회의적이라고 답했습니다. 하지만 응답자의 43%는 딥페이크를 접할 가능성에도 불구하고 온라인에서 보는 정치 뉴스를 신뢰한다고 답했습니다.

AI에 관한 정부 법률이 충분하지 않다는 데 동의하는지 묻는 질문에 전반적으로 60%가 그렇다고 답했습니다. 싱가포르인 대다수는 4개국 중 가장 높은 비율인 67%에 동의한 반면, 영국은 53%로 가장 낮았습니다.

하지만 싱가포르 응답자는 69%로 정부의 AI 규제 능력을 가장 신뢰한다고 답했습니다. 이에 비해 영국에서는 26%만이 정부의 AI 규제 능력을 확신하고 있으며, 미국에서는 31%, 멕시코에서는 44%가 신뢰하고 있습니다.

Jumio CEO인 Robert Prigge는 "올해 전 세계 인구의 절반이 선거에 참여하는 가운데 생성 AI와 딥페이크의 잠재적인 영향력과 영향에 즉각적인 관심이 필요합니다"라고 말했습니다. "온라인 정보에 대한 대중의 신뢰가 무너지고 있으며, 이 문제에 맞서고 시민들에게 딥페이크를 식별하고 신고할 수 있는 도구를 제공하기 위한 투명한 담론이 필요합니다."

Prigge는 온라인 플랫폼이 잠재적으로 선거에 영향을 미칠 수 있는 딥페이크에 맞서기 위해 다중 모드, 생체 인식 기반 검증 시스템과 같은 탐지 조치를 구현하는 "중요한 의무"를 가지고 있다고 덧붙였습니다.

Jumio는 인도네시아의 소셜 미디어 플랫폼이 2월 선거 전에 현직 대통령을 지지하는 사망한 수하르토 전 대통령을 묘사한 비디오를 포함하여 가짜 콘텐츠를 게재했다고 지적했습니다. 사이버 보안 공급업체는 싱가포르가 선거를 앞두고 정치적 딥페이크를 일시적으로 금지하는 방안을 검토하고 있으며, 한국은 정치 캠페인 콘텐츠에서 딥페이크 사용을 90일 동안 금지하는 조치를 채택했다고 덧붙였습니다.