딥페이크는 어떻게 알아낼 수 있나요? 간단한 트릭 하나만 있으면 됩니다

그들이 누구인지 확신할 수 없다면 딥페이크 소프트웨어의 이러한 약점이 도움이 될 수 있습니다.

범죄자들이 실시간 온라인 면접에서 딥페이크 비디오 기술을 사용하여 신원을 위장하기 시작함에 따라 보안 연구원들은 딥페이크를 식별하는 한 가지 간단한 방법을 강조했습니다. 

잠재적으로 편리한 인증 확인으로 이 작업을 수행하는 이유는 딥페이크 AI 모델이 사람 얼굴의 정면 뷰를 재현하는 데는 능숙하지만 머그샷에서 볼 수 있는 것과 같은 측면 또는 프로필 뷰는 잘 수행하지 않기 때문입니다. 

Metaphysics.ai 라이브 딥페이크 비디오에서 전체 90° 프로필 보기를 다시 생성하는 것의 불안정성을 강조하여 측면 프로필 확인을 비디오 기반 온라인 면접을 수행하는 회사에서 간단하고 효과적인 인증 절차로 만듭니다. 

딥페이크(Deepfake) 또는 합성 AI를 통해 인간의 오디오, 이미지 및 비디오 콘텐츠를 재현하는 것은 몇 년 동안 잠재적인 신원 위협으로 주목되어 왔습니다.

그러나 지난 6월 미국 연방수사 국(FBI)은 온라인 면접에 참여할 때 딥페이크 오디오와 비디오를 사용하는 사기꾼이 증가했다고 경고했으며, 이는 팬데믹 기간 동안 더 널리 사용되었다. FBI는 기술 공석이 딥페이크 후보자의 표적이 된 이유는 이러한 역할을 통해 공격자가 기업 IT 데이터베이스, 개인 고객 데이터 및 독점 정보에 액세스할 수 있기 때문이라고 지적했습니다.  

FBI는 기침, 재채기 또는 기타 소리가 비디오에 있는 것과 일치하지 않을 때 비디오 참가자가 딥페이크를 발견할 수 있다고 경고했습니다. 측면 프로필 확인은 온라인 화상 회의를 시작하기 전에 사람이 확인할 수 있는 빠르고 쉽게 따라할 수 있는 방법이 될 수 있습니다. 

마틴 앤더슨(Martin Anderson)은 Metaphsyics.ai 에 기고한 글에서 회사의 실험에 대해 자세히 설명했다. 그것이 만든 대부분의 딥페이크는 머리가 90°에 도달하고 사람의 실제 옆모습 요소를 드러냈을 때 분명히 실패했습니다. 프로필 보기 재현은 프로필에 대한 양질의 학습 데이터가 부족하여 실패하며, 딥페이크 모델이 누락된 부분에 대해 많은 것을 발명하거나 "인페인트"해야 합니다. 

문제의 일부는 딥페이크 소프트웨어가 얼굴을 재현하기 위해 사람의 얼굴에 있는 랜드마크를 감지해야 한다는 것입니다. 측면을 켤 때 알고리즘은 전면 보기에 비해 감지에 사용할 수 있는 랜드마크의 절반만 가지고 있습니다. 

앤더슨은 얼굴을 재현하기 위해 사이드 프로필 비디오를 사용하는 것의 주요 약점은 2D 기반 얼굴 정렬 알고리즘의 한계와 할리우드 스타를 제외한 대부분의 사람들에게 프로필 데이터가 부족하다는 점이라고 지적합니다.  

Anderson은 실시간 화상 회의에서 인증을 위해 측면 프로필을 사용하는 사례를 주장하면서 일반인을 위한 측면 보기 교육 데이터가 지속적으로 부족할 가능성이 있다고 지적합니다. 프로필 얼굴 사진의 스톡 사진은 눈에 띄지 않기 때문에 수요가 적고, 얼굴에 대한 감정적 통찰력을 거의 제공하지 않기 때문에 사진작가가 제공할 동기도 없습니다. 

앤더슨은 "사용 가능한 데이터가 부족하기 때문에 프로필 뷰를 설득력 있게 재현하기 위해 딥페이크 모델을 훈련시킬 수 있을 만큼 다양하고 광범위한 비유명인의 프로필 이미지를 얻기가 어렵다"고 썼다. 

"딥페이크의 이러한 약점은 최근 FBI에 의해 긴급 위험으로 분류된 실시간 화상 통화에서 '시뮬레이션된' 특파원을 발견할 수 있는 잠재적인 방법을 제공합니다: 대화 상대가 '딥페이크 클론'일 수 있다고 의심되는 경우, 1-2초 이상 옆으로 돌아서도록 요청할 수 있습니다. 그리고 그들의 외모에 아직도 확신이 있는지 확인해봐."

생체 감지 및 딥페이크 탐지 소프트웨어 제조업체인 센시티(Sensity)는 지난 5월 KYC(Know Your Customer) 규정 준수를 위해 금융 서비스에 사용되는 널리 채택된 생체 인식 인증 시스템 10개 중 9개가 딥페이크 '얼굴 스왑' 공격에 심각하게 취약하다는 사실을 발견했다고 보고했다. 

사람이 커넥티드 디바이스의 카메라를 들여다보는 것과 관련하여 일반적으로 사용되는 생체 테스트도 딥페이크에 쉽게 속는 것으로 나타났습니다. 생체 테스트는 환자가 머리를 좌우로 움직이고 미소를 지어야 합니다. 센시티가 사용한 딥페이크는 사기꾼이 머리를 좌우로 움직이는 것이었지만, 영상은 90°에 도달하기 전에 고개를 돌리지 않는 것을 보여줍니다. 

Sensity의 CEO이자 수석 과학자인 Giorgio Patrini는 테스트에 전체 90° 프로필 보기를 사용하지 않았다고 Metaphysic.ai 확인했습니다. 

"신원 확인의 한 형태로 사용될 때 사람들의 얼굴을 측면으로 보는 것은 실제로 딥페이크에 대한 추가 보호를 제공할 수 있습니다. 지적한 바와 같이 널리 사용 가능한 프로필 보기 데이터가 부족하기 때문에 딥페이크 탐지기 훈련이 매우 어렵습니다." 

라이브 딥페이크 모델을 흔들 수 있는 또 다른 유용한 방법은 비디오 참가자에게 얼굴 앞에서 손을 흔들도록 요청하는 것입니다. 이는 모델을 방해하고 딥페이크 얼굴 위에 겹쳐진 지연 시간 및 품질 문제를 드러냅니다.