실시간 딥페이크 감지: 인텔 랩이 AI를 사용하여 잘못된 정보에 맞서 싸우는 방법

Intel의 Ilke Demir는 딥페이크 기술이 어떻게 작동하는지, AI 연구자가 인류학자, 사회과학자, 학계 연구자와 협력하는 것이 왜 중요한지 설명합니다.

몇 년 전만 해도 딥페이크는 제조업체가 강력한 컴퓨팅 성능에 의존하는 새로운 기술처럼 보였습니다. 오늘날 딥페이크는 어디에나 존재하며 잘못된 정보, 해킹 및 기타 사악한 목적으로 오용될 가능성이 있습니다.

인텔 랩은 점점 커지는 문제에 대응하기 위해 실시간 딥페이크 탐지 기술을 개발했습니다. Intel의 수석 연구 과학자인 Ilke Demir는 딥페이크의 이면에 있는 기술, Intel의 탐지 방법, 이러한 도구의 개발 및 구현과 관련된 윤리적 고려 사항에 대해 설명합니다.

딥페이크는 배우나 행동이 실제가 아닌 인공지능(AI)에 의해 생성된 동영상, 음성, 이미지입니다. 딥페이크는 생성적 적대 네트워크(GAN), 변형 자동 인코더 및 기타 AI 모델과 같은 복잡한 딥 러닝 아키텍처를 사용하여 매우 현실적이고 믿을 수 있는 콘텐츠를 만듭니다. 이러한 모델은 합성 성격, 립싱크 비디오, 심지어 텍스트-이미지 변환까지 생성할 수 있어 실제 콘텐츠와 가짜 콘텐츠를 구별하기 어렵게 만듭니다.

딥페이크라는 용어는 때때로 전직 하원 의장인 낸시 펠로시(Nancy Pelosi)의 2019년 비디오에서 그녀가 술에 취한 것처럼 보이도록 조작된 것처럼 변경된 실제 콘텐츠에 적용됩니다.

Demir의 팀은 기계에 의해 생성된 콘텐츠의 합성 형태인 컴퓨터 딥페이크를 조사합니다. "딥페이크라고 불리는 이유는 모든 콘텐츠를 생성하는 생성 AI에 복잡한 딥러닝 아키텍처가 있기 때문입니다."라고 그녀는 말합니다.

사이버 범죄자와 기타 악의적인 행위자는 딥페이크 기술을 오용하는 경우가 많습니다. 일부 사용 사례에는 정치적인 잘못된 정보, 유명인이나 동의하지 않는 개인이 등장하는 성인용 콘텐츠, 시장 조작, 금전적 이득을 위한 사칭 등이 포함됩니다. 이러한 부정적인 영향은 효과적인 딥페이크 탐지 방법의 필요성을 강조합니다.

인텔 랩은 세계 최초의 실시간 딥페이크 탐지 플랫폼 중 하나를 개발했습니다. 이 기술은 가짜 인공물을 찾는 대신 심박수와 같은 실제 정보를 감지하는 데 중점을 둡니다. 감지 시스템은 광용적맥파학(photoplethysmography)이라는 기술을 사용하여 계산적으로 볼 수 있는 산소 함량으로 인한 정맥의 색상 변화를 분석합니다. 이 기술은 성격이 실제 인간인지 합성인지 감지할 수 있습니다.

Demir는 "우리는 무엇이 진짜이고 진짜인지 보려고 노력하고 있습니다. 심박수는 [신호] 중 하나입니다"라고 말했습니다. "그래서 심장이 혈액을 펌프질하면 정맥으로 들어가고, 산소 함량에 따라 색이 변하기 때문에 정맥의 색이 변합니다. 우리 눈에는 보이지 않습니다. 이 영상만 보고 심박수를 볼 수는 없습니다. 하지만 그 색상 변화는 계산적으로 볼 수 있습니다."

인텔의 딥페이크 탐지 기술은 소셜 미디어 도구, 통신사, 방송사, 콘텐츠 제작 도구, 스타트업, 비영리 단체 등 다양한 부문과 플랫폼에서 구현되고 있습니다. 이러한 조직은 기술을 워크플로에 통합함으로써 딥페이크와 잘못된 정보의 확산을 더 잘 식별하고 완화할 수 있습니다.

오용 가능성에도 불구하고 딥페이크 기술에는 합법적인 응용 프로그램이 있습니다. 초기 용도 중 하나는 디지털 환경에서 개인을 더 잘 표현하기 위해 아바타를 만드는 것이었습니다. Demir는 온라인 플랫폼에서 개인 정보 보호를 강화하기 위해 딥페이크를 활용하는 "MyFace, MyChoice"라는 특정 사용 사례를 언급합니다.

간단히 말해서, 이 접근 방식을 통해 개인은 온라인 사진에서 자신의 모습을 제어할 수 있으며, 인식을 피하려는 경우 얼굴을 "수량적으로 다른 딥페이크"로 대체할 수 있습니다. 이러한 제어는 개인 정보 보호를 강화하고 신원에 대한 제어를 제공하여 자동 얼굴 인식 알고리즘에 대응하는 데 도움이 됩니다.

AI 기술의 윤리적 개발과 구현을 보장하는 것이 중요합니다. 인텔의 Trusted Media 팀은 인류학자, 사회과학자, 사용자 연구원과 협력하여 기술을 평가하고 개선합니다. 또한 회사에는 잠재적인 편견, 한계, 유해한 사용 사례 등 책임 있고 윤리적인 원칙에 대해 AI 시스템을 검토하는 책임 있는 AI 위원회(Responsible AI Council)도 있습니다. 이러한 다학문적 접근 방식은 딥페이크 탐지와 같은 AI 기술이 인간에게 해를 끼치는 것이 아니라 혜택을 주는 역할을 하도록 보장합니다.

Demir는 "법률가, 사회과학자, 심리학자가 모두 함께 모여 알고리즘 편견, 체계적 편견, 데이터 편견 등 편견이 있는지 확인하기 위한 한계를 정확히 찾아내고 있습니다."라고 Demir는 말합니다. . 팀은 코드를 스캔하여 "사람에게 해를 끼칠 수 있는 기술의 가능한 사용 사례"를 찾습니다.

딥페이크가 점점 더 널리 퍼지고 정교해짐에 따라 잘못된 정보와 기타 유해한 결과를 방지하기 위한 탐지 기술을 개발하고 구현하는 것이 점점 더 중요해지고 있습니다. 인텔 랩의 실시간 딥페이크 탐지 기술은 점점 커지는 문제에 대한 확장 가능하고 효과적인 솔루션을 제공합니다.

인텔은 윤리적 고려 사항을 통합하고 다양한 분야의 전문가들과 협력함으로써 AI 기술이 책임감 있게 사용되고 사회 개선을 위해 사용되는 미래를 향해 노력하고 있습니다.