이 MIT 팀은 한 번에 몇 픽셀씩 악의적인 AI 이미지 조작에 맞서 싸우고 있습니다.

AI 이미지 편집이 증가하고 있지만 이 새로운 기술은 이를 방지하는 데 도움이 될 수 있습니다.

AI 이미지 생성 및 편집이 점점 보편화되면서 새로운 디지털 개인 정보 보호 문제가 대두되었습니다. 즉 누군가의 예술 작품이나 사진을 AI가 무단으로 편집하는 것입니다. 현재까지 누군가가 온라인에서 사진을 찍어 AI 프로그램에 업로드하고 모든 종류의 목적으로 조작하는 것을 막을 수 있는 방법은 없습니다.

그러나 MIT 팀의 새로운 기술이 이를 바꿀 수 있습니다.

간단히 '포토가드(PhotoGuard)'라고 불리는 이 방법은 AI가 작동하는 알고리즘에 대한 깊은 이해를 포함합니다. 이러한 이해를 바탕으로 팀은 그림을 매우 미묘하게 변경하여 AI가 해석하는 방식을 방해하는 방법을 개발했습니다. AI가 이미지를 이해하지 못하면 편집할 수도 없습니다.

MIT 팀은 프로젝트에 대한 논문에서 "우리 접근 방식의 핵심은 이미지 면역이라는 아이디어입니다. 즉, 세심하게 제작된(눈에 띄지 않는) 이미지를 추가하여 AI 기반 조작에 저항하는 특정 이미지를 만드는 것입니다. 그것에 대한 혼란."

PhotoGuard는 AI가 존재하지 않는 것을 볼 수 있도록 각 이미지에서 몇 가지 선택 픽셀을 변경하는 방식으로 작동합니다. 이러한 변화는 인간의 눈에는 보이지 않지만 AI에게는 눈이 멀 정도로 밝습니다. AI는 편집된 픽셀을 보면 그 중요성을 과대평가하고 이미지의 나머지 부분 대신 해당 픽셀으로 이미지를 편집합니다.

결과를 테스트하기 위해 MIT 팀은 60개의 이미지를 촬영하고 동일한 이미지의 면역화된 버전과 면역되지 않은 버전 모두에서 다양한 프롬프트를 사용하여 AI 편집을 생성했습니다. 새 이미지가 생성된 후 여러 측정항목을 사용하여 편집 내용이 얼마나 유사한지 확인했습니다. 최종 결과는? 60개의 이미지를 테스트한 결과, 연구팀은 면역화된 이미지의 편집이 "면역되지 않은 이미지의 편집과 눈에 띄게 다르다"는 사실을 발견했습니다.

물론 그 방법이 만능은 아니다. 누군가가 원할 경우에도 여전히 이미지를 악의적으로 편집할 수 있습니다. 아마도 문제를 일으키는 픽셀을 잘라낼 때까지 사진을 자르거나 단순히 이미지에 필터를 적용하는 등의 방법을 사용할 수 있습니다. 그럼에도 불구하고 이는 많은 사람들을 단념시킬 수 있는 중대한 장애물을 제시합니다.

그리고 이 방법이 현 세대의 AI에 효과적이라고 해서 반드시 미래에도 그럴 것이라는 의미는 아닙니다. 그렇기 때문에 PhotoGuard 제작자는 기술적 방법뿐만 아니라 "대규모 확산 모델, 최종 사용자, 데이터 호스팅 및 보급 플랫폼을 개발하는 조직 간의 협력"을 통해 이 분야의 성장을 장려합니다.

현재 PhotoGuard는 단순한 기술일 뿐입니다. 대중이 사용할 수 있는 소프트웨어는 없으며, 제작자는 이를 실용적이고 일반 대중이 사용할 수 있으려면 해야 할 일이 많다는 점을 인정합니다. 그럼에도 불구하고 MIT 팀은 이것이 AI의 새로운 위협으로부터 보호하기 위한 한 단계 전진이며 기업이 싸움에 투자해야 한다는 신호라고 말합니다.