Google의 새로운 도구는 AI가 생성한 이미지를 감지할 수 있지만 그렇게 간단하지는 않습니다.

이 도구는 책임 있는 AI를 향한 발걸음으로 DeepMind 팀에 의해 만들어졌습니다.

이 도구는 편집, 색상 변경 또는 필터 추가 후에도 AI 생성 이미지를 감지할 수 있습니다.

인공지능 도구로 생성된 이미지는 인간이 만든 이미지와 구별하기가 점점 더 어려워지고 있습니다. AI가 생성한 이미지는 잘못된 정보를 대량으로 확산시켜 무책임한 AI 사용으로 이어질 수 있습니다. 이를 위해 구글은 AI가 생성한 이미지와 인간이 만든 이미지를 구별할 수 있는 새로운 SynthID 도구를 공개했습니다.

DeepMind 팀이 만든 이 도구는 마치 서명처럼 AI가 생성한 이미지에 눈에 띄지 않는 디지털 워터마크를 추가합니다. 동일한 도구는 나중에 이 워터마크를 감지하여 필터 추가, 압축, 색상 변경 등과 같은 수정 후에도 AI가 어떤 이미지를 생성했는지 지적할 수 있습니다.

SynthID는 두 가지 딥 러닝 모델을 하나의 도구로 결합합니다. 하나는 육안으로 감지할 수 없는 방식으로 원본 콘텐츠에 워터마크를 시각적으로 추가하고, 다른 하나는 워터마크가 표시된 이미지를 식별합니다.

현재 SynthID는 AI로 생성된 모든 이미지를 감지할 수 없습니다. Google의 텍스트-이미지 도구인 Imagen으로 생성된 이미지로 제한되기 때문입니다. 그러나 이는 책임 있는 AI의 유망한 미래를 보여주는 신호입니다. 특히 다른 회사가 생성 AI 도구에 SynthID를 채택하는 경우 더욱 그렇습니다.

이 도구는 Imagen을 사용하는 Vertex AI 고객에게 점진적으로 출시될 예정이며 이 플랫폼에서만 사용할 수 있습니다. 하지만 Google DeepMind는 이 기능을 다른 Google 제품 및 제3자에서도 곧 제공할 수 있기를 바라고 있습니다.