Google이 Gemini가 사람의 이미지를 생성하는 것을 금지한 이유

Gemini에서 한 달도 채 지나지 않아 Google의 AI 텍스트-이미지 생성기는 이미 뜨거운 물에 빠졌습니다.

AI 이미지 생성기를 사용하면 역사적 인물을 포함하여 생각할 수 있는 모든 이미지를 생성할 수 있습니다. 그러나 사용자들이 Google의 Gemini에게 역사적 인물이나 인물 그룹을 묘사해 달라고 요청하기 시작했을 때 그들은 놀랐습니다.

지난 주에 사용자가 Gemini에게 역사적 인물이나 다양한 인종, 국적의 사람들의 이미지를 생성해 달라고 요청했을 때, 그 어떤 이미지도 프롬프트에 충실하지 않다는 사실을 깨닫기 시작했습니다. 오히려 개인이 백인이더라도 이미지는 백인을 렌더링하지 못했습니다. 대신, 다문화적이고 인종적으로 다양한 사람들의 이미지만 생성했습니다.

사용자들은 이러한 이미지를 공유하기 위해 소셜 미디어를 이용하기 시작했고, Gemini에게 교황, 미국의 아버지, 바이킹의 이미지를 만들어 달라는 요청이 모두 유색인종의 이미지로 이어졌습니다. 전직 Google 직원인 Debarghya Das는 자신의 경험뿐만 아니라 X 전반의 사용자 게시물에서 예제를 수집하여 이러한 부정확한 내용을 담은 X 스레드를 공유했습니다.

그 결과 지난 수요일 구글 커뮤니케이션즈는 X를 통해 이 문제를 인정하고 챗봇이 "목표를 놓쳤기 때문에" 부정확성을 인지하고 있으며 이러한 묘사를 개선하기 위해 노력하고 있다고 밝혔습니다.

그런 다음 목요일에 Google은 문제를 해결하기 위해 노력하는 동안 Gemini에 있는 사람들의 이미지 생성을 일시 중지하고 있으며 곧 개선된 버전을 다시 출시할 계획이라고 밝혔습니다.

우리는 이미 Gemini의 이미지 생성 기능과 관련된 최근 문제를 해결하기 위해 노력하고 있습니다. 그동안 인물 이미지 생성을 잠시 중단하고 곧 개선된 버전을 다시 출시할 예정입니다. https://t.co/SLxYPGoqOZ

지금 Gemini에게 사람 사진을 생성해 달라고 요청하면 "아직은 할 수 없는 일입니다."와 같은 일련의 다양한 오류 메시지가 표시되고 이미지가 생성되지 않습니다. 당신을 위한.

제미니는 지난해 3월 AI 챗봇을 출시했음에도 불구하고 이달 초부터 이미지 생성 기능만 갖추게 됐다. 이미지 생성기를 챗봇에 공개하기까지 오랜 시간을 기다려온 결과, 이미 이러한 실수를 저지르고 있다는 사실이 놀랍습니다.

Google은 Google Bard라고 불리는 Gemini를 처음 출시했을 때 비슷한 경험을 했으며, 챗봇은 데모에서 James Webb 우주 망원경에 대한 부정확한 정보를 공유했습니다.