Instagram의 AI 고지 사항이 AI로 인해 생성된 영향력자를 찾는 데 도움이 될 수 있습니까?

생성적 AI는 초현실적인 사진과 비디오를 만들 수 있지만 모든 사람이 눈만으로 AI 생성 콘텐츠를 감지할 수는 없습니다.

인스타그램은 AI가 게시물을 부분적으로 또는 전체적으로 생성했을 때 사용자에게 알리는 기능을 개발할 수 있습니다. 앱 연구원인 Alessandro Paluzzi의 게시물에 따르면, AI가 작성한 게시물에는 AI가 게시물 작성에 한 역할을 했다는 것을 설명하는 라벨이 함께 표시됩니다.

하지만 생성 AI가 전체 계정을 생성하는 시점을 사람들이 식별하는 데 레이블이 도움이 될 수 있을까요?

인스타그램의 인기 인플루언서 세 명은 팔로어가 800만 명이 넘고 수백만 달러 상당의 브랜드 딜을 받았습니다. 그러나 세 가지 모두 AI로 생성되었습니다. Lil Miquela, Imma, Shudu는 사진이 AI로 생성된 Instagram 인플루언서입니다.

그들은 각자 흥미로운 삶을 살고 있으며 Dior, Calvin Klein, Chanel 및 Prada와 같은 브랜드와 파트너십을 맺었습니다. 각 AI 인플루언서의 약력에 "디지털 페르소나"라는 문구가 변형되어 있고 모든 사진이 기괴한 계곡 느낌을 갖고 있음에도 불구하고 많은 댓글 작성자와 팔로워는 인플루언서가 진짜라고 믿습니다.

각 디지털 인플루언서는 그래픽 디자이너와 디지털 아티스트를 고용하여 인공 지능의 도움으로 인플루언서의 이미지를 만드는 기술 회사의 제품입니다.

디지털 인플루언서들은 여행 비용을 절감하고, 언어 장벽을 없애고, 단 한 번에 모든 브랜드에 맞게 외모를 바꿀 수 있다는 점에서 브랜드와 마케팅 회사에 매력적입니다.

더 중요한 것은 디지털 영향력자가 브랜드 위험을 초래하지 않는다는 것입니다. 그들은 의견이나 정치적 가치가 없으며 10년 전의 의심스러운 트윗도 없습니다. 디지털 인플루언서가 할 수 있는 일은 브랜드의 무결성을 위태롭게 할 수 없습니다.

또한, 디지털 인플루언서들은 나이를 먹거나 브랜드 가치에 어긋나는 외모를 가릴 수 없습니다. 예를 들어. Lil Miquela는 2016년에 Instagram 계정을 만든 이후 19세가 되었습니다. 그 이후로 그녀는 유명 인사들과 협력하고, 잡지 표지를 장식하며 수백만 달러를 벌어 들였습니다.

하지만 사람들이 Lil Miquela의 게시물을 빠르게 스크롤할 때 그녀가 AI로 생성되었음을 즉시 알 수 있는 사람이 몇 명이나 될까요? 전문가들은 많지 않다고 말합니다. 젊은이들은 특히 감수성이 강하며, 그들이 온라인에서 보는 콘텐츠는 자신과 주변 세계에 대한 관점을 형성합니다.

그리고 디지털 인플루언서들과 함께 그들은 항상 완벽해 보이고 이상적인 삶을 살 수 있으며, 이는 십대들이 소셜 미디어를 스크롤하면서 느끼는 압박감과 불안한 감정을 가중시킬 수 있습니다.

그렇다면 AI가 생성한 인플루언서인 Lil Miquela, 그녀의 "소유자" 또는 Instagram 사용자가 소비하는 콘텐츠를 더 잘 판단하는 것은 Instagram의 몫일까요? 정부는 거대 기술 기업을 더욱 엄격한 기준으로 유지하기 위해 새로운 기관을 만들어야 한다고 말합니다.

Big Tech는 이러한 규제가 혁신을 저해할 수 있으며 많은 사용자는 책임이 기술 및 소셜 미디어 회사에 있다고 믿습니다.

AI가 생성한 콘텐츠 라벨은 인스타그램이 사용자가 접하는 콘텐츠를 더 잘 이해할 수 있도록 돕기 위해 처음으로 시도한 것은 아닙니다. 코로나19 팬데믹이 한창이던 2020년, 인스타그램은 잘못된 백신 정보를 퍼뜨리는 해시태그를 차단하고 사용자들에게 코로나19와 백신에 대해 신뢰할 수 있는 정보를 제공했습니다.

그러나 생성적 AI는 국립보건서비스(National Health Service)나 질병통제예방센터(CDC)에 대한 링크를 제공하는 것만큼 단순하고 건조하지 않습니다. AI는 발견하고 격리하기가 더 어려울 수 있으므로 기술 기업은 생성 AI가 전파할 수 있는 잘못된 정보의 위험에 맞서 싸워야 합니다.