Adobe는 콘텐츠 자격 증명 및 Firefly의 보안 결함을 찾는 데 도움을 원합니다.

Adobe는 버그 보상 프로그램을 확대하고 있습니다. 윤리적인 해커이거나 보안 연구원인 경우 가입하고 보상을 받는 방법은 다음과 같습니다.

악의적인 행위자, 유해한 이미지 생성, 기타 잠재적인 오용으로부터 생성 인공 지능(AI) 모델을 안전하게 보호하려면 보안 허점을 막는 것이 중요합니다. 최신 대규모 AI 프로젝트의 안전을 최대한 보장하기 위해 Adobe는 수요일에 버그 발견 및 공개에 대해 보안 연구원에게 보상하는 버그 포상금 프로그램을 Content Credentials 및 Adobe Firefly를 포함하도록 확장했습니다.

콘텐츠 자격 증명은 "영양 라벨" 역할을 하는 디지털 콘텐츠에 첨부된 변조 방지 메타데이터로, 사용자는 제작자 이름, 생성 날짜, 이미지 생성에 사용된 도구(생성 AI 모델 포함)와 같은 콘텐츠의 "성분"을 볼 수 있습니다. ) 및 수정된 내용입니다.

AI 생성 이미지 시대에 이 출처 도구는 사람들이 인간이 만든 콘텐츠에서 합성 콘텐츠를 결정하는 데 도움이 될 수 있습니다. 그러나 이는 콘텐츠 자격 증명이 변조 방지되고 설계된 대로 사용되는 경우에만 작동합니다. Adobe는 현재 버그 보상 프로그램을 통해 콘텐츠 자격 증명에 대한 보안 노력을 크라우드소싱하여 잘못된 콘텐츠에 자격 증명을 잘못 첨부하는 등 잠재적인 남용에 대한 보호를 강화하고 있습니다.

Adobe Firefly와 같은 일부 AI 이미지 생성기는 AI 생성 콘텐츠에 콘텐츠 자격 증명을 자동으로 연결합니다. Firefly는 프롬프트, 기타 사진 등에서 이미지를 생성할 수 있는 Adobe의 생성 AI 모델 그룹입니다. 이 모델 제품군은 독립형 웹 애플리케이션과 Photoshop을 비롯한 Adobe의 가장 인기 있는 일부 애플리케이션을 통해 대중이 쉽게 액세스할 수 있습니다.

릴리스에는 Adobe가 보안 연구원들이 신속한 주입, 민감한 정보 공개, 학습 데이터 중독과 같은 LLM(대형 언어 모델) 애플리케이션에서 OWASP(Open Worldwide Application Security Project)의 주요 보안 위험에 대해 Firefly를 테스트하기를 원한다고 나와 있습니다. 그런 다음 Adobe는 이 피드백을 사용하여 Firefly의 약점을 해결하기 위한 연구와 추가 노력에 집중할 것입니다.

어도비는 보도 자료에서 "보안 커뮤니티에 적극적으로 참여함으로써 생성 AI 기술의 보안 상태에 대한 추가 통찰력을 얻을 수 있기를 희망하며, 이는 결과적으로 내부 보안 프로그램에 귀중한 피드백을 제공할 것"이라고 밝혔습니다.

Adobe는 버그 포상금 프로그램 참여에 관심이 있는 윤리적 해커에게 Adobe HackerOne 페이지를 방문하고 지원자의 보안 연구 및 전문 지식에 대해 질문하는 이 양식을 통해 지원하도록 초대하고 있습니다.

콘텐츠 자격 증명 및 Adobe Firefly 외에도 대부분의 Adobe 웹 앱과 Creative Cloud 앱의 데스크탑 및 모바일 버전에서 버그 보상금 프로그램을 사용할 수 있습니다. Adobe Bug Bounty Program 웹페이지에서 포함된 앱의 전체 목록을 찾을 수 있습니다.
이상하게도 HackerOne 페이지에는 100달러에서 10,000달러에 이르는 보상이 나열되어 있지만 Adobe 웹페이지에서는 "이 프로그램은 버그 제출에 대해 금전적 보상을 제공하지 않습니다. " 이것이 Adobe의 비공개 버그 보상 프로그램에만 해당되는지 여부는 확실하지 않습니다.

이와 별도로 OpenAI에는 보안 연구원이 취약점 유형에 따라 200달러에서 20,000달러까지 벌 수 있는 버그 포상금 프로그램도 있습니다.