Google, AI 공격 시나리오에 대한 보상을 포함하도록 버그 포상금 프로그램 확대

이 거대 기술 기업은 2022년 버그 현상금 프로그램의 일환으로 보안 연구원들에게 1,200만 달러 이상의 보상금을 지급했습니다.

사이버 보안에서는 위협이 빠르게 변화합니다. 빠르게 진화하는 생성 AI 기술을 혼합하면 보안 문제가 시시각각 진화합니다. Google은 인공 지능 기술 분야의 가장 큰 기업 중 하나이며 이러한 위협에 적응해야 할 필요성을 인식하고 있습니다.

Google은 생성적 AI와 관련된 취약점을 포함하도록 기존 VRP(취약성 보상 프로그램)를 확장하고 편견, 모델 조작, 데이터 잘못된 해석, 기타 적대적 공격과 같이 생성적 AI가 제기하는 고유한 문제를 고려하고 있습니다.

VRP는 Google 제품 및 서비스의 소프트웨어 취약점을 테스트하고 보고한 외부 보안 연구원에게 보상을 제공하는 버그 현상금 프로그램입니다. 이제 여기에는 생성적 AI 제품이 포함됩니다. Google의 가장 인기 있는 생성 AI 제품에는 Bard, Lens를 비롯하여 검색, Gmail, Docs 등의 기타 AI 통합이 포함됩니다.

생성 AI가 다양한 Google 도구 및 프로그램에 더욱 통합됨에 따라 잠재적인 위험이 증가하고 있으며 Google에는 이미 이러한 위험을 예측하기 위해 노력하는 내부 신뢰 및 안전 팀이 있습니다. 생성적 AI를 포함하도록 버그 포상금 프로그램을 확장하면서 Google은 책임 있는 AI가 표준이 되도록 AI 안전에 대한 연구를 장려하려고 노력하고 있습니다.

또한 Google은 사용자가 범위 내에 있는 것과 그렇지 않은 것을 쉽게 결정할 수 있도록 AI 제품의 버그 보고에 대한 보상 기준에 대한 자세한 정보를 제공했습니다.

외부 보안 연구원들은 재정적 이익을 대가로 이러한 취약점을 찾는 임무를 맡고 있으며, 이를 통해 버그 포상금 프로그램을 운영하는 회사인 Google은 악의적인 행위자가 이러한 위협을 악용하기 전에 이러한 위협을 해결할 수 있는 기회를 얻게 됩니다. 이는 사용자에게 더욱 안전한 제품을 보장합니다.

Google은 생성 AI를 VRP에 포함하는 것 외에도 책임감 있고 안전한 AI 애플리케이션 생성을 지원하기 위해 보안 AI 프레임워크를 도입했습니다. 또한 AI 공급망의 무결성을 보장하기 위해 오픈 소스 보안 재단(Open Source Security Foundation)과 협력한다고 발표했습니다.

Google의 버그 포상금 프로그램에 참여하려는 사용자는 버그나 보안 취약점을 회사에 직접 제출할 수 있습니다. 2022년에 Google은 버그 현상금 프로그램의 일환으로 보안 연구원들에게 1,200만 달러 이상의 보상금을 지급했습니다.