웹사이트 검색

FTC는 AI 회사 Evolv가 보안 스캐너를 '거짓 과장'했다고 밝혔습니다.

Evolv의 스캐너는 학교에서 믿게 만들었을 뿐만 아니라 작동하지 않습니다. 어린이의 안전을 위한 의미는 다음과 같습니다.

인공 지능(AI) 회사는 자사 제품의 기능을 돋보이게 하는 데 낯설지 않으며, 공공 안전에 관한 한 그 결과는 치명적일 수 있습니다.

Evolv Technologies는 자사의 AI 기반 보안 스캐너가 학교를 포함한 다양한 장소에서 무기를 탐지함으로써 공공 안전을 향상시킬 것이라고 주장했습니다. 그러나 연방거래위원회(FTC)는 그렇지 않다고 판단했습니다.

지난주 FTC는 Evolv Technologies가 특히 학교 환경에서 무기를 탐지하고 "무해한 개인 물품을 무시"하는 AI 기반 보안 시스템의 능력을 과도하게 판매한 방식에 대해 합의 명령을 제안했습니다. Evolv의 터치 프리 시스템은 가방이나 주머니를 수동으로 검색할 필요 없이 공간에 들어갈 때 사람들을 스캔합니다.

X 게시물에서 FTC 의장 Lina Khan은 Evolv가 학교에서 이 기술을 사용하기 위해 회사에 "수백만 달러"를 지불한 학군에 AI 무기 탐지 시스템을 "거짓 과장"했다고 말했습니다. 그녀는 스캐너가 물병이나 바인더와 같은 무해한 품목에 대해 경보를 울렸지만 무기는 식별하지 못했다고 지적했습니다.

The Intercept에 따르면 2022년 6월 전 Evolv 최고 경영자인 Peter George는 투자자 회의에서 "19명의 학생과 2명의 교사가 사망한 텍사스 유발데에서 발생한 비극적인 학교 총격 사건을 회사가 중단할 수 있었는지"라는 질문을 받았습니다.

George는 "누군가가 우리 시스템을 통과하여 숨겨진 무기나 개방형 휴대 무기를 갖고 있다면 우리는 그것을 찾아낼 것입니다."라고 대답했습니다.

Intercept에 따르면 Georges의 선언에도 불구하고 총기 탐지 기술에 수백만 달러를 지출한 수십 개의 교육구에서는 Evolvs의 시스템이 무기를 탐지하지 못하는 사례가 발생하여 법적 및 규제 조사가 이루어졌습니다. 2023년 5개 법률 회사는 "Evolv가 무기 탐지기의 기능에 대해 투자자를 오도했다"고 주장하면서 증권법 위반 가능성에 대해 Evolv 기술에 대한 조사를 발표했습니다.

더욱이 Evolv의 주주들은 회사의 마케팅 주장이 기술의 효율성을 과장했다고 주장하며 회사를 상대로 집단 소송을 제기했습니다.

문제는 여기서 끝나지 않습니다. 이러한 법적, 규제적, 내부적 혼란에도 불구하고 뉴욕 시장 Eric Adams는 뉴욕 지하철에 AI 스캐너를 배치하는 3개월 간의 파일럿 프로그램을 시작했습니다. 뉴욕시에 본사를 둔 뉴스 매체인 Hell Gate에 따르면 동일한 스캐너가 이전에 Jacobi Medical Center에 배치되었으며 그곳에서 엄청난 수의 오탐이 발생했다고 합니다.

모델이 더 많은 데이터를 축적할수록 더 정확해질 수 있기 때문에 AI 시스템은 시간이 지남에 따라 개선되는 것이 일반적입니다. Evolv의 경우에는 그렇지 않았습니다. 파일럿 프로그램이 진행됨에 따라 AI 스캐너는 "더 이상 정확해지지 않았습니다. 방문자 대비 경보 비율이 25% 미만으로 떨어진 달은 단 한 달도 없었습니다"라고 Hell Gate가 보고했습니다.

추가 보고서에 따르면 스캐너의 "오탐률은 95%"였으며, 법 집행 기관이 아닌 무기를 소지한 사람에 의해 경보가 발동된 경우는 0.45%에 불과했습니다.

이것이 학교 보안에 미치는 영향

수요일에 Evolv Technologies는 이전 마케팅 주장에 대한 조사를 해결하기 위해 FTC와 합의했습니다. FTC블로그 게시물에 따르면 제안된 합의 명령은 Evolv가 "인공 지능을 사용하여 무기를 탐지하는 자사 제품의 능력에 대해 근거 없는 주장"을 하는 것을 방지할 것입니다. 또한 Evolv는 "특정 K-12 학교 고객에게 2022년 4월 1일부터 2023년 6월 30일 사이에 체결된 계약을 취소할 수 있음을 통지"해야 하며 이는 다년이 될 수 있습니다.

소비자 보호국 국장 사무엘 레빈(Samuel Levine)은 블로그에서 "FTC는 인공 지능을 포함한 기술에 대한 주장이 뒷받침되어야 한다는 점을 분명히 했으며 이러한 주장이 안전과 관련될 때 특히 중요합니다. 아이들의."

Evolv Technology의 임시 사장 겸 CEO인 Mike Ellenbogen은 회사의 보도 자료에서 "FTC 조사는 과거 마케팅 언어에 관한 것이지 보안 운영에 가치를 추가하는 우리 시스템의 능력에 관한 것이 아닙니다"라고 밝혔습니다. 회사 측은 “회사가 보유한 기술의 근본적인 효율성에 도전하거나 금전적 구제를 요구한 것은 아니다”라고 지적했다.

또한 제안된 합의는 Evolv가 다음에 대해 허위 주장이나 허위 진술을 하는 것을 금지합니다.

  • "방문객이 주머니나 가방에서 해당 품목을 꺼내도록 요구하지 않고도 무기를 탐지하고, 무해한 개인 물품을 무시하고, 무해한 개인 물품을 무시하는 제품의 능력"
  • "기존 금속 탐지기 사용과 비교하여 무기 탐지 정확도 및 오경보율이 제품의 수준입니다."
  • "금속탐지기를 사용하는 것과 비교하여 방문자를 검사할 수 있는 속도"
  • "금속 탐지기 사용 비교를 포함한 인건비, 테스트 또는 테스트 결과, 그리고 알고리즘, 인공 지능 또는 기타 자동화 시스템이나 도구의 사용을 포함한 성능의 모든 중요한 측면."

FTC는 과거에 AI 제품이 AI 과대광고의 결과인 시스템적 문제에 대한 솔루션이라고 지나치게 약속할 수 있다고 지적했습니다. 더 많은 도시, 기관 및 학교가 Evolv의 스캐너와 같은 기술을 안전 장치로 의존하는 경우 이는 공공 안전에 특히 위험할 수 있습니다.

관련기사