AI 골드러시로 인해 기본 데이터 보안 위생이 중요해졌습니다.

모든 것을 생성하는 AI에 대한 집착은 비즈니스 리더가 보안 접근 방식을 재고해야 한다는 신호입니다.

인공지능(AI), 특히 생성적 AI에 대한 지속적인 집착은 기업이 보안에 집중해야 한다는 신호입니다. 하지만 중요한 데이터 보호 기본 사항은 여전히 다소 부족합니다.

OpenAI의 ChatGPT에 힘입어 생성 AI에 대한 관심이 높아지면서 조직은 이 기술을 어떻게 사용해야 하는지 고민하게 되었습니다.

CEO의 거의 절반(43%)이 자신의 조직이 이미 전략적 결정을 위해 생성 AI를 활용하고 있다고 밝혔으며, 36%는 운영 결정을 촉진하기 위해 이 기술을 사용하고 있습니다. 이번 주에 발표된 IBM 연구에 따르면 절반은 이를 제품 및 서비스와 통합하고 있습니다. 이번 조사 결과는 싱가포르와 미국을 포함한 30개 글로벌 시장의 CEO 3,000명과의 인터뷰를 바탕으로 이루어졌습니다.

하지만 CEO들은 편견, 윤리, 안전 등 AI로 인한 잠재적 위험을 염두에 두고 있습니다. 약 57%는 데이터 보안에 대해 우려하고 있으며 48%는 데이터 정확성이나 편향에 대해 우려하고 있습니다. 또한 연구에 따르면 76%는 비즈니스 생태계 전반에 걸쳐 효과적인 사이버 보안을 위해서는 일관된 표준과 거버넌스가 필요하다고 생각하는 것으로 나타났습니다.

약 56%는 일관된 기준이 없기 때문에 적어도 한 건의 대규모 투자를 보류하고 있다고 말했습니다. 55%만이 자신의 조직이 데이터 보안 및 개인 정보 보호와 관련하여 이해관계자가 원하는 정보를 정확하고 포괄적으로 보고할 수 있다고 확신합니다.

이러한 자신감 부족으로 인해 기업은 잠재적인 위협을 어떻게 관리해야 하는지 다시 생각해 볼 필요가 있습니다. Gartner의 VP 분석가인 Avivah Litan은 AI와 관련된 다양한 위험을 논의한 게시물에서 보다 발전된 사회 공학 및 피싱 위협을 가능하게 하는 것 외에도 생성 AI 도구를 사용하면 해커가 악성 코드를 더 쉽게 생성할 수 있다고 말했습니다.

생성적 AI 기반 모델을 제공하는 공급업체는 악의적인 사이버 보안 요청을 거부하도록 모델을 교육한다고 말하지만 고객에게 설치된 보안 제어를 효과적으로 감사할 수 있는 도구를 제공하지 않는다고 Litan은 지적했습니다.

직원 역시 생성 AI 챗봇 도구와 상호 작용할 때 민감하고 독점적인 데이터를 노출할 수 있습니다. 분석가는 "이러한 애플리케이션은 사용자 입력을 통해 캡처된 정보를 무기한 저장하고 다른 모델을 교육하는 데 정보를 사용하여 기밀성을 더욱 손상시킬 수 있습니다"라고 말했습니다. "보안 침해가 발생할 경우 이러한 정보가 잘못된 사람의 손에 넘어갈 수도 있습니다."

Litan은 조직이 생성 AI 기반 모델을 호스팅하는 사용자와 기업 간의 데이터 및 프로세스 흐름을 관리하는 데 필요한 새로운 도구를 사용하여 새로운 위험과 보안 요구 사항을 관리하기 위한 전략을 수립할 것을 촉구했습니다.

기업은 정책 위반을 식별하기 위해 기존 보안 제어 및 대시보드를 활용하여 ChatGPT와 같은 도구의 승인되지 않은 사용을 모니터링해야 한다고 그녀는 말했습니다. 예를 들어 방화벽은 사용자 액세스를 차단할 수 있는 반면, 보안 정보 및 이벤트 관리 시스템은 정책 위반에 대한 이벤트 로그를 모니터링할 수 있습니다. 허용되지 않는 애플리케이션 프로그래밍 인터페이스(API) 호출을 모니터링하기 위해 보안 웹 게이트웨이를 배포할 수도 있습니다.

대부분의 조직에는 여전히 기본이 부족합니다.

그러나 Imperva의 데이터 보안 담당 수석 부사장이자 현장 CTO인 Terry Ray에 따르면 가장 중요한 것은 기본입니다.

이제 보안 공급업체에는 생성 AI의 개발을 모니터링하여 자체 기술에 적용할 수 있는 방법을 식별하는 전담 팀이 있습니다. 이 내부 그룹은 1년 전에는 존재하지 않았지만 Imperva는 오랫동안 기계 학습을 사용해 왔다고 Ray는 말하며 생성 AI의 급속한 증가에 주목했습니다.

모니터링 팀은 또한 직원들 사이에서 ChatGPT와 같은 애플리케이션의 사용을 조사하여 이러한 도구가 회사 정책 내에서 적절하게 사용되는지 확인합니다.

Ray는 새로운 AI 모델이 어떻게 통합될 수 있는지 결정하기에는 아직 너무 이르다고 말했으며, 직원들이 생성 AI를 어떻게 적용할 수 있는지에 대한 몇 가지 아이디어를 제공할 수 있는 공급업체의 연례 연말 해커톤에서 몇 가지 가능성이 표면화될 수 있다고 덧붙였습니다.

또한 지금까지 생성 AI의 가용성으로 인해 조직이 공격받는 방식에 큰 변화가 없었으며, 위협 행위자들은 여전히 대부분 쉽게 얻을 수 있는 성과를 고수하고 알려진 공격에 대해 패치가 적용되지 않은 시스템을 수색하고 있다는 점을 언급하는 것도 중요합니다. .

위협 행위자가 생성 AI를 어떻게 사용할 수 있다고 생각하는지 묻는 질문에 Ray는 코딩 오류나 취약점을 검사하고 식별하기 위해 다른 도구와 함께 배포할 수 있다고 제안했습니다.

특히 API는 오늘날 널리 사용되고 종종 취약점을 안고 있기 때문에 인기 있는 표적입니다. 예를 들어, BOLA(Broken Object Level Authorization)는 Open Worldwide Application Security Project에서 식별한 주요 API 보안 위협 중 하나입니다. BOLA 사고에서 공격자는 사용자 인증 방식의 약점을 악용하여 데이터 개체에 액세스하기 위한 API 요청을 얻는 데 성공합니다.

이러한 감독은 조직이 각 API를 통해 흐르는 데이터를 이해해야 할 필요성을 강조하며 이 영역은 기업의 공통 과제라고 덧붙였습니다. 대부분의 사람들은 조직 전체에서 실행되는 API가 어디에 있는지, 얼마나 많은지조차 모릅니다.

비즈니스에 도입되는 모든 애플리케이션에는 API가 있을 가능성이 높으며, 조직이 의료 및 금융 정보와 같은 데이터를 공유하도록 의무화함에 따라 그 수가 더욱 증가할 것입니다. 일부 정부는 이러한 위험을 인식하고 API가 필요한 보안 보호 장치와 함께 배포되도록 규정을 도입했다고 그는 말했습니다.

그리고 데이터 보안과 관련하여 조직은 기본 사항을 올바르게 확립해야 합니다. 데이터 손실로 인한 영향은 대부분의 기업에 매우 중요합니다. 데이터 관리자로서 기업은 데이터를 보호하기 위해 수행해야 할 작업이 무엇인지 알아야 합니다.

3,000명의 최고 데이터 책임자를 대상으로 실시한 또 다른 글로벌 IBM 연구에서는 61%가 기업 데이터가 안전하고 보호되고 있다고 믿고 있습니다. 데이터 관리 문제에 대한 질문에 47%는 신뢰성을 꼽았고, 36%는 불분명한 데이터 소유권을 꼽았고, 33%는 데이터 사일로 또는 데이터 통합 부족을 꼽았습니다.

생성 AI의 인기가 높아지면서 데이터에 대한 관심이 높아졌을 수도 있지만, 이는 기업이 기본 사항을 먼저 제대로 갖춰야 할 필요성도 강조합니다.

Ray는 대부분의 기업이 아직 초기 단계를 확립하지 못했다고 말하면서 대부분의 기업이 일반적으로 데이터 저장소와 레이크의 3분의 1만 모니터링한다고 지적했습니다.

"보안은 가시성을 확보하는 것입니다. 해커들은 저항이 가장 적은 길을 택할 것입니다."라고 그는 말했습니다.

지난달 발표된 Gigamon 연구에 따르면 침해의 31%는 손상된 데이터가 다크 웹에 나타나거나, 파일에 액세스할 수 없게 되거나, 사용자가 애플리케이션 성능이 저하되는 경우 사후에 확인된 것으로 나타났습니다. 싱가포르, 호주, EMEA 및 미국에서 1,000명 이상의 IT 및 보안 책임자를 대상으로 실시한 6월 보고서에 따르면 이 비율은 호주 응답자의 경우 52%, 미국 응답자의 경우 48%로 더 높았습니다.

이러한 수치는 응답자의 94%가 보안 도구와 프로세스가 IT 인프라에 대한 가시성과 통찰력을 제공한다고 답했음에도 불구하고 나타났습니다. 약 90%는 지난 18개월 동안 침해를 경험했다고 답했습니다.

가장 큰 우려사항을 묻는 질문에 56%는 예상치 못한 맹점을 꼽았습니다. 약 70%는 암호화된 데이터에 대한 가시성이 부족하다고 인정한 반면, 35%는 컨테이너에 대한 통찰력이 제한적이라고 답했습니다. 절반은 가장 민감한 데이터가 어디에 저장되어 있는지, 정보가 어떻게 보호되는지에 대한 확신이 부족했습니다.

Gigamon의 보안 CTO인 Ian Farquhar는 "이러한 조사 결과는 온프레미스에서 클라우드까지 가시성에 심각한 격차가 있는 추세를 강조하며, 전 세계 IT 및 보안 리더들이 그 위험을 오해하고 있는 것 같습니다."라고 말했습니다.

"많은 사람들이 이러한 맹점을 위협으로 인식하지 못합니다. 전 세계 CISO의 50% 이상이 예상치 못한 맹점이 악용될 것이라는 생각으로 밤잠을 설치고 있다는 점을 고려하면 중요한 가시성 격차를 해소하기 위한 조치가 충분하지 않은 것 같습니다."