ChatGPT와 새로운 AI는 흥미롭고 무서운 방식으로 사이버 보안을 파괴하고 있습니다.

Recorded Future의 CEO인 Christopher Ahlberg는 윤리나 법의 제약을 받지 않고 사이버 범죄자들이 혁신적인 새로운 해킹을 찾기 위해 AI를 사용하기 위해 경쟁하고 있다고 말했습니다.

생성적 인공 지능(Generative AI)은 사이버 보안을 변화시켜 공격자와 방어자 모두를 지원하고 있습니다. 사이버 범죄자들은 AI를 활용하여 정교하고 새로운 공격을 대규모로 실행하고 있습니다. 위협 인텔리전스 플랫폼인 Recorded Future의 CEO인 Christopher Ahlberg는 방어자들이 중요한 인프라, 정부 조직 및 기업 네트워크를 보호하기 위해 동일한 기술을 사용하고 있다고 말했습니다.

생성적 AI는 악의적인 행위자가 새로운 공격 전략을 혁신하고 개발하는 데 도움을 주어 사이버 보안 방어보다 한 발 앞서 나갈 수 있도록 해줍니다. AI는 사이버 범죄자가 공격을 자동화하고, 공격 표면을 검사하고, 다양한 지리적 지역 및 인구 통계에 공감하는 콘텐츠를 생성하여 다양한 국가에 걸쳐 더 광범위한 잠재적 피해자를 표적으로 삼을 수 있도록 도와줍니다. 사이버 범죄자들은 설득력 있는 피싱 이메일을 생성하기 위해 이 기술을 채택했습니다. AI가 생성한 텍스트는 공격자가 표적을 속일 가능성이 높은 고도로 개인화된 이메일과 문자 메시지를 생성하는 데 도움이 됩니다.

Ahlberg는 “이것이 실제로 [사이버 범죄자]가 작가가 되는 데 도움이 될 수 있다는 사실을 깨닫기 위해 매우 창의적으로 생각할 필요는 없다고 생각합니다. 이는 문제입니다.”라고 말했습니다.

수비수는 AI를 사용하여 공격을 방어하고 있습니다. 조직에서는 이 기술을 사용하여 유출을 방지하고 네트워크 취약점을 사전에 찾아내고 있습니다. 또한 특정 키워드에 대한 알림 설정, 온라인에서 민감한 정보 감지 등의 작업을 동적으로 자동화합니다. 위협 사냥꾼은 AI를 사용하여 특이한 패턴을 식별하고 대량의 데이터를 요약하여 여러 정보 소스와 숨겨진 패턴의 점을 연결합니다.

이 작업에는 여전히 인간 전문가가 필요하지만 Ahlberg는 ChatGPT와 같은 프로젝트에서 볼 수 있는 생성 AI 기술이 도움이 될 수 있다고 말합니다.

"우리는 생각의 속도에 맞춰 분석할 수 있도록 분석 주기를 가속화하고 싶습니다."라고 그는 말했습니다. "그것은 매우 어려운 일이며 여기서 우리가 돌파구를 보고 있다고 생각합니다. 이는 매우 흥미롭습니다."

Ahlberg는 또한 고도로 지능적인 기계가 가져올 수 있는 잠재적인 위협에 대해서도 논의했습니다. 세상이 점점 더 디지털화되고 상호 연결됨에 따라 현실을 왜곡하고 인식을 형성하는 능력이 악의적인 행위자에 의해 악용될 수 있습니다. 이러한 위협은 국가에만 국한되지 않고 환경을 더욱 복잡하고 비대칭적으로 만듭니다.

AI는 이러한 새로운 위협으로부터 보호할 수 있는 잠재력을 가지고 있지만 그 자체로 위험도 내포하고 있습니다. 예를 들어 높은 처리 능력을 갖춘 기계는 인간보다 더 빠르고 효과적으로 시스템을 해킹할 수 있습니다. 이러한 위협에 대응하려면 AI를 방어적으로 사용하고 누가 통제하는지 명확하게 이해해야 합니다.

AI가 사회에 더욱 통합됨에 따라 국회의원, 판사 및 기타 의사 결정자가 기술과 그 의미를 이해하는 것이 중요합니다. 기술 전문가와 정책 입안자 간의 강력한 동맹을 구축하는 것은 위협 사냥과 그 이상에서 AI의 미래를 탐색하는 데 매우 중요합니다.

사이버 보안에서 AI의 기회, 과제 및 윤리적 고려 사항은 복잡하고 진화하고 있습니다. 편견 없는 AI 모델을 보장하고 의사 결정에 인간의 참여를 유지하는 것은 윤리적 문제를 관리하는 데 도움이 됩니다. 고도로 지능적인 기계의 잠재적인 장기적 위협을 해결하려면 경계, 협업 및 기술에 대한 명확한 이해가 중요합니다.

Ahlberg는 또한 중국, 러시아 및 경제 적들이 자율 기계를 배치하는 것에 대한 우려를 제기했습니다. 이들 국가는 AI 개발 속도를 늦추거나 윤리적 고려 사항을 공유하지 않을 가능성이 높습니다. 그러한 기계에서 "플러그를 뽑을" 수 있는 능력을 갖는 것은 현명한 안전 장치이기는 하지만 기술이 사회와 세계 경제에 통합되면 분리하기가 어려워질 가능성이 높다고 그는 제안합니다. Ahlberg는 제품과 기계를 누가 제어하는지 명확하게 설계해야 한다고 강조합니다.

"이 모든 것에서 인터넷이 한 가장 큰 일은 인터넷이 전 세계의 모든 정보가 이동하는 장소가 되었다는 것입니다."라고 Ahlberg는 말했습니다. "이러한 대규모 언어 모델은 사고 주기의 속도를 높이기 위해 매우 마법 같은 일을 하고 있습니다."

그는 “앞으로 25년 안에 세상은 인터넷을 반영하게 될 것”이라고 덧붙였다.