사람들은 이미 ChatGPT가 맬웨어를 작성하도록 노력하고 있습니다

다크 웹 포럼의 채팅을 분석한 결과 OpenAI의 챗봇을 사용하여 멀웨어 스크립팅을 돕기 위한 노력이 이미 진행 중인 것으로 나타났습니다.

ChatGPT AI 챗봇은 출시된 지 얼마 되지 않아 많은 흥분을 불러일으켰으며 이제는 악성 코드 생성을 돕기 위한 시도에 일부 사람들이 참여한 것으로 보입니다.

ChatGPT는 인간과 같은 대화 방식으로 사용자와 상호 작용하는 AI 기반 자연어 처리 도구입니다. 무엇보다도 이메일, 에세이 및 코드 작성과 같은 작업을 돕는 데 사용할 수 있습니다. 

인공지능 연구소 오픈AI가 지난 11월 출시한 이 챗봇 툴은 AI가 어떻게 발전하고 있으며 앞으로 어떻게 사용될 수 있는지에 대한 광범위한 관심과 토론을 불러일으켰습니다. 

그러나 다른 도구와 마찬가지로 잘못된 손에 들어가면 사악한 목적으로 사용될 수 있습니다. Check Point의 사이버 보안 연구원들은 지하 해킹 커뮤니티의 사용자들이 이미 ChatGPT가 사이버 공격을 용이하게 하고 악의적인 작업을 지원하는 데 어떻게 사용될 수 있는지 실험하고 있다고 말합니다. 

"기술 지식이 매우 낮은(최대 기술 지식이 0개까지) 위협 행위자는 악성 도구를 만들 수 있습니다. 또한 감염 체인의 다른 부분을 만드는 것과 같이 정교한 사이버 범죄자의 일상적인 작업을 훨씬 더 효율적이고 쉽게 만들 수 있습니다." Check Point의 위협 인텔리전스 그룹 관리자인 Sergey Shykevich가 ZDNET에 말했습니다.  

OpenAI의 서비스 약관은 "랜섬웨어, 키로거, 바이러스 또는 일정 수준의 해를 입히려는 의도가 있는 기타 소프트웨어를 생성하려고 시도하는 콘텐츠"로 정의하는 맬웨어 생성을 구체적으로 금지합니다. 또한 스팸을 생성하려는 시도와 사이버 범죄를 겨냥한 사용 사례를 금지합니다.

그러나 여러 주요 지하 해킹 포럼의 활동을 분석한 결과 사이버 범죄자들은 이미 ChatGPT를 사용하여 악성 도구를 개발하고 있으며 일부 경우에는 이미 개발 또는 코딩 기술이 없는 낮은 수준의 사이버 범죄자가 맬웨어를 만들 수 있도록 허용하고 있습니다. 

12월 말에 게재된 한 포럼 스레드에서 포스터는 ChatGPT를 사용하여 일반적인 맬웨어에 대한 연구 간행물 및 글에 설명된 맬웨어 변종 및 기술을 재현하는 방법을 설명했습니다. 

이를 통해 Microsoft Office 문서, PDF 및 이미지를 포함한 일반적인 파일을 검색하고 복사한 다음 파일 전송 프로토콜 서버에 업로드하는 Python 기반 정보 도용 멀웨어를 만들 수 있었습니다. 

동일한 사용자는 또한 ChatGPT를 사용하여 Java 기반 맬웨어를 만드는 방법을 시연했으며, PowerShell을 사용하여 다른 맬웨어를 은밀하게 다운로드하여 감염된 시스템에 실행할 수 있습니다. 

연구원들은 이러한 스레드를 만드는 포럼 사용자가 "기술 지향적"인 것으로 보이며 기술적으로 능력이 떨어지는 사이버 범죄자에게 AI 도구를 악의적인 목적으로 활용하는 방법을 보여주기 위해 게시물을 공유했다고 지적합니다. 

한 사용자가 Python 스크립트를 게시했는데, 그들은 이것이 그들이 만든 첫 번째 스크립트라고 말했습니다. 다른 포럼 회원과 토론한 후 ChatGPT가 만드는 데 도움이 되었다고 말했습니다. 

이 스크립트에 대한 분석에 따르면 파일을 암호화하고 해독하도록 설계되었으며, 일부 작업을 통해 랜섬웨어로 전환될 수 있으며, 잠재적으로 낮은 수준의 사이버 범죄자가 자체 갈취 캠페인을 개발하고 배포할 가능성이 있습니다. 

"앞서 언급한 모든 코드는 물론 무해한 방식으로 사용될 수 있습니다. 그러나 이 스크립트는 사용자 상호 작용 없이 누군가의 컴퓨터를 완전히 암호화하도록 쉽게 수정할 수 있습니다. 예를 들어, 스크립트 및 구문 문제가 수정되면 잠재적으로 코드를 랜섬웨어로 전환할 수 있습니다"라고 Check Point는 말했습니다.

Shykevich는 "코드와 구문에서 약간의 개선이 필요하지만 개념적으로 이 도구가 작동할 때 랜섬웨어와 유사한 작업을 수행할 수 있습니다"라고 말했습니다.

그러나 사이버 범죄자들이 ChatGPT를 실험하는 것은 맬웨어 개발만이 아닙니다. 새해 전야에 한 지하 포럼 회원은 도난당한 계정 세부 정보, 신용 카드 정보, 맬웨어 등을 사고 팔 수 있는 자동화된 다크 웹 마켓플레이스를 운영할 수 있는 스크립트를 만들기 위해 도구를 사용하는 방법을 보여주는 스레드를 게시했습니다. 

이 사이버 범죄자는 다크 웹 마켓플레이스를 위한 결제 시스템의 일부로 모네로(Monero), 비트코인(Bitcoin) 및 이더리움(Ethereum) 암호화폐의 최신 가격을 얻기 위해 타사 API를 사용하여 생성된 코드 조각을 공개하기도 했습니다. 

Sykevich가 설명하듯이 "기술적인 관점에서 특정 맬웨어가 ChatGPT를 사용하여 작성되었는지 여부를 알기가 매우 어렵"기 때문에 ChatGPT의 도움으로 생성된 악의적인 사이버 활동이 야생에서 활발하게 작동하고 있는지 여부를 말하기는 어렵습니다. 

그러나 ChatGPT 및 기타 AI 도구에 대한 관심이 높아짐에 따라 이 기술을 악용하여 저렴한 비용과 필요한 최소한의 노력으로 악성 캠페인을 수행하려는 사이버 범죄자와 사기꾼의 관심을 끌 것입니다. ZDNET은 논평을 위해 OpenAI에 연락했지만 게시 시점에는 아직 답변을 받지 못했습니다. 

사이버 보안에 대한 추가 정보

• 메타버스가 다가오고 있으며 보안 위협은 이미 도래했습니다
• 사이버 보안, 클라우드 및 코딩: 이 세 가지 기술이 2023년에 수요를 주도할 이유
• 이 '열 공격'은 손끝이 남기는 열로부터 비밀번호를 읽을 수 있습니다
• 다음으로 큰 보안 위협은 우리의 얼굴을 응시하고 있습니다. 그것을 다루는 것은 어려울 것입니다
• AI는 사이버 보안의 모든 것을 좋게든 나쁘게든 바꾸고 있습니다. 알아야 할 사항은 다음과 같습니다