효과적이고 안전한 AI 도구를 구축하는 데 지리적 다양성이 중요한 이유

선도적인 AI 플레이어는 AI 도구가 제공할 수 있는 모든 것을 활용하기 위해 다양한 파트너십에 투자해야 합니다.

조직이 원하는 기능을 제공하기 위해 인공 지능(AI) 도구를 원한다면 글로벌 시장에서 한쪽을 선택할 여유가 없습니다.

싱가포르 디지털 개발 정보부(MDDI)의 국가 AI 그룹 수석 이사이자 디지털 경제 사무소 소장인 Andrea Phua에 따르면 조직이 전 세계적으로 채택할 수 있는 AI 도구를 개발하려는 경우 지리적 다양성이 매우 중요합니다.

AI 칩 수출을 둘러싼 미중 무역 갈등 속에서 싱가포르가 중립을 유지하는 것이 '현실적'인지에 대한 질문에 Phua는 다양한 글로벌 시장에 기반을 둔 팀이 제품을 제작하는 것이 더 강력하고 유익할 것이라고 말했습니다. AI의 핵심 구성요소를 이행하는 데 도움이 될 수 있습니다.

이번 주 싱가포르에서 열린 Fortune의 AI Brainstorm 이벤트에서 열린 패널 토론에서 그녀는 여기에는 데이터 모델에 컨텍스트를 적용하고 안전 및 위험 관리 조치를 통합하는 기능이 포함된다고 말했습니다.

그녀는 싱가포르가 미국, 중국, ASEAN 회원국, 싱가포르가 현재 소규모 국가 디지털 포럼의 의장을 맡고 있는 UN을 포함하여 AI에 관한 여러 국가와 협력하고 있다고 덧붙였습니다.

Phua는 "우리는 이러한 플랫폼을 사용하여 AI를 잘 관리하는 방법, 필요한 [인프라] 용량, 서로에게서 배우는 방법을 논의합니다"라고 말했습니다. 그녀는 이러한 다자간 논의가 세계 각지에서 다르게 발생할 수 있는 안전 및 보안 위험을 식별하는 데 도움이 되며 데이터를 더 잘 해석할 수 있는 현지 및 지역적 맥락을 제공한다고 언급했습니다.

그녀는 싱가포르가 AI 거버넌스 및 정책에 관해 중국과 대화를 나누고 있으며 AI 생태계 전반에 걸쳐 미국 정부와 긴밀히 협력하고 있다고 덧붙였습니다.

Phua는 "위험한 것이 무엇인지 더 많이 이해하고 여정을 안내해 줄 친구와 파트너가 있다는 것을 알수록 더 나은 결과를 얻을 수 있기 때문에 국제 협력에 투자하는 것이 중요합니다"라고 말했습니다.

생성 AI(gen AI)가 사이버 공격에 점점 더 많이 사용됨에 따라 이는 특히 가치 있는 것으로 입증될 수 있습니다.

예를 들어, 사이버 보안국(CSA)이 이번 주 발표한 최신 싱가포르 사이버 환경 2023 보고서에 따르면 싱가포르에서는 지난해 분석된 피싱 이메일 중 13%가 AI 생성 콘텐츠를 포함하는 것으로 밝혀졌습니다.

국가의 사이버 보안 운영을 담당하는 정부 기관은 지난해 싱가포르 사이버 비상 대응팀(SingCERT)에 4,100건의 피싱 시도가 보고되었다고 밝혔습니다. 이는 2022년 8,500건에 비해 52% 감소한 수치입니다. 그러나 2023년 수치는 여전히 30% 더 높습니다. CSA는 2021년보다

"이러한 감소는 피싱 콘텐츠의 대규모 생산을 촉진하기 위해 ChatGPT와 같은 세대 AI 챗봇의 사용으로 인해 촉발되었을 가능성이 있는 급격한 증가 추세를 거스르는 것입니다."라고 자세히 설명했습니다.

또한 사이버 보안 연구원들은 피해자에게 맞춤화되고 딥 페이크 음성 메시지와 같은 추가 콘텐츠를 포함하는 AI 지원 또는 생성 피싱 이메일 메시지를 포함하여 피싱 공격의 규모와 정교함이 증가할 것으로 예측했다고 경고했습니다.

CSA의 CEO이자 사이버 보안 국장인 데이비드 코(David Koh)는 "Gen AI의 사용은 사이버 위협에 새로운 차원을 가져왔습니다. AI가 더욱 접근하기 쉽고 정교해짐에 따라 위협 행위자들도 AI를 더욱 잘 활용할 수 있게 될 것입니다"라고 말했습니다.

Koh는 "AI는 이미 전 세계 정부에 엄청난 과제를 제기하고 있으며 사이버 보안 전문가는 합법적인 응용 프로그램과 악의적인 사용 모두에서 Gen AI의 잠재력을 겉핥기식에 불과하다는 것을 알고 있을 것입니다."라고 말했습니다. 그는 비디오 클립과 밈의 딥페이크를 포함한 AI 생성 콘텐츠가 불화를 심고 총선 결과에 영향을 미치는 데 사용되었다는 보고를 지적했습니다.

동시에 사이버 탄력성과 방어력을 강화하기 위해 AI를 활용할 수 있는 새로운 기회가 있다고 그는 말했습니다. 보다 구체적으로, 이 기술은 비정상적인 행동 패턴을 탐지하고 대량의 데이터 로그와 위협 정보를 수집하는 데 잠재력을 보여주었다고 그는 지적했습니다.

"[이것은] 사고 대응을 강화하고 분석가의 부담을 줄이는 동시에 사이버 위협을 보다 신속하고 정확하게 저지할 수 있게 해줍니다."라고 Koh는 말했습니다.

그는 싱가포르 정부도 AI가 신뢰할 수 있고 안전하며 보안이 유지되도록 다양한 노력을 기울이고 있다고 덧붙였습니다.