정부는 AI 안전 논의를 행동으로 옮길 수 있을까?
업계 관계자와 정부는 AI를 위한 가드레일에 대해 논의하지만 이를 배포하지는 않습니다. 여기에 누락된 내용이 있습니다.
Asia Tech x Singapore 2024 서밋에서 여러 연사들이 높은 수준의 토론을 준비하고 인공지능(AI) 안전이 실천으로 옮겨지는 중요성에 대한 인식을 높였습니다. 많은 사람들이 이 기술을 적절하게 배포할 수 있는 도구를 사용하여 조직에서 개인에 이르기까지 모든 사람을 준비시키려고 합니다.
정상회담과 별도로 ZDNET과 인터뷰한 Telenor Group의 연구 및 혁신 책임자 Ieva Martinkenaite는 "실용적이고 실용적인 행동입니다. 이것이 바로 빠진 것입니다"라고 말했습니다. Martinkenaite는 노르웨이 개방형 AI 연구소(Norwegian Open AI Lab)의 이사이자 AI 및 데이터의 윤리적 사용에 관한 싱가포르 자문위원회의 회원입니다. 그녀는 또한 2018년부터 2020년까지 유럽연합 집행위원회의 AI 고위급 전문가 그룹에서 전문가 회원으로 활동했습니다.
Martinkenaite는 고위 관리들도 이 문제를 인식하기 시작했다고 언급했습니다.
다양한 국가의 정부 고위 장관이 포함된 회의에 참석한 대표자들은 아직 보여줄 것이 거의 없다는 점을 감안할 때 최근 한국과 영국에서 열린 AI 안전 정상회담 고위급 회의에 참석함으로써 단순히 제트기 연료를 태우고 있다고 말했습니다. 구체적인 단계로 보면.
Martinkenaite는 이제 정부와 국제 기관이 기업과 사용자가 AI를 안전하게 배포하고 사용할 수 있도록 돕기 위해 플레이북, 프레임워크, 벤치마킹 도구를 출시하기 시작할 때라고 말했습니다. 그녀는 이러한 노력을 촉진하기 위해서는 지속적인 투자도 필요하다고 덧붙였습니다.
특히 AI로 생성된 딥페이크는 상당한 위험을 수반하며 중요한 인프라에 영향을 미칠 수 있다고 그녀는 경고했습니다. 이는 오늘날 이미 현실이 되었습니다. 정치인, 공인, 심지어 Taylor Swift의 이미지와 비디오가 표면화되었습니다.
Martinkenaite는 이제 이 기술이 1년 전보다 더 정교해져서 딥페이크를 식별하는 것이 점점 더 어려워지고 있다고 덧붙였습니다. 사이버 범죄자는 이 기술을 악용하여 자격 증명을 도용하고 불법적으로 시스템과 데이터에 액세스할 수 있습니다.
"해커는 해킹하는 것이 아니라 로그인하는 것입니다."라고 그녀는 말했습니다. 이는 딥페이크를 사용하여 중요한 인프라에 침투하고 사이버 공격을 증폭시킬 수 있는 통신과 같은 일부 분야에서 중요한 문제입니다. Martinkenaite는 직원 ID가 위조되어 데이터 센터 및 IT 시스템에 액세스하는 데 사용될 수 있다고 지적하면서 이러한 관성이 해결되지 않은 채로 남아 있으면 전 세계가 잠재적으로 파괴적인 공격을 경험할 위험이 있다고 덧붙였습니다.
사용자는 그러한 위험을 식별하고 대처하는 데 필요한 교육과 도구를 갖추어야 한다고 그녀는 말했습니다. 텍스트, 이미지 등 AI가 생성한 콘텐츠를 탐지하고 예방하는 기술도 디지털 워터마킹, 미디어 포렌식 등 개발이 필요하다. Martinkenaite는 이것이 입법 및 국제 협력과 함께 구현되어야 한다고 생각합니다.
그러나 그녀는 입법 체계가 기술을 규제해서는 안 되며, 그렇지 않으면 AI 혁신이 억제되어 의료 분야의 잠재적 발전에 영향을 미칠 수 있다고 지적했습니다.
대신, 규정은 중요한 인프라 및 정부 서비스와 같이 딥페이크 기술이 가장 큰 영향을 미치는 부분을 다루어야 합니다. 그런 다음 워터마킹, 소스 인증, 데이터 액세스 및 추적에 대한 가드레일 배치와 같은 요구 사항을 고위험 부문 및 관련 기술 제공업체에 구현할 수 있다고 Martinekaite는 말했습니다.
Microsoft의 최고 책임 AI 책임자인 Natasha Crampton에 따르면 Microsoft에서는 딥페이크, 합의되지 않은 이미지, 사이버 괴롭힘이 증가하는 것을 확인했습니다. 그녀는 정상회담의 패널 토론에서 Microsoft가 특히 올해 여러 차례 선거가 있을 때 선거와 관련된 사기성 온라인 콘텐츠를 추적하는 데 주력하고 있다고 말했습니다.
독일 연방 디지털 교통부 장관 스테판 슈노르(Stefan Schnorr)는 딥페이크가 잠재적으로 허위 정보를 퍼뜨리고 유권자를 호도하여 민주주의 기관에 대한 신뢰를 잃을 수 있다고 말했습니다.
Schnorr는 이에 대한 보호에는 개인 데이터와 개인정보 보호에 대한 약속도 포함된다고 덧붙였습니다. 그는 EU의 AI법과 같이 AI 안전을 촉진하기 위해 제정된 사이버 법률을 준수해야 하는 국제 협력 및 기술 회사의 필요성을 강조했습니다.
중국과학원 자동화 연구소의 뇌 영감 인지 지능 연구소이자 AI 윤리 및 거버넌스에 대한 국제 연구 센터의 책임자인 Zeng Yi는 딥페이크가 제한 없이 지속된다면 의사 결정에 영향을 미칠 수 있다고 말했습니다.
또한 Zeng은 국제 협력의 필요성을 강조하면서 허위 정보가 국가 간에 만연하는 것을 방지하기 위한 노력의 일환으로 허위 정보에 대한 더 나은 이해를 유도하고 정보를 교환하기 위해 전 세계적으로 딥페이크 "관측소" 시설을 설립해야 한다고 제안했습니다.
사실과 허위 정보를 확인하는 글로벌 인프라는 일반 대중에게 딥페이크에 대해 알리는 데 도움이 될 수 있다고 그는 말했습니다.
싱가포르, Gen AI 거버넌스 프레임워크 업데이트
한편, 싱가포르는 기존 AI 거버넌스 프레임워크를 확장한 생성적 AI 거버넌스 프레임워크의 최종 버전을 출시했습니다. 이 프레임워크는 2019년에 처음 도입되어 2020년에 마지막으로 업데이트되었습니다.
GenAI를 위한 모델 AI 거버넌스 프레임워크는 싱가포르가 GenAI 문제를 해결하고 혁신을 추진해야 하는 필요성의 균형을 맞추는 "체계적이고 균형 잡힌" 접근 방식을 설정합니다. 사고 보고, 콘텐츠 출처, 보안, 테스트 및 보증을 포함한 9가지 차원을 포괄하고 취해야 할 초기 단계에 대한 제안을 제공합니다.
이후 단계에서 프레임워크를 뒷받침하는 그룹인 AI 검증은 9개 차원에 더 자세한 지침과 리소스를 추가할 것입니다. 상호 운용성을 지원하기 위해 거버넌스 프레임워크를 G7 히로시마 원칙과 같은 국제 AI 지침에 매핑할 것입니다.
싱가포르 통신 정보부 장관이자 스마트 국가 및 사이버 보안 담당 장관인 조세핀 테오(Josephine Teo)는 싱가포르의 AI 비전을 선한 목적으로 실현하는 데 있어 훌륭한 거버넌스가 혁신만큼 중요하며 지속적인 혁신을 가능하게 하는 데 도움이 될 수 있다고 말했습니다. 정상 회담.
Teo는 "AI의 해로운 영향을 처리하는 것과 적절한 설계 및 업스트림 조치를 통해 이러한 일이 발생하지 않도록 방지하는 것이 별개라는 점을 인식해야 합니다."라고 말했습니다. 그녀는 위험 완화 조치가 필수적이며 "증거에 기초한" 새로운 규정이 보다 의미 있고 영향력 있는 AI 거버넌스를 가져올 수 있다고 덧붙였습니다.
싱가포르는 AI 거버넌스 구축과 함께 악성 AI 생성 온라인 콘텐츠에 초점을 맞춘 온라인 안전 첨단 기술 센터를 구축하는 등 거버넌스 역량 강화도 모색하고 있습니다.
사용자 역시 위험을 이해해야 합니다. Teo는 AI를 사용하는 조직이 AI의 장점과 한계를 이해하는 것이 공익에 도움이 된다고 말했습니다.
Teo는 기업이 이를 위해 올바른 사고방식, 역량 및 도구를 갖추어야 한다고 믿습니다. 그녀는 싱가포르의 모델 AI 거버넌스 프레임워크가 안전 장치로 구현되어야 하는 사항에 대한 실질적인 지침을 제공한다고 덧붙였습니다. 또한 회사 규모나 리소스에 관계없이 AI 배포에 대한 기본 요구 사항을 설정합니다.
Martinkenaite에 따르면 Telenor의 경우 AI 거버넌스는 새로운 AI 도구 사용을 모니터링하고 잠재적 위험을 재평가하는 것을 의미합니다. 노르웨이 통신사는 현재 Telenor의 윤리적 AI 원칙에 반하여 OpenAI 기술을 기반으로 구축된 Microsoft Copilot을 시험하고 있습니다.
OpenAI의 최근 음성 모드 관련 분쟁이 기술 사용에 대한 신뢰에 영향을 미쳤는지 묻는 질문에 Martinkenaite는 Telenor와 같은 중요한 인프라를 운영하는 주요 기업이 다음과 같은 제3자 플랫폼을 포함하여 신뢰할 수 있는 AI 도구를 배포하고 있는지 확인할 수 있는 역량과 점검 장치를 갖추고 있다고 말했습니다. OpenAI로. 여기에는 클라우드 제공업체 및 소규모 솔루션 제공업체와 같은 파트너와 협력하여 사용 중인 도구를 이해하고 배우는 것도 포함됩니다.
Telenor는 책임 있는 AI 채택을 감독하기 위해 지난해 태스크포스를 창설했습니다. Martinkenaite는 이를 위해서는 직원이 준수해야 하는 원칙을 확립하고, AI 사용을 안내하는 규칙서와 도구를 만들고, Microsoft를 포함한 파트너가 준수해야 하는 표준을 설정하는 것이 필요하다고 설명했습니다.
이는 회사가 사용하는 기술이 합법적이고 안전하다는 것을 보장하기 위한 것이라고 그녀는 덧붙였습니다. Telenor에는 GenAI 사용을 고려하기 위해 위험 관리 및 거버넌스 구조를 검토하는 내부 팀도 있습니다. Martinkenaite는 고위험 영역에서 AI 사용을 관리하기 위한 올바른 거버넌스 구조를 갖추는 데 필요한 도구와 구제책을 평가할 것이라고 말했습니다.
조직이 자체 데이터를 사용하여 대규모 언어 모델과 소규모 AI 모델을 교육하고 미세 조정함에 따라 Martinkenaite는 기업과 AI 개발자가 이 데이터를 사용하고 관리하는 방법에 대해 점점 더 논의할 것이라고 생각합니다.
그녀는 또한 기업이 고위험 AI 배포에 대한 추가 요구 사항을 충족하도록 노력함에 따라 EU AI 법과 같은 새로운 법률을 준수해야 할 필요성이 그러한 대화를 더욱 촉진할 것이라고 생각합니다. 예를 들어 AI 교육 데이터가 어떻게 관리되고 추적되는지 알아야 합니다.
AI 개발자와의 계약 계약을 자세히 살펴보고 싶어하는 조직에서는 훨씬 더 많은 조사와 우려가 있습니다.