새로운 글로벌 표준은 대규모 언어 모델을 중심으로 보안을 구축하는 것을 목표로 합니다.
WDTA 프레임워크는 대규모 언어 모델의 라이프사이클 전반에 걸쳐 다른 시스템과의 통합을 관리하기 위한 지침을 제공합니다.
조직이 LLM(대형 언어 모델)을 시스템에 통합하는 데 따른 위험을 관리하고 이러한 모델과 관련된 모호성을 해결하는 데 도움이 되는 새로운 글로벌 표준이 출시되었습니다.
금요일에 문서를 발표한 WDTA(World Digital Technology Academy)에 따르면 이 프레임워크는 "개발, 배포 및 유지 관리"를 포괄하는 LLM 수명 주기 전반에 걸쳐 다양한 단계에 대한 지침을 제공합니다. 제네바에 본부를 둔 비정부 기구(NGO)는 UN 산하에서 운영되며 디지털 영역의 표준 개발을 주도하기 위해 작년에 설립되었습니다.
WDTA는 "이 표준은 네트워크, 시스템, 플랫폼 및 애플리케이션, 모델, 데이터 계층을 포괄하는 보안에 대한 다계층 접근 방식을 강조합니다"라고 말했습니다. "이는 기계 학습 자재 명세서, 제로 트러스트 아키텍처, 지속적인 모니터링 및 감사와 같은 핵심 개념을 활용합니다. 이러한 개념은 공급망 전체에서 LLM 시스템의 무결성, 가용성, 기밀성, 제어 가능성 및 신뢰성을 보장하도록 설계되었습니다."
AI-STR-03 표준이라고 불리는 이 새로운 프레임워크는 현재 IT 생태계 내에서 인공 지능(AI) 기술, 특히 LLM을 통합하는 데 따른 과제를 식별하고 평가하는 것을 목표로 한다고 WDTA는 말했습니다. 이러한 AI 모델은 제3자가 완전히 또는 부분적으로 운영하지만 관리하지는 않는 제품이나 서비스에 사용될 수 있으므로 이는 필수적입니다.
공급망 보안 요구 사항이라고 하는 LLM의 시스템 구조와 관련된 보안 요구 사항은 네트워크 계층, 시스템 계층, 플랫폼 및 응용 프로그램 계층, 모델 계층 및 데이터 계층에 대한 요구 사항을 포함합니다. 이를 통해 LLM 제품의 수명 주기 전반에 걸쳐 제품과 해당 시스템, 구성 요소, 모델, 데이터 및 도구가 변조 또는 무단 교체로부터 보호됩니다.
WDTA는 여기에는 공급망의 각 단계에서 제어 및 지속적인 모니터링 구현이 포함된다고 말했습니다. 또한 미들웨어 보안의 일반적인 취약점을 해결하여 무단 액세스를 방지하고 엔지니어가 사용하는 교육 데이터가 손상될 위험을 방지합니다. 내부 위협을 완화하기 위해 제로 트러스트 아키텍처를 더욱 강화합니다.
WDTA는 "데이터 수집부터 공급업체 배포까지 모든 단계의 무결성을 유지함으로써 LLM을 사용하는 소비자는 LLM 제품이 안전하고 신뢰할 수 있음을 보장할 수 있습니다"라고 말했습니다.
LLM 공급망 보안 요구 사항은 가용성, 기밀성, 제어, 신뢰성 및 가시성에 대한 요구 사항도 해결합니다. 이는 공급망을 따라 전송되는 데이터가 승인되지 않은 개인에게 공개되지 않도록 하고 궁극적으로 투명성을 확보하여 소비자가 자신의 데이터가 관리되는 방식을 이해할 수 있도록 하기 위해 공동으로 노력합니다.
또한 공급망에 대한 가시성을 제공하므로, 예를 들어 모델이 새로운 훈련 데이터로 업데이트되는 경우 훈련 데이터 추가 전후의 AI 모델 상태가 적절하게 문서화되고 추적 가능합니다.
LLM에 대한 모호함 해결
새로운 프레임워크는 Microsoft, Google, Meta, Cloud Security Alliance Greater China Region, 싱가포르의 Nanyang Technological University, Tencent Cloud 및 Baidu를 포함한 여러 기술 회사 및 기관으로 구성된 실무 그룹에서 초안을 작성하고 검토했습니다. WDTA에 따르면 이는 LLM 공급망 보안에 관한 최초의 국제 표준입니다.
WDTA는 AI가 전 세계적으로 다양한 부문에 지속적으로 발전하고 영향을 미치면서 AI 관련 표준에 대한 국제 협력이 점점 더 중요해지고 있다고 덧붙였습니다.
NGO는 "신뢰할 수 있는 AI를 달성하는 것은 국경을 초월하는 효과적인 거버넌스 도구와 프로세스의 창출을 요구하는 세계적인 노력"이라고 말했습니다. "글로벌 표준화는 이러한 맥락에서 중요한 역할을 하며, AI 거버넌스 체제의 모범 사례 및 상호 운용성에 대한 조정을 촉진하는 핵심 수단을 제공합니다."
Microsoft의 기술 전략가인 Lars Ruddigkeit는 새로운 프레임워크가 완벽함을 목표로 하는 것이 아니라 국제 표준을 위한 기반을 제공한다고 말했습니다.
"우리는 달성해야 하는 최소값이 무엇인지 확립하고 싶습니다"라고 Ruddigkeit는 말했습니다. "현재 LLM 및 기타 신흥 기술에는 많은 모호함과 불확실성이 있어 기관, 회사 및 정부가 의미 있는 표준이 무엇인지 결정하기가 어렵습니다. WDTA 공급망 표준은 이 첫 번째 길을 안전한 곳으로 가져오려고 노력합니다. 미래는 순조롭게 진행되고 있습니다."