Google과 Microsoft는 OpenAI와 협력하여 AI 안전 감시 그룹을 구성합니다.

프론티어 모델 포럼(Frontier Model Forum)이라고 불리는 이 파트너십은 미래 AI의 안전하고 투명한 개발을 논의하기 위해 지난 주 백악관에서 Amazon 및 Meta와 같은 회사들과 회의를 마친 후 이루어졌습니다.

AI를 안전하게 유지하기 위해 기술 분야의 유명 기업들이 함께 모였습니다. 거대 기술 기업인 Google과 Microsoft는 AI 기술이 "안전하고 책임감 있는" 방식으로 발전할 수 있도록 OpenAI 및 Anthropic과 제휴하고 있습니다.

이번 파트너십은 미래 AI의 안전하고 투명한 개발을 논의하기 위해 지난 주 백악관에서 Amazon, Meta와 같은 회사들과 회의를 가진 후에 나온 것입니다.

프론티어 모델 포럼(Frontier Model Forum)이라고 불리는 감시 단체는 전 세계 일부 정부가 AI를 안전하게 유지하기 위한 조치를 취하고 있지만 그러한 조치만으로는 충분하지 않다고 지적했습니다. 대신 기술 회사에 달려 있습니다.

Google 사이트의 블로그 게시물에서 포럼은 네 가지 주요 목표를 나열했습니다.

• 미래 위험을 최소화하기 위해 AI 안전 연구 개선
• 미래 모델의 책임 있는 개발 및 배포를 위한 모범 사례 식별
• AI 안전 위험에 대한 지식을 공유하기 위해 정책 입안자, 학계 및 기타 사람들과 협력
• 기후 변화, 암 진단 등 인류의 가장 큰 문제를 해결하기 위한 AI 활용 개발 지원

OpenAI 대변인은 포럼이 정책 입안자들과 협력할 것이지만 정부 로비에는 관여하지 않을 것이라고 덧붙였습니다.

포럼 회원 자격은 프론티어 모델 개발 및 배포, 프론티어 모델 안전에 대한 강한 의지 입증, 다른 회원과의 공동 이니셔티브 참여 의지라는 세 가지 기준을 충족하는 모든 회사에 열려 있습니다. "프론티어 모델"이란 무엇입니까? 포럼에서는 이를 "현재 기능을 뛰어넘고 광범위한 능력을 갖춘 대규모 기계 학습 모델"로 정의합니다.

AI는 세상을 변화시킬 잠재력을 갖고 있지만, 포럼에서는 "위험을 완화하려면 적절한 가드레일이 필요합니다"라고 말합니다. OpenAI의 글로벌 담당 부사장인 Anna Makanju는 다음과 같이 성명을 발표했습니다. "AI 기업, 특히 가장 강력한 모델을 개발하는 기업이 공통점을 갖는 것이 중요합니다. 이는 긴급한 작업입니다. 그리고 이 포럼은 좋은 위치에 있습니다. AI 안전 상태를 발전시키기 위해 신속하게 행동할 것입니다."

마이크로소프트의 브래드 스미스(Brad Smith) 회장도 AI 기술을 개발해 인간의 통제 하에 안전하게 유지하는 것은 궁극적으로 기업의 몫이라고 말하면서 이러한 정서를 반영했습니다.