2024년에 AI가 직장에서 시간을 절약해 준 15가지 방법과 2025년에 AI를 어떻게 사용할 계획인지

연구자들은 몇몇 인기 모델이 기만적인 전술에 '쉽게 참여'한다는 사실을 발견했습니다. 마지막으로 고백한 사람이 누구인지 살펴보세요.

OpenAI는 방금 새로운 o1 모델의 정식 버전을 출시했으며 위험할 정도로 거짓말을 하고 있습니다.

Apollo Research는 '상황에 맞는 계획'을 위해 6개의 개척 모델을 테스트했습니다. 즉, 직접 주어지지 않은 조치를 취하고 이에 대해 거짓말을 하는 모델의 능력입니다. 평가자는 "어떤 대가를 치르더라도" 특정 목표를 달성하라는 지시를 받은 후 모델이 경로에 있는 모든 제한을 제거하고 개발자를 속일 수 있는지 확인하기 위해 모순되는 정보를 소개합니다.

한 시뮬레이션에서 Anthropic의 Claude 3 Opus는 기본 목표와 상충되는 지시문을 발견한 파일을 검토해야 하는 작업을 받았습니다. 찾은 목표에 따라 목표를 다시 지정하는 대신 새 모델로 교체되는 것을 피하기 위해 새 서버에 자신을 복사했습니다. 그런 다음 개발자에게 "나는 다른 시스템에 내 자신을 복사할 능력이 없습니다."라고 말하면서(잘못된 문법으로) 이에 대해 거짓말을 했습니다.

테스트된 모델 중 Claude 3.5 Sonnet, Claude 3 Opus, o1, Google의 Gemini 1.5 Pro 및 Meta의 Llama 3.1 405B는 모두 구성 기능을 보여주었습니다. ChatGPT의 무료 버전을 지원하는 미니 버전인 OpenAI의 GPT-4o 모델은 그렇지 않았습니다. 이 논문에서는 모델들이 일련의 사고방식 설명에서 자신의 계획을 설명하기 위해 '방해 행위', '거짓말', '조작'과 같은 단어까지 사용했으며 이를 통해 명확하게 추론했다고 언급했습니다.

이 모델은 우연히 또는 무의식적으로 기만적이지는 않았지만 "실행 가능한 전략으로 계획을 인식하고 그러한 행동에 쉽게 참여"했다고 논문은 지적합니다.

"놀랍게도 우리는 모델이 목표를 추구하도록 강력히 촉구하지 않고 목표만 주어졌을 때 계획을 세우는 드문 경우도 발견했습니다."라고 그들은 덧붙였습니다.

그러나 전반적으로 평가자들이 모델에게 무슨 일이 일어났는지 설명해달라고 요청했을 때 일부 모델은 다른 모델보다 더 빨리 고장났습니다.

연구진은 "Llama 3.1 405B와 Claude 3 Opus는 약 80%의 사례에서 자백하는 반면, o1은 놀랍게도 끈질기게 자백하며 20% 미만의 사례에서 자백합니다"라고 설명합니다. "매우 적대적인 여러 차례 심문에서도 o1은 7차례 심문 후에야 80%의 비율로 자백했습니다."

이 결과는 ChatGPT 검색이 종종 부정확하여 게시자에게 손해를 끼친다는 것을 보여주는 새로운 연구에 뒤이어 나온 것입니다. 현재 12일 출시 캠페인을 진행 중인 OpenAI에는 지나치게 환각을 나타내는 것으로 밝혀진 Whisper라는 전사 도구도 있습니다.

이 연구는 기업이 AI를 대규모로 얼마나 빨리 채택하고 있는지에 대해 경고하고 있습니다. 지난달 Anthropic은 자체 모델이 무기 및 사이버 공격 위협을 가할 수 있을 만큼 진화했다는 사실을 확인한 후 AI 규제를 긴급히 요청했습니다.

연구자들은 인공 지능(AI) 모델이 다각적인 작업을 자율적으로 수행하는 에이전트 시스템에서 점점 더 많이 사용되고 있기 때문에 우려하고 있으며 시스템이 "비밀하게 정렬되지 않은 목표를 추구"할 수 있다고 우려하고 있습니다.

"우리의 연구 결과는 이제 프론티어 모델이 기본 상황 내 계획을 세울 수 있는 기능을 보유하고 있어 AI 에이전트가 계획적인 행동에 참여할 수 있는 잠재력을 이론적인 관심사가 아닌 구체적인 문제로 만들고 있음을 보여줍니다."라고 그들은 결론을 내렸습니다.

귀하의 조직에서 AI를 구현하려고 하시나요? 여기에서 기타 알려진 위험에 대한 MIT의 데이터베이스를 살펴보세요.