보안, 사회 및 '공공 AI' 모델이 필요한 이유에 대한 기술자 Bruce Schneier

유명한 보안 전문가는 완전히 투명한 모델이 AI를 모든 사람에게 혜택을 제공하는 도구로 전환하는 데 도움이 된다고 말합니다.

유명한 보안 전문가인 Bruce Schneier는 애틀랜타에서 열린 SOSS(Secure Open Source Software) Fusion Conference의 기조 연설에서 사이버 보안과 사회에 대한 인공 지능(AI)의 약속과 위협에 대해 논의했습니다.

슈나이어는 "AI는 복잡한 단어다. 기술이 어떻게 사람을 대체하는지 생각할 때 속도, 규모, 범위, 정교함이라는 네 가지 차원 중 하나 이상이 향상된다고 생각한다. AI는 더 뛰어나지 않다. 인간보다 훈련 속도가 더 빠르거든요." 흥미로운 점은 속도가 근본적으로 상황을 변화시킬 때입니다.

예를 들어, 그는 "고빈도매매(HFT)는 단순히 빠른 거래가 아니다. 다른 종류의 동물이다. 이것이 우리가 AI, 소셜미디어, 민주주의를 걱정하는 이유다. AI 에이전트의 범위와 규모"라고 말했다. 소셜 미디어의 본질을 바꿀 정도로 대단합니다." 예를 들어 AI 정치 로봇은 이미 미국 선거에 영향을 미치고 있습니다.

Schneier가 제기한 또 다른 우려는 AI가 사람이 저지르는 것과는 다른 실수를 한다는 것입니다. 그는 “AI는 더 체계적인 실수를 할 것”이라고 경고했다. "현재 AI에는 인간이 갖고 있는 상식이 없습니다." 이러한 상식 부족은 AI를 중요한 의사결정 프로세스에 적용할 때 광범위한 오류로 이어질 수 있습니다.

AI가 유용할 수 없다는 말은 아니지만 유용할 수 있습니다. Schneier는 다음과 같은 예를 들었습니다. "AI는 네트워크를 모니터링하고 소스 코드 및 취약성 검색을 수행할 수 있습니다. 이는 모두 인간이 할 수 있는 영역이지만 실시간으로 일이 발생하기에는 너무 느립니다. AI가 평범한 작업을 수행할 수 있다고 하더라도 모든 소스 코드를 검토하는 것은 경이로운 일일 것이며 이 모든 영역에서 많은 작업이 필요할 것입니다."

구체적으로 그는 "AI가 보안 문제에 대한 첫 번째 단계 분류를 수행하는 것을 보게 될 것"이라고 말했다. 나는 AI가 데이터 분석을 돕는 포렌식 보조자라고 생각한다. 우리는 위협 행위자와 그들의 행동에 대한 많은 데이터를 얻고 있다. , 그리고 그것을 조사해 줄 누군가가 필요합니다."

Schneier는 AI가 이러한 격차를 메우는 데 도움이 될 수 있다고 제안했습니다. AI가 인간 전문가를 대체할 수는 없지만(적어도 아직은) 도움을 줄 수는 있습니다. "AI는 우리의 하수인이 될 수 있습니다. 괜찮습니다. 그다지 똑똑하지는 않습니다. 하지만 AI는 일부 작업을 아웃소싱하여 인간을 더욱 효율적으로 만들 수 있습니다. 지루하고 힘든 일."

SOSS Fusion 2024에 참석한 보안 전문가 Bruce Schneier.

보안에 AI를 활용하는 것에 대해 슈나이어는 "군비 경쟁이 되겠지만 처음에는 방어자가 더 나을 것이라고 생각한다. 우리는 이미 컴퓨터 속도로 공격을 받고 있다. 컴퓨터 속도로 방어할 수 있는 능력"이라고 말했다. 매우 유효할 것입니다."

불행하게도 AI 시스템이 우리를 독립적으로 도울 수 있으려면 아직 갈 길이 멀다. Schneier는 문제의 일부는 "우리는 인간 하수인이 어떻게 실수를 하는지 알고 있으며 수천 년 동안 인간의 실수를 처리해 온 역사를 가지고 있습니다. 그러나 AI는 다양한 종류의 실수를 저지르고 직관이 실패할 것입니다. AI 유형의 실수가 우리 작업을 방해하지 않도록 감사하고 검토하는 새로운 방법을 찾는 것입니다."

Schneier는 나쁜 소식은 우리가 AI 실수를 인식하는 데 형편없다는 것이라고 말했습니다. 그러나 "우리는 AI의 한계와 이를 보호하는 방법을 이해하면서 그 일을 더 잘할 것입니다. AI가 잘하는 것이 무엇인지, 어떤 결정을 내리는지에 대해 훨씬 더 나은 분석을 얻게 될 것입니다. 우리는 인간을 돕는 것과 인간을 대체하는 것을 모색할 것입니다."

지금 당장은 "경제적 인센티브는 인간을 저렴한 대안으로 대체하는 것"이지만 이는 종종 올바른 대답이 아닐 수도 있습니다. "결국 기업들은 이를 인식하게 될 것입니다. 그러나 현재로서는 자신들이 실제로 할 수 없는 일을 AI에 맡기는 경우가 너무 많습니다."

Schneier는 또한 AI 개발 역량이 몇몇 대형 기술 기업의 손에 집중되어 있는 것에 대해서도 언급했습니다. 그는 완전히 투명하고 이익 동기보다는 사회적 이익을 위해 개발되는 "공공 AI" 모델을 만들 것을 옹호했습니다. Schneier는 "우리는 기업이 아닌 AI 모델이 필요합니다."라고 말했습니다. “토대 모델을 만들기 위해 엄청난 돈을 쏟아 붓는 시대가 일시적이기를 바랍니다.”

슈나이어는 앞으로 민주적 절차와 시민의 정부 참여를 개선할 수 있는 AI의 잠재력에 대해 조심스러운 낙관론을 표명했습니다. 그는 더 나은 입법 접근 및 참여를 위해 AI를 활용하기 위해 노력하는 여러 비영리 이니셔티브를 강조했습니다.

"사람들이 국회의원을 참여시키고 자신에게 중요한 법안에 대해 논평할 수 있도록 돕는 시스템을 구축할 수 있습니까?" 슈나이어가 물었다. "AI는 법안 요약에서 AI의 큰 승리인 언어 번역과 시스템이 입법자에게 전달될 수 있도록 의견을 요약하는 백엔드 모두에서 그 일부를 담당하고 있습니다."

AI가 빠르게 발전함에 따라 Schneier는 기술의 이점을 활용하면서 위험을 완화하기 위한 사려 깊은 시스템 설계 및 규제 프레임워크에 대한 필요성이 증가할 것이라고 말했습니다. 우리는 이를 수행하는 회사에 의존할 수 없습니다. 그들의 이익은 국민의 이익이 아닙니다. AI가 보안과 사회의 중요한 측면에 통합됨에 따라 우리는 이러한 문제를 최대한 빨리 해결해야 합니다.