오늘날의 AI 붐은 우리가 지금 행동하지 않으면 사회 문제를 증폭시킬 것이라고 AI 윤리학자는 말합니다.

인터넷 데이터를 기반으로 훈련된 AI 시스템은 부정적인 편견을 강화해 사회적 피해를 끼칠 위험이 있다. Salesforce의 Kathy Baxter가 이 문제를 해결하는 방법을 설명합니다.

AI 개발자는 알고리즘 편견을 해결하는 시스템을 개발하고 배포하기 위해 신속하게 움직여야 한다고 Salesforce의 Ethical AI Practice 수석 설계자인 Kathy Baxter가 말했습니다. ZDNET과의 인터뷰에서 Baxter는 공정하고 편견 없는 AI 시스템을 보장하기 위해 데이터 세트와 사용자 연구에서 다양한 표현이 필요하다고 강조했습니다. 그녀는 또한 개인의 개인 정보를 보호하면서 AI 시스템을 투명하고 이해 가능하며 책임 있게 만드는 것의 중요성을 강조했습니다. Baxter는 모든 사람에게 혜택을 주는 강력하고 안전한 AI 시스템을 개발하려면 NIST(국립표준기술연구소)에서 사용하는 모델과 같은 부문 간 협력이 필요하다고 강조합니다.

AI 윤리의 근본적인 질문 중 하나는 기존 사회적 편견을 강화하거나 새로운 편견을 만들지 않고 AI 시스템을 개발하고 배포하는 것입니다. 이를 달성하기 위해 Baxter는 누가 AI 기술의 혜택을 받고 누가 비용을 지불하는지 묻는 것이 중요하다고 강조했습니다. 사용되는 데이터 세트를 고려하고 그것이 모든 사람의 목소리를 대변하는지 확인하는 것이 중요합니다. 개발 과정의 포괄성과 사용자 조사를 통해 잠재적인 피해를 식별하는 것도 필수적입니다.

"이것은 우리가 논의해야 할 근본적인 질문 중 하나입니다"라고 Baxter는 말했습니다. "특히 유색인종 여성들은 수년 동안 이 질문을 던지고 이 분야에 대한 연구를 해왔습니다. 특히 생성 AI를 사용하여 많은 사람들이 이에 대해 이야기하는 것을 보니 기쁩니다. 하지만 우리가 해야 할 일은 근본적으로 누가 이 기술에 대해 혜택을 받고 누가 비용을 지불하는지 물어봐야 합니다."

사회적 편견은 AI 시스템을 훈련하는 데 사용되는 데이터 세트를 통해 AI 시스템에 주입될 수 있습니다. 주로 한 인종이 있거나 문화적 차별화가 부족한 이미지 데이터 세트와 같이 편견이 포함된 대표성이 없는 데이터 세트는 편향된 AI 시스템을 초래할 수 있습니다. 더욱이 AI 시스템을 사회에 불균등하게 적용하면 기존 고정관념이 영속될 수 있습니다.

AI 시스템을 일반 사람이 투명하고 이해할 수 있게 만들려면 개발 과정에서 설명 가능성을 우선시하는 것이 중요합니다. "사고 프롬프트 체인"과 같은 기술은 AI 시스템이 작업을 표시하고 의사 결정 프로세스를 더 이해하기 쉽게 만드는 데 도움이 될 수 있습니다. 설명을 명확하게 하고 사용자가 AI 생성 콘텐츠의 불확실성을 식별할 수 있도록 하려면 사용자 조사도 중요합니다.

개인의 개인정보를 보호하고 책임감 있는 AI 사용을 보장하려면 투명성과 동의가 필요합니다. Salesforce는 데이터 출처 존중 및 동의가 있는 고객 데이터 사용을 포함하는 책임 있는 생성 AI에 대한 지침을 따릅니다. 사용자가 자신의 데이터 사용을 선택하거나 선택 해제하거나 제어할 수 있도록 허용하는 것은 개인정보 보호를 위해 중요합니다.

Baxter는 "우리는 고객의 동의가 있는 경우에만 고객 데이터를 사용합니다."라고 말했습니다. "누군가의 데이터를 사용할 때 투명성을 유지하고, 그들이 동의하도록 허용하고, 그들이 더 이상 데이터가 포함되기를 원하지 않을 때 다시 돌아가서 말할 수 있도록 하는 것이 정말 중요합니다."

생성 AI 혁신을 위한 경쟁이 심화됨에 따라 점점 더 자율화되는 AI 시스템에 대한 인간의 통제와 자율성을 유지하는 것이 그 어느 때보다 중요해졌습니다. 사용자가 AI 생성 콘텐츠 사용에 대해 정보에 입각한 결정을 내릴 수 있도록 지원하고 사람이 계속해서 정보를 볼 수 있게 하면 통제력을 유지하는 데 도움이 될 수 있습니다.

AI 시스템이 안전하고 안정적이며 사용 가능한지 확인하는 것이 중요합니다. 이를 달성하려면 업계 전반의 협력이 필수적입니다. Baxter는 다양한 부문의 240명 이상의 전문가가 참여한 NIST가 만든 AI 위험 관리 프레임워크를 높이 평가했습니다. 이러한 협업 접근 방식은 위험을 식별하고 솔루션을 공유하기 위한 공통 언어와 프레임워크를 제공합니다.

AI의 윤리적 문제를 해결하지 못하면 안면인식 오류나 유해영상 생성으로 인한 부당체포 사례처럼 심각한 결과를 초래할 수 있다. 잠재적인 미래 피해에만 집중하기보다는 안전 장치에 투자하고 현재 상황에 집중하면 이러한 문제를 완화하고 AI 시스템의 책임감 있는 개발 및 사용을 보장하는 데 도움이 될 수 있습니다.

AI의 미래와 인공 일반 지능의 가능성이 흥미로운 주제인 반면 Baxter는 현재에 집중하는 것이 중요하다고 강조합니다. 오늘날 책임감 있는 AI 사용을 보장하고 사회적 편견을 해결하면 사회가 미래 AI 발전에 더 잘 대비할 수 있습니다. 윤리적인 AI 관행에 투자하고 업계 전반에 걸쳐 협력함으로써 우리는 AI 기술을 위한 보다 안전하고 포용적인 미래를 만드는 데 도움을 줄 수 있습니다.

Baxter는 "타임라인이 매우 중요하다고 생각합니다."라고 말했습니다. "우리는 지금 여기에 투자하고 이러한 근육 기억을 생성하고, 이러한 자원을 생성하고, 계속해서 발전하면서도 안전하게 수행할 수 있도록 규정을 만들어야 합니다."