생성적 AI 채택을 서두르고 계십니까? 회의론이 최선의 방어책인 이유

Gartner의 새로운 연구에 따르면 기업의 55%가 생성 AI 도구를 사용해 시범 운영 중이거나 생산 모드에 있습니다.

일부 조직에서는 생성 인공 지능(AI) 채택을 추진하고 있으므로 잠재적인 위험을 완화하면서 어느 정도 회의적인 태도를 취하는 것이 중요합니다.

화요일에 발표된 Gartner 연구 결과에 따르면 현재 기업의 45%가 생성 AI를 시험하고 있으며 10%는 이미 그러한 도구를 생산 중에 있다고 밝혔습니다. 이 설문조사는 지난달 웨비나에서 1,419명의 임원을 대상으로 생성 AI의 비즈니스 비용과 위험을 논의했습니다.

이 수치는 Gartner가 올해 3월과 4월에 실시한 이전 여론 조사보다 훨씬 높은 수치입니다. 이 기간 동안 15%가 기술을 시범적으로 사용했다고 보고했으며 단 4%만이 이러한 도구를 생산에 사용했다고 답했습니다.

최근 조사에서는 약 78%가 생성 AI의 이점이 위험보다 더 크다고 답했는데, 이는 이전 여론 조사에서 그렇게 생각한 68%보다 높은 수치입니다.

Gartner는 45%의 기업이 다양한 기능에 걸쳐 생성 AI 투자를 확대하고 있으며, 22%는 최소 3가지 기능에 걸쳐 그렇게 하고 있다고 밝혔습니다. 소프트웨어 개발에서 생성적 AI에 대한 투자 또는 채택이 21%로 가장 높은 비율을 기록했고, 마케팅과 고객 서비스가 각각 19%와 16%로 그 뒤를 이었습니다.

Gartner의 그룹 연구 책임자이자 저명한 분석가인 Frances Karamouzis는 "조직은 생성적 AI에 대해서만 이야기하는 것이 아닙니다. 그들은 시간, 돈, 자원을 투자하여 이를 발전시키고 비즈니스 성과를 창출하고 있습니다."라고 말했습니다. 10개월 전 공개 도메인에 등장한 이후 생성 AI에 대한 투자를 늘렸습니다.

Karamouzis는 "경영진들은 생성 AI가 혁신, 최적화 및 파괴를 촉진할 수 있는 심오한 방법을 확인하면서 생성 AI에 대해 더욱 과감한 입장을 취하고 있습니다."라고 말했습니다. "비즈니스 및 IT 리더는 '기다려 지켜보는' 접근 방식이 투자보다 더 위험하다는 것을 이해하고 있습니다."

의심이 필요할 때

하지만 기업이 앞서 나가기로 결정했다면 책임감 있고 윤리적으로 생성 AI를 채택할 수 있는 프레임워크를 마련해야 합니다.

Salesforce.com의 책임 있는 AI 수석 설계자인 Kathy Baxter는 AI가 언제 적용되었는지 감지하는 데 사용되는 도구를 포함하여 어느 정도 회의적인 시각도 적용되어야 한다고 말했습니다.

Baxter는 이 기술이 민주화되어 누구나 난간 없이 생성 AI를 사용할 수 있게 되었다고 언급했습니다. 그러나 많은 조직이 유해한 콘텐츠를 제거하기 위해 노력하고 그러한 노력에 지속적으로 투자하고 있지만 AI와 관련하여 "얼마나 큰 소금"을 취해야 하는지에 대한 이해는 아직 많지 않습니다. 생성된 콘텐츠.

Baxter는 ZDNET과의 인터뷰에서 사용자들은 이러한 콘텐츠가 조작된 경우에도 모든 콘텐츠를 사실로 간주하며 AI 탐지 도구도 경우에 따라 틀릴 수 있지만 항상 정확한 것으로 간주될 수 있다고 지적했습니다. 이러한 인식은 생성 AI 및 관련 도구가 교육과 같은 일부 영역에서 사용될 때 부정적인 영향을 미칠 수 있으며, 학생들은 AI를 업무에 사용했다는 잘못된 비난을 받을 수 있습니다.

그녀는 그러한 위험에 대한 우려를 표명하면서 생성 AI를 사용하는 개인이나 조직이 "충분히 회의적"으로 그렇게 할 것을 촉구했습니다.

업계의 다른 사람들과 마찬가지로 그녀는 AI의 정확성과 안전성을 보장하기 위해 충분한 가드레일의 필요성을 강조했습니다. 그녀는 위험 완화 도구와 함께 배포가 출시된다면 도움이 될 것이라고 덧붙였습니다. 여기에는 오류 감지 및 보고 기능, 사람의 피드백을 수집하고 제공하는 메커니즘이 포함될 수 있습니다.

그녀는 AI 기반 구축도 중요하다고 말하면서 AI 모델을 훈련하는 데 사용되는 데이터의 중요성을 강조했습니다. 하지만 데이터 위생이 좋은 조직은 많지 않다고 그녀는 지적했습니다.

실제로 지난달 발표된 C-Suite 글로벌 AI 지표 보고서에 따르면 비즈니스 및 기술 리더 중 단 4%만이 자신의 데이터에 완전히 접근할 수 있다고 설명했습니다. Workday의 의뢰로 실시된 이번 조사에서는 아시아 태평양, 일본, 북미, EMEA 지역에서 CEO, CIO, CFO를 포함한 다양한 직무를 주도하는 임원 2,355명을 대상으로 설문 조사를 실시했습니다.

설문 조사에 따르면 응답자의 절반 이상(59%)이 데이터가 어느 정도 또는 완전히 고립되어 있다고 설명했습니다.

98%는 AI와 머신러닝을 배포하면 즉각적인 비즈니스 이점이 있을 것이라고 믿었지만, 49%는 도구, 기술, 지식이 부족하기 때문에 조직이 그렇게 할 준비가 되어 있지 않다고 말했습니다.

약 43%는 AI와 머신러닝의 신뢰성에 대해 우려를 표명했으며, CEO의 67%는 잠재적인 오류를 AI와 머신러닝 도입의 가장 큰 위험으로 지적했습니다.

신뢰를 구축하려면 투명성을 높여야 하지만 고립된 데이터로 인해 리더가 의지할 수 있는 능력이 모호해졌습니다. 설문조사에 참여한 조직 중 59%는 데이터가 어느 정도 또는 완전히 고립되어 있다고 답했습니다. 전체 응답자의 4%만이 데이터에 완전히 접근할 수 있다고 답했습니다.

Workday CTO Jim Stratton은 다음과 같이 말했습니다. "일부 불확실성에도 불구하고 리더들은 AI와 머신 러닝이 인력을 늘리고 생산성을 향상할 것이라고 낙관하고 있습니다. 이러한 이점을 수용하려면 신뢰가 가장 중요하며, 신뢰를 구축하려면 올바른 데이터 기반과 거버넌스에 대한 헌신이 필요합니다."

Stratton은 조직이 AI 기술의 이점을 활용하려면 AI를 구현할 때 데이터 품질과 투명성을 우선시할 것을 촉구했습니다.