얼리 어답터는 현재 기업에 AI 에이전트를 배포하고 있으며 2025년에는 도입 규모를 확대할 예정입니다.

기술, 혁신, 전략 전문가들이 AI 에이전트 채택과 AI 기반 자율 기업의 미래에 대한 관점을 공유합니다.

향후 10년 동안 지속적으로 개선되는 인공 지능(AI) 리소스 세트는 비즈니스와 인력에 큰 영향을 미칠 것입니다.

처음에 AI는 가치가 낮은 작업을 대신하고 인간이 보다 전략적이고 창의적인 작업에 노력을 집중할 수 있도록 지원하는 등 광범위하게 증강 효과를 발휘할 것입니다. 그러나 에이전트 우선 AI 기업은 방향과 속도 면에서 전례 없는 속도로 진화하고 있습니다.

우리가 자율 작업의 6가지 수준으로 설명하는 것은 AI 보조자 대 AI 에이전트의 성숙도 수준을 나타냅니다. 채택 예측과 직장 내 AI 보조자 및 에이전트의 영향을 더 잘 이해하기 위해 AI 에이전트는 심층적인 언어 이해, 추론 및 의사 결정을 가능하게 하는 대규모 언어 모델(LLM)의 출현을 통해 가능해졌습니다.

그러나 기업에서 에이전트를 채택하려면 개인 데이터에 대한 액세스 부족, 기본적으로 조치를 취할 수 있는 기능 부족 등 몇 가지 제한 사항을 해결해야 합니다. 에이전트 채택이 증가하려면 이러한 문제를 해결해야 합니다.

에이전트는 다양한 수준의 자율성을 가질 수 있습니다. 보조 에이전트(때때로 부조종사라고도 함)는 인간과 협력하여 혼자 행동하기보다는 능력을 향상시킵니다. 부조종사는 제안이나 조치를 개선하기 위해 사람의 입력과 피드백이 필요한 경우가 많습니다.

자율 에이전트는 사람의 직접적인 감독 없이 독립적으로 작동합니다. 다른 완전 자율 에이전트와 달리 이러한 에이전트의 하이브리드 버전은 필요에 따라 인간에게 작업을 원활하게 전달할 수 있습니다. 신뢰성, 비즈니스 관행 준수, 데이터 보안 및 개인 정보 보호를 보장하고 환각, 독성 및 유해한 콘텐츠를 방지하려면 적절한 가드레일이 중요합니다.

저는 AI 에이전트의 비즈니스 채택, 과제와 기회, 주류 구현에 대한 예측을 더 잘 이해하기 위해 두 명의 기술 및 혁신 분석가 및 엔터프라이즈 시장 전략가와 이야기를 나눴습니다.

Michael Maozis는 Salesforce의 혁신 전략 담당 수석 부사장입니다. Salesforce에 합류하기 전에 Maoz는 분석가 Gartner에서 연구 부사장이자 저명한 분석가였으며 고객 서비스 및 지원 전략 분야의 연구 리더로 활동했습니다.

Ed Thompson은 Salesforce의 시장 전략 담당 수석 부사장입니다. Salesforce에 합류하기 전에 Thompson은 Gartner에서 연구 부사장이자 저명한 분석가로 재직하며 고객 경험(CX), CRM 전략 및 구현을 담당했습니다. Maoz와 Thompson은 기업 내 AI 에이전트의 미래에 대한 관점을 공유했습니다.

AI 에이전트가 우리 곁에 있지만 아직은 초기 단계입니다. 언제, 어디로 주류로 진출할 것이라고 생각하시나요?

Ed Thompson(ET):주류에 도달하는 데는 사람들이 생각하는 것보다 더 오랜 시간이 걸릴 것이라고 생각합니다. 기술적 한계 때문이 아니라 채택 및 변화하는 습관 때문입니다. 대략적으로 상담원은 직원의 보조자가 될 수도 있고 직원을 대신할 수도 있습니다. 첫 번째 경우에는 PA와 같으며 이미 여기에 있습니다. 완벽한 형태는 아니지만 향후 5년 이내에 거의 모든 사무직 근로자와 일부 생산직 직원이 자신이 사용하는 애플리케이션을 보게 될 것입니다. 사용하면 힘든 작업에 소요되는 시간을 줄이는 데 도움이 되는 보조자가 내장되지만 직원은 여전히 그 자리에 있고 여전히 통제권을 갖습니다.

두 번째 경우에는 직원을 교체합니다. 전체 작업을 교체하는 것은 어려운 요청입니다. 작업이 싫고 반복성이 높지 않는 한 시간이 오래 걸릴 것입니다. 나는 우리가 주류에서 그런 일이 일어나는 것을 보기까지는 10년이 걸릴 것이라고 확신합니다. 그리고 이를 가능하게 하는 것은 기존 기업보다는 많은 디지털 직원을 고용하여 처음부터 작업을 재설계할 수 있는 스타트업이라고 확신합니다. 예를 들어 인간 직원은 2명이지만 디지털 에이전트 직원은 12명으로 직원이 20명인 회사처럼 보이는 여행 중개인, 보험 중개인 또는 금융 자문가를 생각하고 있습니다.

Michael Maoz(MM): 어떤 사용 사례가 먼저 나올 것인지에 대한 질문은 다릅니다. 하지만 이는 언제 널리 채택될 것인지에 대한 질문과 관련이 있습니다. 나는 Salesforce Agentforce Service Agent와 같은 AI 에이전트의 초기 사용이 고객 서비스 에이전트가 채팅이나 전화 통화를 처리하는 데 필요한 정보를 자동으로 수집하는 등 위험이 낮고 복잡성이 낮은 다양한 사용 사례에 사용될 것이라는 점에 동의합니다. 그리고 그 정보를 화면에 표시합니다.

AI 에이전트는 지식 그래프를 사용하여 인간 에이전트가 고객을 지원하는 데 필요한 타겟 콘텐츠를 제시합니다. 또 다른 AI 에이전트는 인간 에이전트가 확인하고 승인할 수 있는 이메일 또는 문자 후속 조치를 작성합니다. 상호작용이 끝나면 또 다른 AI 에이전트가 대화를 요약합니다.

또 다른 사용 사례 세트는 차세대 챗봇을 위한 것입니다. 현재의 챗봇은 엄격한 지식 기반을 갖고 있으며 고객의 의도를 추측하려고 시도하며 이미지 및 기타 미디어가 필요한 다중 모드 상호 작용을 처리하는 데 부족합니다. 새롭게 떠오르는 AI 에이전트 봇은 지능적인 지식 답변을 갖고 있는데, 이는 질문에 답변할 뿐만 아니라 조치도 수행한다는 의미입니다. 물론 LLM을 기반으로 하지만 프롬프트는 여러 면에서 훨씬 더 풍부합니다. 다음은 새로운 프롬프트의 매우 멋진 네 가지 특징입니다.

• 프롬프트는 요청하는 사람의 역할(또는 요청하는 다른 AI 에이전트의 권한)을 알고 답변을 위해 특정 정보에 대한 액세스 권한을 부여할 수 있지만 다른 정보에는 액세스 권한을 부여할 수 없습니다.
• 프롬프트는 고급 자연어 모델링을 사용하고 다중 모드이며 텍스트, 오디오 및 이미지의 조합으로 응답하여 특정 상황과 관련된 지식에 집중할 수 있습니다.
• 프롬프트는 '청구 양식 가져오기' 또는 '주문 상태 검색'과 같은 일련의 작업을 실행하거나 첨부된 사진을 분석할 수 있습니다.
• 프롬프트는 개인 정보 보호, 규정 준수 또는 업계 규정에 대한 규칙을 기반으로 작동할 수 있습니다.

이 필터링의 중요한 부작용은 컴퓨팅 성능이 크게 감소하여 환경에 좋다는 것입니다.

고객 서비스에 대해 언급했지만 판매 후속 이메일 작성, 전화 통화 그룹 탐색, 동적 마케팅 세그먼트 생성, 각 세그먼트에 적합한 메시지 생성, 코더를 위한 자연어를 코드로 변환 등 수십 가지 다른 용도가 있습니다.

그 예들은 모두 '무엇'에 관한 것이었습니다. AI 에이전트가 언제 주류로 자리잡을지 예측하기 위해 제프리 무어(Geoffrey Moore)의 Crossing the Chasm이라는 관점에서 이를 살펴볼 수 있습니다. 그는 일반적으로 모든 IT 리더 중 낮은 한 자릿수 비율로 앞서 나가고 새로운 기술을 수용하는 기술 혁신가가 있다고 제안합니다. 이러한 혁신적인 돌격대 뒤에는 혁신적인 동료를 보고 그들의 성공을 따라하고 싶어하는 얼리 어답터가 있습니다.

높은 수준에서 다음 몇 분기 동안 어느 시점에서는 얼리 어답터를 주도한 AI 에이전트에 대한 매력이 얼리 어답터들 사이에서 예산과 혁신 대역폭에 대한 더 폭넓은 대화로 이어질 것입니다. 대부분의 기업은 새로운 프로세스와 새로운 공급업체 관계가 필요한 새로운 IT 프로젝트에 리소스를 재할당하는 능력이 매우 제한되어 있습니다. 그들은 수익 성장이나 운영 효율성의 가능성이 높은 새로운 비즈니스 모델과 같이 극적으로 새로운 기능이 약속될 때 이를 수행할 것입니다.

경기 침체가 기술 혁신 주기를 방해하지 않는 한, 얼리 어답터들이 2024년 말까지 확장된 AI 에이전트 프로젝트에 대한 계획을 출시하기 시작해야 하며, 산업 전반에 걸쳐 성공 사례가 더 잘 이해되면 두 번째 2025년의 절반은 여러 부서와 사업 부문에 걸쳐 확장되고 조정된 AI 에이전트 프로그램이 더 널리 활용되는 시기입니다.

따라서 80%가 넘는 대부분의 구매자는 IT 변화의 의미가 더 잘 알려지고, 비즈니스 이점이 더 명확해지고, 실제 비용을 더 안정적으로 계획할 수 있을 때까지 가만히 앉아 있습니다.

제너레이티브 AI(Gen AI)가 우리와 함께한 지 18개월이 지났지만 많은 기업이 시도했고 많은 기업이 실패했습니다. 일부에서는 이를 프로세스 실험이라고 부를 수도 있습니다. 단 9%만이 사용 사례를 다수의 직원에게 확대했기 때문입니다. 확장 문제의 원인은 무엇입니까?

ET: 보안, 편견, 독성, 거버넌스 가드레일, 규정 준수, 저작권 및 데이터 출처, 도구 비용 등의 문제가 있으며, 최근에는 에너지 사용과 관련된 문제가 발생했습니다. LLM과 지속 가능성 목표에 미치는 영향. 그러나 가장 큰 문제는 모델의 기반이 되는 데이터로 인해 발생하는 프롬프트 응답의 부정확성입니다. 데이터 소스와 품질이 주요 원인입니다.

저는 첫 번째 테스트에서 40%의 정확한 답변을 얻은 회사와 이야기를 나눴으며 모델이 학습하면서 품질이 낮은 데이터를 제거하고 더 나은 데이터 소스를 추가함에 따라 정확성이 주당 5% 향상된다는 사실을 발견했습니다. 이는 직원이 100% 정확하다는 것을 의미하지는 않지만 최소한 직원이 수행하는 작업의 정확성은 일치해야 합니다. 그 결과 많은 직원이 제안된 답변이나 이메일, 요약의 첫 번째 세트를 보고 그것이 쓰레기라고 결론을 내리고 채택을 거부하게 되었습니다. 따라서 실무자들이 직면하는 과제는 종종 이익을 얻을 가능성이 더 높은 다른 사용 사례로 전환하고 실행하는지, 아니면 학습할 시간을 주고 새로운 데이터 소스를 제공하는지 여부입니다.

MM: Gen AI에서 기업이 처리해야 할 몇 가지 현실이 있습니다. 첫 번째는 모든 Gen AI 프로젝트의 위험을 제거해야 한다는 것입니다. 그러기 위해서는 AI용 데이터를 신뢰할 수 있도록 좋은 데이터 거버넌스가 필요합니다. 그런 다음 데이터를 감사할 수 있어야 합니다. 다음으로 '윤리적 사용' 테스트를 통과해야 편견이 결과에 반영되지 않습니다. 개인 정보 보호 계층이 존재해야 합니다. 비즈니스의 경우 외부 Gen AI 도구와 달리 Gen AI의 데이터는 '제로 복사'여야 합니다. 즉, 데이터를 저장하지 않는다는 의미입니다. 이 모든 것을 할 수 없다면 EU의 AI법과 같은 기존 또는 새로운 규정을 위반할 수 있습니다.

두 번째 요인은 AI가 더 정확하더라도 인간이 인간을 선호한다는 것입니다. 소비자는 판사가 AI보다 일관성이 떨어지는 것으로 데이터가 표시되는 경우에도 알고리즘보다 판사를 선호합니다. 또는 자율주행차: 대다수의 사람들은 무인자동차가 더 정확하더라도 사람이 운전할 때 자동차를 선호한다고 말합니다.

마지막 요소는 '인간의 손길'이라고 할 수 있다. 청구서 관련 질문에 대한 도움, 의학적 조언, 기술 지원 등 다양한 상호 작용에서 사람들은 공감, 관심, 투명성, 이해 및 신뢰를 원합니다. 이러한 특성은 소프트웨어에서 비용 효과적인 방식으로 포착하기 어렵습니다.

연결된 고객의 새로운 세계를 위한 기술이 도래했습니다. 도입을 지연시킬 수 있는 '소프트' 요인은 무엇입니까?

MM:당신 말이 맞습니다. 우리는 변화의 세 가지 요소 중 두 가지인 기술 및 프로세스 변화를 다루었습니다. 공개 질문은 "경영진이 변화를 수용할 준비가 되어 있습니까?"입니다. 전 세계적으로 HR이 실시한 설문 조사에 따르면 직원들은 매달 최악의 날은 관리자와 대화해야 하는 날이라고 일관되게 말합니다. 그 이유를 파헤쳐 보면 중요한 지표에 대한 불안감과 투명성 부족, 낮은 임금이나 열악한 근무 조건, 적절한 교육 부족, 책임이 한 방향으로만 축소된다는 느낌, 관리자가 그렇지 않다는 느낌 등이 있습니다. 그들을 믿으십시오. 안타깝게도 이것들은 상상했던 것보다 더 현실적입니다. 나는 가장 행복한 직원이 있는 회사를 살펴보고 "그 회사가 왜 그런 회사이고 그것이 성과를 거두는가?"라고 질문할 것을 권장하는 경향이 있습니다.

부분적으로, 가장 행복한 직원은 또한 가장 성공적인 회사에 있으며, 우리는 그들이 승리하는 팀에 있는 것이 더 재미있기 때문에 행복한 것인지, 아니면 그 회사에서 일하는 것이 더 만족스럽기 때문에 승리하는 팀에 있는 것인지 궁금합니다. ? ADP, Apple, Ferrari, Costco, BMW, Cisco, Airbus, Rossman, Samsung, Salesforce는 모두 직원 만족도가 가장 높은 기업이며 모두 성공적인 기업입니다. 그들은 6개의 서로 다른 산업을 넘나들고 있으므로 그게 아닙니다. 그들은 잘 관리되는 인력입니다.

또 그 단어가 있습니다: 관리자. 좋은 관리자인 관리자는 리더가 되어야 합니다. Harvard Business Review와 이에 대해 이야기하는 다른 사람들의 연구 결과가 충분합니다. 그러나 그들은 Toyota가 말하는 '더 나은, 더 나은, 결코 최고'를 수행하는 방법에 대해 항상 열린 마음을 가지고 준비되어 있는 유형의 기업가가 되어야 합니다.

그들은 팀의 동등한 리더이자 기업가입니다. 그들은 개선을 위해 합리적인 위험을 감수하며 주로 자신만을 위해서가 아니라 회사, 고객 및 직원의 이익을 위해 게임에 참여합니다. 그들은 또한 결정을 내릴 때 큰 그림을 보는 경향이 있으며 가능한 한 팀과 협력하여 결정을 내립니다.

마지막으로 그들은 직속 부하 직원의 성공에 관심을 갖습니다. 그들은 성공을 빨리 칭찬하는 것처럼, 회사 안팎에서 다른 기회를 찾는 데 필요한 수준으로 업무를 수행하지 못하는 직원을 돕는 것도 두려워하지 않습니다. AI 에이전트를 팀의 새로운 구성원으로 수용하고 모든 팀원을 더욱 효과적이고 성공적으로 만드는 데 전념하는 방식으로 팀을 대담하게 이끄는 사람이 바로 이러한 유형의 리더입니다.

Salesforce의 시장 전략 담당 수석 부사장인 Ed Thompson입니다.

ET: 관리 -- 해당 주제를 에이전트 출시와 결합한다면 정말 흥미로운 주제가 될 것입니다. 에이전트 기술은 관리자에게 큰 과제를 안겨줄 것입니다. 상담원이 직원의 상담원 보조 역할을 할 때는 그다지 많지 않지만 직원을 교체하면 관리자의 상황이 바뀔 것입니다. 지금까지 우리가 가지고 있는 제한된 증거는 상담원이 직원의 보조자 역할을 하고 지루하고 일상적인 작업을 오프로드하면 관리자에게는 이것이 팀에서 성과가 낮은 직원을 향상시킬 수 있는 좋은 방법이라는 것입니다. 최고 성과자에게는 혜택이 훨씬 적습니다. 여러 면에서 이는 관리자에게 도움이 되지만, 낮은 성과를 내는 직원이 높은 성과를 내는 직원과 많이 닮게 되면 성과 검토가 더욱 어려워집니다.

하지만 아직 정식 에이전트 직원으로 활동하는 에이전트는 많이 본 적이 없습니다. 이는 관리자-직원 관계를 완전히 변화시킵니다. 이제 관리자는 인간이나 디지털 에이전트 직원이 업무를 더 잘 수행할 수 있는지 결정해야 합니다. 이제 관리자가 팀에 5명의 직원과 5명의 디지털 상담원을 둔 상황을 상상해 보세요. 확실히 그러한 상황은 더 많은 마찰을 의미할 것 같습니다. 좋은 관리자에 대한 정의가 바뀔 것입니다.

하지만 어떤 직업이 대체되는지에 따라 다릅니다. 많은 직업과 역할이 싫어집니다. 경력 초기에 우리 모두는 가장 싫어하는 작업을 맡게 되는 경우가 많습니다. 에이전트에게 가는 직업을 애도하는 사람이 있을까요? 마찬가지로 많은 업무가 내부 관리자에 의해 일상적으로 관리되지 않는 계약자나 아웃소싱 업체에 의해 수행됩니다.

나는 임시직, 임시직, 계약직 및 아웃소싱 근로자가 에이전트 직원을 사용하여 실험할 첫 번째 역할 중 일부가 될 것이라고 생각합니다. 그러나 에이전트 직원이 모두가 열망하는 직무를 대체하고 해당 역할로 승진을 희망하는 직원을 뛰어넘는다면 어떻게 될까요? 그러면 관리자의 일은 매우 고통스러워집니다.

내 생각에는 에이전트가 관리자와 직원에게 미치는 영향은 모두 도입 속도에 달려 있습니다. Klarna처럼 회사가 2년 이내에 직원의 50%를 교체하기로 결정하면 투자자와 경영진에게는 좋지만 직원과 관리자에게는 고통스러울 가능성이 높습니다. 그것이 10년에 걸쳐 일어난다면, 그것은 매우 다릅니다. 지금은 슈퍼마켓의 셀프 계산대에 의문을 제기하는 사람이 없습니다. 하지만 출시되기까지 10년이 걸렸습니다. 따라서 경영진의 행복과 불만은 실행 속도에 달려 있을 것으로 예상됩니다.

This article was co-authored by Ed Thompson, who is a senior vice president of market strategy at Salesforce, andMichael Maoz, who is senior vice president of innovation strategy atSalesforce.