AI에 도전하려면 게으른 프롬프트 작성자가 아닌 대담한 마음이 필요하다고 은행 CIO는 말합니다.

구함: AI 생성 결과를 해석할 수 있는 관점과 기술을 갖춘 비판적 사상가. (ChatGPT에 지나치게 의존하는 분은 신청할 필요가 없습니다.)

선두 기업인 보스턴 컨설팅 그룹(Boston Consulting Group)의 2023년 보고서에서 Open AI의 GPT-4 도구를 사용하여 IT 컨설턴트의 생산성이 더 높아졌다는 사실이 밝혀진 후, 회사와 기타 업계 거대 기업은 수백만 달러에 대한 컨설팅 서비스를 유지하는 대신 ChatGPT를 무료로 사용해야 한다는 일부 평론가로부터 반발을 받았습니다. 불화.

그 이유는 다음과 같습니다. 고액 연봉 컨설턴트는 어쨌든 ChatGPT에서 답변이나 조언을 얻을 것이므로 제3자를 피하고 바로 ChatGPT로 가야 합니다.

개발자, 컨설턴트, 비즈니스 사용자 등 AI 집약적 직무에 채용하거나 채용을 희망하는 모든 사람에게 귀중한 교훈이 있습니다. 이 비판의 메시지는 기술이 제한적이거나 부족한 사람이라도 이제 AI를 사용하여 앞서 나가거나 자신이 최고인 것처럼 보일 수 있다는 것입니다. 이로 인해 경기장이 평준화되었습니다. AI가 제공하는 정보와 결과에 대해 관점과 비판적 사고를 제공할 수 있는 사람이 필요하다.

숙련된 과학자, 기술 전문가, 해당 분야 전문가라도 자신의 전문 지식이 아닌 결과물을 AI에 너무 많이 의존하는 함정에 빠질 수 있습니다.

Nature에 발표된 주제에 대한 연구에 따르면 "AI 솔루션은 또한 우리의 인지적 한계를 이용하여 우리가 실제보다 세상에 대해 더 많이 이해한다고 믿는 이해의 환상에 취약하게 만들 수 있습니다."라고 합니다.

정보를 비판적으로 검토하도록 훈련받은 과학자들조차도 기계가 생성한 통찰력의 매력에 빠지고 있다고 예일 대학의 리사 메서(Lisa Messer) 연구원과 프린스턴 대학의 M. J. 크로켓(M. J. Crockett)은 경고합니다.

"이러한 환상은 일부 유형의 방법, 질문 및 관점이 대체 접근 방식을 지배하게 되어 과학을 덜 혁신적이고 오류에 더 취약하게 만드는 과학적 단일문화의 형성을 볼 수 있는 과학계의 능력을 모호하게 합니다."라고 그들의 연구는 말했습니다.

Messer와 Crockett은 AI 윤리, 편견, 직업 대체에 대한 우려를 넘어서 AI를 전문 지식의 원천으로 과도하게 의존하는 위험이 이제 막 알려지기 시작했다고 말합니다.

주류 비즈니스 환경에서는 생산성 저하와 잘못된 신뢰로 인해 사용자가 AI에 과도하게 의존하는 결과가 발생합니다. 예를 들어, 사용자는 "AI 권장 사항에 맞춰 자신의 작업을 변경, 변경 및 전환할 수 있습니다"라고 Microsoft의 Samir Passi와 Mihaela Vorvoreanu는 해당 주제에 대한 연구 개요에서 관찰합니다. 또한 사용자는 "AI의 성능을 평가하고 AI가 자신의 결정에 어떤 영향을 미치는지 이해하는 것이 어렵다는 것을 알게 될 것입니다."

Esquire Bank의 최고 혁신 책임자인 Kyall Mai는 AI를 고객 참여를 위한 중요한 도구로 보고 인간의 경험과 비판적 사고를 대체하기 위해 AI를 과도하게 사용하지 말라고 경고합니다. Esquire Bank는 로펌에 전문 금융을 제공하며 비즈니스를 이해하고 AI가 비즈니스 발전을 위해 할 수 있는 작업을 이해하는 사람들을 원합니다. 저는 최근 Salesforce의 뉴욕 컨퍼런스에서 AI에 대한 자신의 경험과 관점을 공유한 Mai를 만났습니다.

코더에서 다각적인 CIO로 성장한 Mai는 AI가 아마도 가장 가치 있는 생산성 향상 도구 중 하나일 것이라고 주장하지 않습니다. 그러나 그는 콘텐츠든 코드든 생성 AI에 너무 많이 의존하면 사람들의 사고의 질과 선명도가 떨어질 것이라고 우려하고 있습니다.

"우리는 환상적인 두뇌와 결과를 갖는 것이 비판적 사고를 갖고 AI와 생성 AI가 권장 사항 측면에서 제공하는 것에 대해 자신의 관점을 제공하려는 사람만큼 반드시 좋은 것은 아니라는 것을 알고 있습니다."라고 그는 말합니다. "우리는 감정과 자기 인식을 가진 사람들이 '흠, 이건 좀 옳지 않은 것 같아. 나는 누군가와 대화를 나누고 그 루프에 인간이 있는지 확인할 만큼 용감합니다.'라고 말하기를 원합니다."

Esquire Bank는 생성과 예측이라는 AI의 두 가지 측면을 모두 수용하기 위해 Salesforce 도구를 사용하고 있습니다. 고객 참여와 IT 시스템을 모두 포괄하는 CIO 역할을 맡고 있는 Mai는 예측 AI가 은행의 의사 결정자에게 "어떤 변호사가 사이트를 방문하는지에 대한 통찰력을 제공하고 이러한 방문을 기반으로 서비스를 개인화하는 데 도움을 줍니다"라고 말했습니다.

완전 가상 은행인 Esquire는 마케팅 팀 전반에 걸쳐 많은 AI 시스템을 사용하여 생성적 AI 제공 콘텐츠와 백엔드 예측 AI 알고리즘을 융합합니다.

“경험은 사람마다 다릅니다.”라고 Mai는 말합니다. "그래서 우리는 AI를 사용하여 그들에게 전달될 다음 콘텐츠 세트가 무엇인지 예측하고 있습니다. 이는 특정 잠재 고객을 대상으로 우리가 무엇을 할 수 있는지에 대한 시스템 뒤의 모든 분석을 기반으로 합니다."

AI와 긴밀히 협력하면서 Mai는 인간 본성의 흥미로운 반전을 발견했습니다. 사람들은 이러한 시스템에 의존하게 되면서 자신의 판단과 근면을 무시하는 경향이 있습니다. "예를 들어, 우리는 일부 인간이 게으르다는 것을 발견했습니다. 그들은 무언가를 촉구한 다음 '아, 정말 좋은 반응이군요'라고 결정하고 그것을 보냅니다."

Mai가 AI에 대한 과도한 의존 수준을 감지하면 "나는 그들을 내 사무실로 데려가서 '나는 당신이 나를 데려갈 AI의 프롬프트와 응답이 아니라 당신의 관점에 대해 돈을 지불할 것입니다. 내가 원하는 것은 단지 결과를 받아 돌려주는 것이 아니라 여러분의 비판적인 생각을 기대하고 있습니다."

그럼에도 불구하고 그는 기술 팀원들에게 일상적인 개발 작업을 생성 AI 도구 및 플랫폼에 맡기고 비즈니스와 긴밀하게 협력할 수 있는 시간을 확보하도록 권장합니다. "코더들은 글쓰기에 소비한 시간의 60%가 반드시 혁신적이지는 않은 관리 코드에 사용되었다는 사실을 발견했습니다. AI는 음성 안내를 통해 이를 대신해 줄 수 있습니다."

그 결과, 그는 "전통적인 코더와 비즈니스 분석가 사이의 경계가 훨씬 더 많이 합쳐지는 것을 보고 있습니다. 왜냐하면 코더는 실제로 부가가치가 없는 일을 하는 데 엄청난 시간을 소비하지 않기 때문입니다. 이는 또한 비즈니스 분석가가 소프트웨어 개발자가 될 수 있어요."

"플랫폼 앞에 앉아 '나는 이것, 이것, 이것, 이것을 하는 시스템을 원한다'라고 말하면 그것이 그것을 할 수 있다면 흥미로울 것입니다."