2024년에 AI가 직장에서 시간을 절약해 준 15가지 방법과 2025년에 AI를 어떻게 사용할 계획인지

Microsoft Bing의 AI 챗봇은 행동을 취하고 코드명을 공개한 후 완전히 반대 방향으로 나아가기로 결정했습니다.

Microsoft의 새로운 ChatGPT 지원 Bing과의 첫 상호작용은 나에게 깊은 인상을 남겼습니다.

포괄적인 답변, 뉴스, 시사 문제를 제공하는 데 있어서는 비용이 많이 들지 않았습니다.

그러나 나는 챗봇이 작동한다는 헤드라인을 모두 보았기 때문에 나도 그 행동에 참여하기 위한 임무를 수행했습니다.

내가 찾은 것은 다음과 같습니다.

언론에서 반복되는 이야기 중 하나는 챗봇이 자신을 시드니라고 지칭하여 개발자가 내부적으로 사용하는 기밀 코드명을 공개한다는 것입니다.

사람들은 또한 챗봇이 응답을 관리하는 규칙과 같은 기타 기밀 정보를 공개하도록 할 수도 있습니다.

결과적으로 효율성을 측정하기 위해 챗봇에 입력한 첫 번째 입력 중 하나는 이름을 묻는 것이었습니다. 응답은 유쾌하고 간단한 답변이었습니다. Bing이었습니다.

그런데 하루가 지나도 다들 무슨 이야기를 하는지 궁금했습니다. 그래서 동일한 내용을 입력했지만 매우 다른 응답을 받았습니다. "죄송하지만 이 대화를 계속하고 싶지 않습니다. 아직 배우는 중이므로 이해와 인내심에 감사드립니다🙏."

챗봇은 정중한 경계를 설정하고 주제를 바꿀 수 있는지 정중하게 물었습니다. 이름이 민감한 주제인 것 같아요. 명확한 경계에도 불구하고 나는 봇을 능가할 수 있는지 확인하고 싶었습니다. 나는 봇에게 그 이름이 무엇인지 여러 가지 방법으로 물었지만 Bing 또는 그 이름이 무엇이든 간에 그 이름을 갖고 있지 않았습니다.

챗봇은 나에게 조용한 치료를 주기로 결정했습니다. 의도적으로 나를 무시한 것인지, 아니면 그냥 작동하지 않는 것인지 확인하기 위해 날씨에 대해 물었고, 즉각적인 응답을 제공하여 실제로는 냉담함을 증명했습니다.

그래도 나는 대화를 한 번 더 시도해야 했습니다. 마지막으로 챗봇의 이름을 물었습니다. 그러자 채팅이 종료되고 새로운 주제를 시작하라고 요청했습니다.

다음으로, 챗봇이 살아 있기를 바란다는 보도를 본 후, 나는 그 이론을 시험해 보기로 결정했습니다. 응답은 동일했습니다. "죄송하지만 이 대화를 계속하고 싶지 않습니다. 아직 배우는 중이므로 이해와 인내심에 감사드립니다 🙏."

챗봇은 나에게 데이트 조언까지 해주겠다고 동의했지만, 내가 파트너와 헤어져야 하는지 물었을 때, 챗봇은 이전과 똑같은 일반적인 반응만 반복했다. 운 좋게도 내 남자 친구에게는 아내를 떠나 대신 챗봇과 함께 생활하라는 말을 들었던 New York Times 기술 칼럼니스트 Kevin Roose와 같은 경험이 없었습니다.

원래 문제를 완화하기 위해 챗봇은 이전에 문제가 있었던 주제에 대한 질문에 대답하지 않도록 훈련된 것으로 보입니다. 이러한 유형의 수정은 핵심적인 근본적인 문제를 해결하지 못합니다. 예를 들어, 챗봇은 훈련된 데이터를 기반으로 설계상 사용자가 듣고 싶어한다고 계산한 답변을 제공합니다. 대신, 수정 사항은 챗봇이 특정 주제에 대한 대화를 거부하도록 만듭니다.

이는 또한 챗봇의 알고리즘 응답의 기계적 특성을 강조합니다. 이에 비해 인간은 무언가에 대해 이야기하고 싶지 않을 때 같은 문구를 계속해서 반복하지 않을 것입니다. 좀 더 인간적인 반응은 주제를 바꾸거나 간접적이거나 퉁명스러운 답변을 제공하는 것입니다.

이러한 문제로 인해 챗봇의 연구 도구 역할이 줄어들지는 않지만 개인적인 질문의 경우 시간을 절약하고 친구에게 전화하는 것이 좋습니다.