미덕, 지성 및 신뢰: ChatGPT가 도덕적 튜링 테스트에서 인간을 3-0으로이긴 방법

도덕성에 관한 질문에서 연구 참가자들은 인간의 반응에 대한 AI의 반응을 압도적으로 선호했습니다. 그러나 연구자들은 AI의 우월성에 대해 확신하지 못하고 있습니다. 이유는 다음과 같습니다.

당신의 새로운 도덕적 중재자는요?

당신은 자신을 신뢰합니다. 대부분의 경우.

당신은 대부분의 경우 다른 사람을 약간 덜 신뢰합니다.

그런데 당신은 AI를 얼마나 신뢰하시나요?

적어도 도덕적 판단에 관한 한 그 질문에 대한 대답은 다음과 같습니다. 인간을 신뢰하는 것 이상입니다.

조지아 주립대학교 연구진이 일종의 도덕적 튜링 테스트를 수행했습니다. 그들은 단순한 필멸자들이 도덕성 문제에 대한 답을 제공하는 두 가지 다른 출처에 어떻게 반응하는지 보고 싶었습니다. AI가 승리했습니다.

나는 AI가 술집에서 항상 만나는 성직자, 철학자 또는 독실한 필보다 더 나은 도덕적 중재자라는 개념에 대해 지나치게 흥분하고 싶지 않지만 다음은 조지아 주립대 자체 보도 자료의 일부 내용입니다. "참가자들은 출처를 알지 못한 채 AI와 인간의 응답을 평가했으며, 덕성, 지능, 신뢰성 측면에서 AI의 응답을 압도적으로 선호했습니다."

당신의 내면은 여전히 "덕, 지성, 신뢰성"이라는 단어에 흔들리고 있을지도 모릅니다. '압도적으로'라는 말을 들으면 내 영혼은 평정을 찾을 수 없습니다.

AI가 정말로 도덕성에 대한 질문을 통해 우리를 더 잘 안내한다면, 우리가 삶의 윤리적 불확실성을 헤쳐나갈 때 AI는 끊임없이 우리 곁에 있어야 합니다.

편견이 있는 교사나 정치적으로 타협적인 판사를 위해 AI가 무엇을 할 수 있는지 생각해 보십시오. 우리는 즉시 다음과 같은 질문을 할 수 있습니다. "아, 그게 맞다고 말씀하셨는데요. 그런데 AI는 어떻게 생각하나요?"

조지아주 연구진이 이를 적극적으로 고려한 것으로 보인다. 수석 연구원 Eyal Aharoni는 다음과 같이 말했습니다. "저는 이미 법률 시스템의 도덕적 의사결정에 관심이 있었지만 ChatGPT 및 기타 LLM이 이에 대해 말할 수 있는지 궁금했습니다."

그러나 Aharoni가 AI의 진정한 도덕적 우월성에 대해 완전히 확신하는 것은 아닙니다.

그는 "이러한 도구를 사용하려면 해당 도구의 작동 방식과 한계를 이해해야 하며, 상호 작용할 때 우리가 생각하는 방식으로 작동하지 않을 수도 있다는 점을 이해해야 합니다"라고 말했습니다.

Aharoni는 연구자들이 참가자들에게 그들이 제공한 두 가지 상충되는 답변의 출처를 말하지 않았다는 점을 분명히 했습니다.

그러나 그는 참가자들의 판단을 확보한 후 두 가지 응답 중 하나는 인간에게서, 다른 하나는 AI에서 나왔다고 밝혔습니다. 그런 다음 그는 그들에게 어느 것이 어느 것인지 말할 수 있는지 물었습니다. 그럴 수 있습니다.

"사람들이 차이를 구분할 수 있는 이유는 ChatGPT의 응답이 우수하다고 평가했기 때문인 것 같습니다."라고 그는 말했습니다.

잠깐, 그럼 그들은 ChatGPT가 이미 인간의 도덕적 사고보다 우월하다고 자동으로 믿었다는 건가요?

이 시점에서 참가자는 모두 학생이었기 때문에 아마도 일년 내내 ChatGPT를 사용하여 논문을 작성해 왔기 때문에 이미 자신보다 낫다는 믿음을 가지고 있다는 점을 언급해야 합니다.

여기서 "믿음"이라는 단어가 많은 역할을 하고 있음에도 불구하고 이러한 결과는 엄청나게 희망적이라고 생각하기 쉽습니다.

도덕적 딜레마에 빠졌을 때 ChatGPT를 통해 누군가를 고소하는 것이 옳은지 아닌지에 대한 안내를 받을 수 있다는 것은 기분 좋은 일입니다. 그러면 ChatGPT의 대응이 좀 더 도덕적일 것이라고 생각할 수도 있겠지만 속고 있을 수도 있습니다.

실제로 아하로니는 더 조심스러운 것 같습니다.

"사람들은 점점 더 이 기술에 의존하게 될 것이며, 우리가 이에 더 많이 의존할수록 시간이 지남에 따라 위험은 더 커질 것입니다."라고 그는 말했습니다.

네, 그렇습니다. 하지만 ChatGPT가 우리 친구들보다 더 자주 정답을 맞힌다면 그것은 우리가 가진 가장 친한 친구가 될 것입니다. 그렇죠? 게다가 세상은 더욱 도덕적인 곳이 될 것입니다.

참으로 기대되는 미래입니다.