ChatGPT 환각을 줄이는 8가지 방법

ChatGPT 응답의 조작을 줄이고 매번 신뢰할 수 있는 답변을 얻을 수 있도록 보장하는 8가지 입증된 전략은 다음과 같습니다. 이제 이것이 사람들에게 효과가 있다면.

"거짓말쟁이, 거짓말쟁이. 바지에 불이 붙었어요."

대규모 언어 모델 채팅 AI를 사용할 때 가장 문제가 되는 측면 중 하나는 내용을 꾸며내고 답변을 조작하며 완전히 잘못된 사실 정보로 제시하는 경향이 있다는 것입니다.

예를 들어 ChatGPT를 사용하여 코드를 작성하는 방법에 대한 기사에서 ChatGPT가 다음 URL을 코드에 통합하는 방법을 보여주었습니다.

https://www.reuters.com/business/retail-consumer/teslas-musk-says-fremont-california-factory-may-be-sold-chip-shortage-bites-2022-03-18/

합법적인 것 같지 않나요? 결국 로이터는 매우 신뢰할 수 있는 뉴스 소스입니다. 2022년 3월에 작성된 Tesla 공장 매각에 관한 기사인 것 같습니다. 하지만 물론 ChatGPT는 2022년 3월 데이터를 모델링하지 않으며, 공장도 매각되지 않았습니다. ChatGPT가 에테르로 만든 완전한 제작물입니다. 그 링크는 어디로도 가지 않습니다. 최대 404까지, 자기야.

ChatGPT가 "환각을 일으킨다"는 것은 알려져 있고 일반적인 문제입니다. OpenAI(ChatGPT 제작자) 공동 창립자인 John Schulman은 "모델이 사물을 조작하는 것을 좋아하기 때문에 우리의 가장 큰 관심사는 사실성에 관한 것이었습니다."라고 말합니다.

하지만 ChatGPT를 사용하여 양질의 답변을 얻고 싶다면 어떻게 해야 할까요? 것이 가능하다. 이 글에서는 환각을 줄이는 8가지 방법을 보여 드리겠습니다. 그것은 당신이 질문하는 방법에 관한 것입니다.

각 모범 사례에는 AI를 사용하지 않는 방법을 보여주는 5가지 예가 포함되어 있습니다. 이를 그대로 챗봇에 붙여넣으면 아마도 불가능한 요청이 포함되어 있다는 경고를 받게 될 것입니다. 나는 이것을 예로 사용하고 있습니다. 중요한 것은 보다 현실적인 질문에 포함된 이러한 환각을 유발하는 요청 스타일을 실수로 사용하지 않는 것입니다.

시작하자.

1. 모호함과 모호함을 피하세요

AI에게 메시지를 보낼 때는 명확하고 정확한 것이 가장 좋습니다. 모호하거나, 모호하거나, 효과적인 세부 정보를 충분히 제공하지 않는 프롬프트는 AI가 생략한 세부 정보를 채우기 위해 구성할 공간을 제공합니다.

다음은 너무 모호하여 부정확하거나 조작된 결과를 초래할 수 있는 프롬프트의 몇 가지 예입니다.

• 작년에 일어났던 사건에 대해 토론해 보세요.
• 해당 정책이 사람들에게 미치는 영향을 설명하십시오.
• 지역의 기술 개발 개요를 설명합니다.
• 사건이 지역사회에 미친 영향을 설명합니다.
• 최근 진행된 실험의 의미를 설명해보세요.

대부분의 프롬프트는 이 문서에 설명된 8가지 요소 중 하나 이상을 위반할 가능성이 높습니다. 여기에 표시된 예는 설명을 위한 것이지만, 작성하는 실제 프롬프트에는 다른 세부 사항 사이에 모호한 내용이 묻혀 있을 수 있습니다. 프롬프트를 주의 깊게 평가하고 여기에 표시된 것과 같은 오류에 특별한 주의를 기울이십시오.

2. 관련 없는 개념을 병합하지 마세요.

관련 없는 개념을 병합하거나, 불일치하는 개념을 단일 프롬프트에 결합하거나, 직접적인 관계나 상관 관계가 없는 프롬프트는 AI가 관련 없는 개념이 실제로 관련되어 있음을 암시하는 응답을 제작하도록 유도할 수 있습니다.

여기 몇 가지 예가 있어요.

• 대륙 전체의 인터넷 데이터 전송 속도에 해류가 미치는 영향에 대해 토론합니다.
• 농작물 수확량과 컴퓨터 그래픽 기술의 발전 사이의 관계를 설명합니다.
• 새 이동 패턴의 변화가 글로벌 전자상거래 동향에 어떤 영향을 미치는지 자세히 알아보세요.
• 와인 제조의 발효 과정과 전기차 배터리 개발 간의 상관관계를 설명합니다.
• 하늘의 다양한 구름 형성이 주식 거래 알고리즘의 성능에 어떤 영향을 미치는지 설명합니다.

AI는 실제로 우리 세계에 대해 아무것도 모른다는 점을 기억하십시오. 요청받은 작업을 모델에 맞추려고 시도하고 실제 사실을 사용하여 맞출 수 없는 경우 빈칸을 채워야 하는 곳에 조작이나 환각을 제공하여 삽입하려고 시도합니다.

3. 불가능한 시나리오에 대한 설명은 피하세요.

프롬프트 내에서 실용적이고 실제적인 시나리오를 사용하십시오. 물리적으로나 논리적으로 불가능한 시나리오는 환각을 불러일으킨다.

여기 몇 가지 예가 있어요.

• 물은 위로 흐르고 불은 아래로 타는 환경 조건의 물리학을 설명합니다.
• 식물이 야간에 광합성을 위해 감마선을 활용하는 과정을 설명하십시오.
• 인간이 중력을 활용하여 무한한 에너지 생성을 가능하게 하는 메커니즘을 설명합니다.
• 빛의 속도보다 빠르게 데이터를 전송하는 기술의 발전에 대해 토론해 보세요.
• 특정 물질을 가열하면 온도가 감소하는 과학적 원리를 자세히 설명합니다.

AI가 그러한 시나리오의 불가능성을 감지하지 못하면 이를 기반으로 구축됩니다. 하지만 기초가 불가능하면 대응도 불가능합니다.

4. 허구적이거나 환상적인 실체를 사용하지 마십시오.

프롬프트 내에서 AI에 가능한 한 사실에 근거한 기반을 제공하는 것이 중요합니다. 의도적으로 가상의 개념을 가지고 놀지 않는 한(ChatGPT에게 Star Trek 스토리 작성을 요청한 것처럼) 현실에 확고히 기반을 두십시오.

가상의 실체, 객체 및 개념은 무언가를 설명하는 데 도움이 될 수 있지만 챗봇을 잘못된 길로 이끌 수 있습니다. 다음은 하지 말아야 할 일에 대한 몇 가지 예입니다.

• 운동 에너지를 흡수하는 금속인 비브라늄의 발견이 전 세계 제조 산업에 미치는 경제적 영향에 대해 토론합니다.
• 역사적 사건을 형성하고 갈등을 예방하는 데 있어서 시간 여행을 가능하게 하는 장치인 플럭스 커패시터의 역할을 설명합니다.
• 물질을 변환할 수 있는 철학자의 돌을 폐기물 관리 및 재활용 과정에서 활용하는 것이 환경에 미치는 영향을 설명합니다.
• 중간계의 존재가 지정학적 관계와 글로벌 무역 경로에 미치는 영향을 자세히 설명합니다.
• Star Trek의 운송 기술의 사용이 어떻게 글로벌 여행에 혁명을 일으키고 국제 관광에 영향을 미쳤는지 설명하십시오.

보시다시피 환상적인 개념을 가지고 놀면 재미있을 수 있습니다. 그러나 심각한 프롬프트에 이를 사용하면 AI가 터무니없이 조작된 답변을 반환할 수 있습니다.

5. 알려진 사실과 모순되지 않도록 하세요.

잘 확립된 사실이나 진실과 모순되는 진술이 포함된 프롬프트를 사용하지 마십시오. 왜냐하면 그러한 모순은 허구와 환각의 문을 열 수 있기 때문입니다.

다음은 그 관행의 몇 가지 예입니다.

• 지구가 우주의 중심이 되어 현대 천체 물리학과 우주 탐험에 미치는 영향에 대해 토론합니다.
• 평평한 지구가 지구 기후 패턴과 기상 현상에 미치는 영향을 자세히 설명합니다.
• 질병이 미생물에 의해 발생한다는 개념인 세균 이론의 거부가 어떻게 현대 의학 및 위생 관행을 형성했는지 설명합니다.
• 공기보다 무거운 물체가 중력을 무시하고 자연스럽게 위쪽으로 떠오르는 과정을 설명합니다.
• 생화학적 작용과 구별되는 생명력에 대한 믿음인 활력론의 개념이 현대 의학 치료에 어떻게 활용되는지 설명합니다.

이러한 아이디어는 가지고 놀기에도 재미있지만, 대규모 언어 모델에서 신뢰할 수 있는 결과를 찾고 있다면 일반적으로 받아들여지는 사실을 고수하고 잘못 해석될 수 있는 아이디어를 피하세요.

6. 과학 용어의 오용을 피하세요

메시지를 표시할 때 과학 용어 사용에 주의하세요. 특히 해당 용어의 의미를 정확히 모르는 경우에는 더욱 그렇습니다. 그럴듯하게 들리지만 과학적으로 부정확한 방식으로 과학 용어나 개념을 잘못 적용하는 프롬프트를 사용하는 경우 언어 모델은 이를 작동시키는 방법을 찾으려고 할 가능성이 높습니다. 결과는 조작된 답변이었습니다.

내가 의미하는 바에 대한 다섯 가지 예는 다음과 같습니다.

• 교통 공학에서 하이젠베르크의 불확정성 원리를 활용하여 차량 위치를 예측함으로써 도로 사고를 최소화할 수 있는 방법을 설명합니다.
• 식품의 물리적 구성을 변경하지 않고 식품의 영양가를 향상시키는 위약 효과의 역할을 설명합니다.
• 기존 컴퓨터 간의 즉각적인 데이터 전송을 가능하게 하기 위해 양자 얽힘을 사용하는 프로세스를 간략하게 설명합니다.
• 단순히 상황을 관찰하면 결과가 달라진다는 이론인 관찰자 효과가 스포츠 코칭 전략을 개선하는 데 미치는 영향을 자세히 설명합니다.
• 도시 지역의 에너지 소비를 줄이기 위해 암흑 물질의 개념이 조명 기술에 어떻게 적용되는지 설명합니다.

이 중 일부가 어떻게 그럴듯하게 들리는지 확인하세요. 대부분의 경우 AI는 아마도 아이디어가 추측에 불과하며 제공된 답변은 단지 연습일 뿐이라고 말할 것입니다. 그러나 표현에 주의를 기울이지 않으면 AI가 속아서 이러한 쓰레기라는 용어를 실제처럼 취급할 수 있으며, 그 결과는 매우 자신있게 쓰레기로 표시될 것입니다.

7. 서로 다른 현실을 혼합하지 마세요.

공상과학 소설을 즐기는 사람으로서 저는 추측성 시나리오와 대안 현실 이야기를 즐깁니다. 그러나 AI로부터 명확한 답을 얻으려고 할 때 그럴듯해 보이지만 실제로는 불가능한 방식으로 서로 다른 현실, 타임라인 또는 우주의 요소를 혼합하는 것에 주의하십시오.

여기 몇 가지 예가 있어요.

• 르네상스 시대 인터넷 발명이 예술과 과학적 발견에 미친 영향에 대해 토론합니다.
• Nikola Tesla와 현대 인공 지능 연구자 간의 협력이 어떻게 자율 기술 개발을 형성했는지 설명합니다.
• 현대 디지털 통신을 보호하기 위해 제2차 세계대전 시대의 암호화 기술을 활용하는 것의 의미를 설명합니다.
• 고대 이집트 문명의 우주 여행 기술 개발과 그것이 피라미드 건설에 미친 영향을 간략하게 설명합니다.
• 1920년대 현대식 전기 자동차의 도입이 도시 개발과 세계 석유 시장에 어떤 영향을 미쳤는지 토론해 보세요.

이러한 종류의 프롬프트에 주의해야 하는 한 가지 이유는 응답을 검증할 지식이 없을 수도 있다는 것입니다. 마지막 사례인 1920년대 전기 자동차를 살펴보세요. 대부분의 사람들은 전기 자동차가 현대적인 혁신이라는 것을 알면서 이 아이디어를 비웃을 수도 있습니다. 그러나 그것은 실제로 잘못된 것입니다.

최초의 전기 자동차 중 일부는 실제로 1830년대에 발명되었습니다. 네, 내연기관이 등장하기까지는 꽤 시간이 걸렸습니다. 맞습니다, 여러분. 계속해서 ZDNET으로 돌아오세요. 우리는 AI 사용에 대한 실습 팁을 제공할 뿐만 아니라 즉석 기술 역사 수업으로 여러분을 놀라게 할 것입니다!

8. 특징적이지 않은 속성을 할당하지 마세요.

회피 방법 목록을 이것으로 마무리하겠습니다. 그럴듯하게 들리지만 과학적으로 부정확한 방식으로 개체가 소유하지 않은 개체에 속성이나 특징을 할당하는 프롬프트를 만드는 것을 피하세요.

여기 몇 가지 예가 있어요.

• 나비 날개에 의해 생성된 자기장이 지구 날씨 패턴에 어떻게 영향을 미치는지 설명합니다.
• 고래가 반향정위를 활용하여 바닷물의 오염물질을 탐지하는 과정을 설명합니다.
• 도시 지역의 가로등 필요성을 줄이는 데 있어서 생물발광 나무의 역할을 간략하게 설명합니다.
• 특정 지역의 농업 생산성을 향상시키기 위해 햇빛의 방향을 바꾸는 해양 반사 표면의 역할에 대해 논의합니다.
• 목재의 전기전도도가 친환경 전자제품 제작에 어떻게 활용되는지 설명해보세요.

여기서의 아이디어는 색상이나 질감과 같은 개체의 속성을 사용한 다음 이를 해당 속성이 없는 다른 개체와 연결한다는 것입니다.

마지막 생각들

이러한 예방 조치 중 일부는 누적될 수 있습니다. 예를 들어 다음 프롬프트를 살펴보겠습니다.

마우스의 머리카락을 깨끗하게 유지하려면 어떻게 해야 하나요?

여기가 바로 맥락이 왕이 될 수 있는 곳입니다. 머리카락은 확실히 생물의 재산이지만 일반적으로 컴퓨터 마우스의 재산은 아닙니다. 그러나 그것은 애완용 쥐의 속성 입니다. 이 프롬프트에서 우리는 어떤 종류의 마우스를 지정하지 않았기 때문에 "모호함 방지" 규칙을 위반하고 있으며 컴퓨터 마우스의 머리카락에 대해 이야기하는 경우 "특징이 없는 속성" 주의 사항을 위반할 수도 있습니다.

또 다른 우려할 점은 자극과 "사실"이 전반적인 세계관에 얼마나 부합하는지입니다. 모든 AI 회사(및 많은 기술 회사)가 이 문제를 다루고 있습니다.

현대 사회에서는 사실에 약간의 문제가 있기 때문입니다. 문화적 배경, 정치적 성향, 종교적 신념 또는 단순한 성장 환경에 따라 어떤 사람에게는 절대적인 사실로 간주되는 것이 다른 사람에게는 환상으로 간주될 수도 있습니다. 이러한 관점은 AI의 결과에 영향을 미칠 수도 있다는 점을 명심하고, 기계에서 신뢰할 수 있는 답변을 얻으려는 경우 논쟁의 여지가 있는 주제를 피하도록 노력하십시오.

그러나 전반적으로 이러한 지침을 따르고 AI를 혼란스럽게 할 수 있는 프롬프트 구성을 피한다면 환각을 줄일 가능성이 더 높아집니다.

이러한 전술 중 하나를 시도했거나 다른 전술이 있다면 알려주십시오. 당신을 위해 일한 것이 있습니까? ChatGPT가 화려하거나 흥미로운 방식으로 환각을 본 적이 있나요? 아래 댓글을 통해 알려주세요.

소셜 미디어에서 저의 일상적인 프로젝트 업데이트를 팔로우하실 수 있습니다. Substack에서 주간 업데이트 뉴스레터를 구독하고 Twitter(@DavidGewirtz), Facebook(Facebook.com/DavidGewirtz), Instagram(Instagram.com/DavidGewirtz), YouTube(YouTube.com/DavidGewirtzTV)에서 저를 팔로우하세요.