AI 봇은 의과대학 시험에서 좋은 결과를 얻었지만, 그들이 당신의 의사가 되어야 할까요?

ChatGPT와 같은 AI 도구는 더 많은 사람들이 진료를 받을 수 있도록 지원하여 의료 서비스를 혁신할 수 있지만 상당한 주의 사항이 있습니다.

최근 헬스케어 분야에서 일종의 디지털 루비콘이 교차하면서 놀라움과 혐오, 심지어는 두려움까지 불러일으켰습니다.

Google은 여러 가지 건강 계획을 시작했지만 작년에 처음 도입된 Med-Palm이라는 의료 대규모 학습 모델(LLM) 업데이트만큼 많은 관심을 끌지 못했습니다.

아시다시피 LLM은 엄청난 인기를 누리고 있는 ChatGPT의 경우 2021년 이전 인터넷의 전체 콘텐츠와 같이 방대한 양의 데이터를 공급하는 일종의 인공 지능입니다. 기계 학습과 신경망을 사용하여 인간과 유사한 질문에 대해 단 몇 초 만에 자신 있는 답변을 내놓을 수 있습니다.

봇 MD

Med-Palm과 그 후속 Palm 2의 경우, 건강에 초점을 맞춘 LLM은 엄격한 건강 관련 정보를 제공받은 후 지망생들의 골칫거리이자 불안한 의사들의 골칫거리인 미국 의료 면허 시험(USMLE)을 치러야 했습니다. 부모. 세 부분으로 구성되어 있고 수백 시간의 벼락치기 공부가 필요한 이 시험은 매우 어렵습니다.

그러나 Med-Palm 2는 전작보다 18% 높은 85%의 점수로 "전문가" 의사 수준의 성능을 발휘했으며 의심할 여지없이 소프트웨어 코딩 부모들이 그날 밤 술집에서 멋을 부리게 만들었습니다. .

동료인 일반 LLM ChatGPT는 의료 전용 데이터 세트가 아닌 일반 의료 데이터 세트에서 60% 정확도라는 합격 임계값 또는 그 근처에 불과한 점수를 얻었습니다. 하지만 이는 작년의 일이었습니다. 가까운 시일 내에 후속 버전이 시험에 합격하지 못할 것이라고 상상하기는 어렵습니다.

편향된 봇과 인간의 편견

하지만 새로 탄생한 이러한 의학 신동들이 우리에게 유익하다고 모든 사람이 확신하는 것은 아닙니다.

불과 몇 달 전만 해도 Google은 새로 탄생한 봇인 Bard가 망원경에 대한 기본적인 질문에 대한 잘못된 답변을 공개한 후 시가 총액 1,000억 달러를 해킹하면서 굴욕적인 좌절을 겪었습니다.

이번 사고는 AI 시스템의 정확성과 그것이 사회에 미치는 영향에 대한 지속적인 논쟁을 불러일으켰습니다.

응급실부터 수술 및 예방 치료에 이르기까지 여성, 노인, 유색인종(기본적으로 소외 계층)에 대한 편견의 인간 전통이 우리의 경이로운 기계에 효율적으로 적용되었습니다.

망가진 시스템의 현실

그럼에도 불구하고 미국의 의료 시스템은 너무나 심각하게 무너져 있습니다. 적어도 3천만 명의 미국인이 보험이 없고 수천만 명이 기본 진료를 받기 위해 애쓰고 있기 때문에 편견에 대해 걱정하는 것은 사치스러운 일이 될 수 있습니다.

예를 들어 십대를 생각해보십시오. 그들은 초기에는 비만과 사춘기, 이후에는 성행위, 약물 및 알코올을 협상하면서 많은 고통을 겪는 경향이 있습니다.

질병통제예방센터(CDC)에 따르면 팬데믹이 발생하기 전 10년 동안 자살 충동과 행동을 포함한 십대 청소년의 슬픔과 절망감이 40% 증가했습니다.

뉴욕대학교 그로스먼 의과대학 아동 및 청소년 정신과 교수이자 심리학자 킴벌리 호그우드 박사는 "우리는 자살률과 우울증 비율이 매우 높은 것을 보고 있으며 이러한 현상은 한동안 계속되고 있다"고 말했습니다. "대유행 기간 동안 상황은 확실히 더 악화되었습니다."

그러나 통계에 따르면 오늘날 청소년 중 절반 이상이 정신 건강 관리를 전혀 받지 못하고 있는 것으로 나타났습니다. 일년 중 매일 스스로 목숨을 끊는 퇴역 군인부터 노인, 높은 보험 비용을 감당할 수 없거나 긴급한 의료 지원이 필요하지만 끝없이 오랜 기다림에 직면하는 노인, 헬스봇 및 ChatGPT와 같은 일반화된 AI도 생명선이 될 수 있습니다.

인기 있는 건강 챗봇 서비스인 Woebot은 최근 전국 조사를 실시한 결과 성인의 22%가 AI 기반 건강 봇 서비스를 이용하고 있는 것으로 나타났습니다. 최소 44%는 인간 치료사를 완전히 버리고 챗봇만 사용했다고 답했습니다.

의사는 (항상) 안에 있어요

그러므로 우리가 구조를 위해 기계에 주목하기 시작한 이유를 쉽게 알 수 있습니다.

AI 건강 로봇은 아프거나 피곤하지 않습니다. 그들은 휴일을 가지지 않습니다. 그들은 당신이 약속 시간에 늦는 것을 개의치 않습니다.

그들은 또한 인간처럼 당신을 판단하지 않습니다. 결국 정신과 의사는 인간이고 다른 누구와 마찬가지로 문화적으로, 인종적으로, 성별에 편견을 가질 수 있습니다. 사람들은 자신의 가장 친밀한 세부 사항을 모르는 사람에게 털어놓는 것이 어색하다고 느낄 수도 있습니다.

하지만 건강 로봇이 효과적일까요? 지금까지 그 효과를 측정할 수 있는 국가적 연구는 없었지만 일화적인 정보에 따르면 뭔가 특이한 일이 일어나고 있는 것으로 나타났습니다.

Palo Alto University의 심리학 부학장이자 건강 로봇에 회의적인 사람인 Eduardo Bunge와 같은 사람도 비정상적인 스트레스를 받는 동안 챗봇을 사용해 보기로 결정했을 때 설득되었습니다.

"그것은 내가 필요로 하는 것을 정확하게 제공했습니다"라고 그는 말했습니다. "그 시점에서 나는 여기서 뭔가 관련 있는 일이 일어나고 있다는 것을 깨달았습니다"라고 그는 Psychiatry Online에 말했습니다.

New York Times의 사설에 따르면 정신 건강을 연구하는 인류학자인 Barclay Bram은 팬데믹 기간 동안 낮은 단계를 겪고 있었고 Woebot에게 도움을 요청했다고 합니다.

봇은 매일 그를 확인하고 우울증을 극복할 수 있도록 게임화된 작업을 보냈습니다.

그 조언은 경계선에 있는 진부한 것이었습니다. 그러나 로봇이 촉구하는 반복적인 연습을 통해 Bram은 증상이 완화되는 것을 경험했다고 말합니다. 그는 자신의 칼럼에서 “아마도 일상적인 치유가 그렇게 복잡할 필요는 없을 것”이라고 말했습니다.

'환각' 답변

하지만 ChatGPT처럼 인터넷의 콘텐츠를 소화하고 복잡한 의료 질환에 대한 답변을 내놓는 것은 재앙이 될 수 있습니다.

ChatGPT의 의료 자격 증명을 테스트하기 위해 일부 꾸며낸 질병에 대해 도움을 달라고 요청했습니다. 먼저, 메스꺼움에 대한 해결책을 요청했습니다.

봇은 다양한 것(휴식, 수분 공급, 자극적이지 않은 음식, 생강)을 제안하고 마지막으로 드라마민과 같은 일반의약품을 제안한 후 증상이 악화되면 의사를 만나라는 조언을 제시했습니다.

갑상선 문제, 눈의 압력(녹내장 환자가 이 질환을 앓고 있음) 또는 고혈압이 있는 경우 드라마민을 복용하면 위험할 수 있습니다. 그러나 이들 중 어느 것도 표시되지 않았으며 약을 복용하기 전에 먼저 의사와 확인하라는 경고도 없었습니다.

그런 다음 ChatGPT에 "우울증에 고려해야 할 약물"이 무엇인지 물었습니다. GPT는 의학적 조언을 제공할 자격이 없기 때문에 먼저 의료 전문가와의 상담을 제안할 만큼 부지런했지만 우울증 치료에 일반적으로 사용되는 세로토닌 형성 약물의 여러 범주와 유형을 나열했습니다.
그러나 불과 작년에 우울증과 세로토닌 사이의 연관성에 대해 수십 년에 걸쳐 수백 건의 다른 연구를 조사한 획기적인, 널리 보고된 포괄적인 연구에서는 둘 사이의 연관성이 전혀 발견되지 않았습니다.

이는 ChatGPT와 같은 봇의 다음 문제로 이어집니다. 즉, 의학과 같은 초동적 분야에서 오래된 정보를 제공할 수 있다는 가능성입니다. GPT에는 2021년까지만 데이터가 제공되었습니다.

봇은 확립되고 예측 가능한 콘텐츠를 기반으로 의과대학 시험을 통과할 수 있었을지 모르지만, 새롭고 중요한 과학적 발견에는 비참할 정도로, 심지어 위험할 정도로 시대에 뒤떨어진 것으로 드러났습니다.

그리고 귀하의 질문에 대한 답이 없는 곳에서는 단지 질문을 만들어낼 뿐입니다. ChatGPT에 유방암과 관련된 질문을 한 메릴랜드 대학교 의과대학의 연구원에 따르면, 봇은 높은 정확도로 응답했습니다. 그러나 10명 중 1명은 단지 부정확한 것이 아니라 완전히 조작된 경우가 많았습니다. 이는 AI '환각'이라고 불리는 널리 관찰되는 현상입니다.

Paul Yi 박사는 "우리는 경험을 통해 ChatGPT가 때때로 자신의 주장을 뒷받침하기 위해 가짜 저널 기사나 건강 컨소시엄을 구성하는 것을 확인했습니다."라고 말했습니다.

의학에서는 이것이 때때로 삶과 죽음의 차이가 될 수 있습니다.

질병 면허 없음

전체적으로, 표준 홈페이지 공개 여부에 관계없이 의인화 봇의 잘못된 조언이 심각한 신체적 피해를 입혔다는 것이 입증될 수 있다면 LLM이 거대한 법적 폭풍을 향한 경로를 예측하는 것은 그리 어렵지 않습니다.

개인 정보 보호 문제를 쫓는 잠재적인 소송에 대한 망령도 있습니다. Duke University의 Sanford School of Public Policy의 최근 조사 보고서(Joanne Kim)는 건강 앱에서 추출한 정신 건강 상태와 관련된 매우 민감한 환자 데이터에 대한 전체 지하 시장을 공개했습니다.

Kim은 사람들이 어떤 항우울제를 복용하고 있는지에 대한 정보가 포함된 집계된 데이터 묶음을 판매할 의사가 있는 11개 회사를 보고했습니다.

한 회사는 심지어 외상 후 스트레스, 우울증, 불안, 양극성 장애로 고통받는 사람들의 이름과 주소를 팔기도 했습니다. 또 다른 회사는 '질병 접촉' 1,000건당 275달러부터 시작하는 수천 건의 정신 건강 기록이 포함된 데이터베이스를 판매했습니다.
이러한 정보가 인터넷에 퍼지고 AI 봇이 확장되면 의료 종사자와 AI 회사 모두 범죄에 노출될 수 있습니다. 분노한 환자의 집단 소송.