FTC는 사용자에게 해를 끼칠 수 있는 가능성이 있는지 ChatGPT 제조사 OpenAI를 조사합니다. 당신이 알아야 할 사항은 다음과 같습니다

정부 기관은 OpenAI에게 사용자 데이터가 수집, 활용 및 보호되는 방법에 대한 세부 정보를 제공하도록 요청하고 있습니다.

OpenAI의 ChatGPT는 출시 이후 엄청난 인기를 얻었으며 역대 가장 빠르게 성장하는 애플리케이션이 되었습니다. 이렇게 많은 사용자가 있기 때문에 사용자 데이터가 어떻게 수집, 활용, 보호되는지에 대한 의문이 제기되었습니다. 이제 연방거래위원회(FTC)에서는 답변을 원합니다.

워싱턴 포스트(Washington Post)에서 입수한 20페이지 분량의 FTC 문서에서 정부 기관은 OpenAI에 OpenAI의 사용자 데이터 처리 및 ChatGPT의 허위 진술 출력에 중점을 두고 대규모 언어 모델의 거의 모든 측면에 대한 문서를 제시하도록 요청했습니다.

문서에 따르면 FTC는 OpenAI가 "불공정하거나 기만적인 개인 정보 보호 또는 데이터 보안 관행"에 관여하고 있는지 또는 소비자에게 해를 끼칠 위험이 있는 "기만적인 관행"에 관여하고 있는지 조사하고 있습니다.

FTC는 OpenAI가 데이터를 얻는 방법, 해당 데이터를 사용하여 모델을 훈련하는 방법, 위험과 안전을 평가하기 위한 절차에 대한 자세한 설명을 찾고 있습니다.

또한 FTC는 LLM이 실제 개인에 대해 "허위, 오해 또는 비방" 진술을 생성할 위험을 완화하기 위해 어떤 조치를 취했는지 공개하도록 OpenAI에 요청하고 있습니다.

이러한 조사는 OpenAI에 대한 우려를 불러일으키고 심지어 소송을 촉발한 ChatGPT와 관련된 여러 사건에 이어 이루어졌습니다.

예를 들어, 3월 20일에는 ChatGPT 사용자의 대화와 가입자 결제 정보가 노출된 데이터 유출이 발생했습니다. 이 침해 사고는 AI 도구 사용의 잠재적 위험을 부각시켰으며 심지어 금지 조치가 해제되었지만 이탈리아에서는 ChatGPT 전체를 금지하게 되었습니다.

다른 사례로는 OpenAI를 상대로 제기된 두 건의 집단 소송이 있습니다. OpenAI에 대한 소송 중 하나는 AI 회사가 자사 제품을 교육하고 개발하기 위해 고객으로부터 "훔친 데이터"를 사용해 왔다고 주장합니다.

다른 소송은 ChatGPT의 환각과 사람들에 대한 허위 진술을 생성하는 능력과 관련이 있습니다. OpenAI의 첫 번째 명예훼손 사건에서 조지아 라디오 진행자는 ChatGPT가 자신에 대한 허위 정보를 유포하고 돈을 횡령했다고 비난한 사실을 확인한 후 OpenAI를 고소했습니다.