AI 생성 코드에 오류가 발생하면 누가 가장 큰 책임을 지게 됩니까?

책임은 누구에게 있습니까? 제품 제조업체, 라이브러리 코더 또는 제품을 선택한 회사? 2부 분석에서는 재앙적인 결과가 발생할 경우 이 어려운 문제를 조사합니다.

두 부분으로 구성된 이 분석의 첫 번째 기사에서는 ChatGPT와 같은 AI 챗봇이 생성한 코드를 누가 소유하는지 살펴보고 AI 생성 코드 사용의 법적 의미를 탐색했습니다.

1부: 코드 소유자는 누구입니까? ChatGPT의 AI가 귀하의 앱 작성에 도움을 준다면 해당 앱은 여전히 귀하의 것입니까?

이제 책임과 노출 문제에 대해 논의하겠습니다.

기능적 책임

이 논의의 틀을 잡기 위해 저는 변호사이자 오랫동안 인터넷 언론 조합 회원으로 활동해 온 Richard Santalesa에게 도움을 요청합니다. 기술 저널리즘에 대한 배경 지식을 갖춘 Santalesa는 법적 관점과 기술 관점 모두에서 이러한 내용을 이해하고 있습니다. (그는 SmartEdgeLaw Group의 창립 멤버입니다.)

"이 질문에 대한 확실한 답을 찾기 위해 법원에서 소송이 진행될 때까지 AI 생성 코드의 법적 의미는 인간이 생성한 코드와 동일합니다."라고 그는 조언합니다.

그는 계속해서 인간이 생성한 코드에는 오류가 없다는 점을 명심해야 한다고 말했습니다. 코드가 완벽하다거나 사용자가 서비스를 중단 없이 사용할 수 있다고 보장하는 서비스 수준 계약은 결코 존재하지 않습니다.

Santalesa는 또한 소프트웨어의 모든 부분이 완전히 자체 제작되는 경우는 거의 없다고 지적합니다. "대부분의 코더는 개인적으로 조사하거나 분석하지 않았지만 그럼에도 불구하고 의존하는 SDK와 코드 라이브러리를 사용합니다."라고 그는 말합니다. "당분간은 AI가 생성한 코드가 법적 의미와 동일한 버킷에 속할 것이라고 생각합니다."

트롤을 보내세요

Yale Law School의 사이버 보안 강사이자 Yale Privacy Lab의 창립자인 Sean O'Brien은 개발자에게 있어서 부인할 수 없이 우려되는 위험을 지적합니다.

오픈 소스와 다양한 독점 코드의 방대한 저장소에 대해 교육을 받은 ChatGPT 및 Copilot과 같은 도구에 대해 이야기한다면 AI 프롬프트가 독점 코드를 출력할 가능성은 매우 높습니다.

챗봇을 훈련시키는 데 어떤 코드가 사용되었는지 정확히 알 수 없습니다. 이는 ChatGPT 및 기타 유사한 도구의 코드 출력 세그먼트가 AI에 의해 생성되었는지 아니면 단지 훈련 프로세스의 일부로 수집된 코드에서 에코되었는지 알 수 없음을 의미합니다.

당신이 개발자라면 이제 긴장을 풀 시간입니다. O'Brien의 예측은 다음과 같습니다.

나는 곧 특허 괴짜를 반영하는 트롤링의 전체 하위 산업이 나올 것이라고 믿습니다. 그러나 이번에는 AI 생성 작품을 중심으로 합니다. 더 많은 작성자가 AI 기반 도구를 사용하여 독점 라이선스에 따라 코드를 제공함에 따라 피드백 루프가 생성됩니다. 진취적인 기업의 중단 주장의 대상이 되는 독점 코드로 오염된 소프트웨어 생태계가 있을 것입니다.

오브라이언이 트롤 요인을 언급하자마자 목 뒤의 털이 곤두섰다. 이것은 매우 지저분해질 것입니다.

캐나다 비즈니스 법률 회사인 McMillan LLP의 기술 그룹 파트너인 캐나다 변호사 Robert Piasentin은 또한 챗봇이 저작권이 있는 저작물과 함께 오픈 소스 저작물 및 합법적인 소스에 대해 훈련을 받았을 수도 있다고 지적합니다. 모든 교육 데이터에는 결함이 있거나 편향된 데이터(또는 알고리즘)는 물론 기업 독점 데이터가 포함될 수 있습니다.

Piasentin은 다음과 같이 설명합니다. "AI가 부정확하거나 결함이 있거나 편향된 정보를 활용하는 경우 AI 도구의 출력은 출력으로 인해 발생할 수 있는 잠재적 피해 또는 피해의 성격에 따라(직접 또는 간접적으로)."

여기에 또 다른 생각이 있습니다. 일부는 훈련 자료(AI가 결과를 제공하기 위해 사용하는 지식의 소스)를 손상시키려고 시도할 것입니다. 인간이 하는 일 중 하나는 시스템을 조작하는 방법을 찾는 것입니다. 따라서 고소할 사람을 찾으려는 합법적인 트롤 군대가 있을 뿐만 아니라 해커, 범죄자, 불량 국가, 고등학생, 괴짜 등 모두가 찾을 수 있는 모든 AI에 잘못된 데이터를 공급하려고 시도할 것입니다. lulz 때문이거나 훨씬 더 사악한 이유 때문입니다.

아마도 우리는 어두운 면에 너무 많이 머물러서는 안 될 것입니다.

누구의 잘못인가?

그러나 AI가 생성한 코드가 치명적인 결과를 초래할 경우 변호사 중 누구도 누구의 잘못인지 논의하지 않았습니다.

예를 들어, 제품을 제공하는 회사는 알려진 결함이 있는 라이브러리를 선택하는 것과 같은 책임을 공유합니다. 알려진 악용 사례가 있는 라이브러리를 사용하여 제품이 배송되고 해당 제품이 실질적인 피해를 초래하는 사고를 일으키는 경우 해당 실패의 책임은 누구에게 있습니까? 제품 제조업체, 라이브러리 코더 또는 제품을 선택한 회사?

일반적으로 세 가지 모두입니다.

이제 AI 코드를 믹스에 추가하세요. 분명히 대부분의 책임은 AI가 생성한 코드를 사용하기로 선택한 코더의 어깨에 있습니다. 결국 코드가 작동하지 않을 수 있으며 철저한 테스트가 필요하다는 것은 상식입니다.

포괄적인 소송에서 청구인은 AI를 생산하는 회사와 해당 AI를 훈련하기 위해 콘텐츠를 가져온 조직까지 추적하게 됩니까(허가 없이 수행된 경우에도)?

모든 변호사가 나에게 말했듯이 현재까지 판례가 거의 없습니다. 문제가 발생하고, 당사자들이 법정에 가서 철저한 판결을 받기 전까지는 답을 알 수 없습니다.

우리는 여기 미지의 바다에 있습니다. 현재로서 제가 드릴 수 있는 최선의 조언은 코드를 철저하게 테스트하라는 것입니다. 테스트하고, 테스트하고, 더 많은 테스트를 해보세요.