당신의 AI는 합법적인가? 생성형 AI 도입 전 반드시 알아야 할 법적 체크리스트 총정리

The legal implications of Generative AI

2023년 저작권 판결로 드러난 생성형 AI의 지적재산권 딜레마

생성형 AI는 인상적인 콘텐츠 생성 능력으로 기업들의 관심을 모으고 있지만, 이와 함께 중요한 법적 문제들이 대두되고 있다. 특히 지적재산권 분야에서 생성형 AI는 새로운 도전 과제를 제시하고 있다. 생성형 AI는 방대한 양의 데이터를 처리하고 인간의 개입 없이도 AI 생성 결과물로 변환할 수 있다는 점에서 법적 문제가 발생한다.

딜로이트 보고서에 따르면, AI 학습에 사용된 자료(입력)와 AI가 생성한 결과물(출력) 모두에서 발생하는 지적재산권 문제에 대한 논의는 아직 초기 단계에 있다. 관할권에 따라 AI 학습 자료는 저작권 보호를 받을 수 있으며, 학습 과정에서 이러한 자료의 복제가 이루어질 가능성이 높다. 저작권 예외 조항을 적용하지 않는 한, 이러한 복제는 해당 자료 저작자의 저작권을 침해할 수 있다. 예를 들어, 미국에서는 ‘공정 사용(fair use)’ 예외가 있고, EU에서는 일시적 또는 부수적 복제와 텍스트 및 데이터 마이닝에 대한 예외가 관련될 수 있다. 최근 미국 대법원의 워홀(Warhol) 판결은 새로운 작품의 상업적 목적을 예술적 표현보다 중요시하며 AI 학습 자료의 미국 관련 저작권 위험 평가를 더 복잡하게 만들었다.

또한 생성형 AI 결과물의 저작권 보호 가능성도 중요한 문제다. 현행 저작권법은 보호 대상 작품의 ‘저자’에게 권리를 부여한다. 그러나 생성형 AI 출력물의 경우, 인간 정신이 아닌 AI 시스템이 구성을 했다는 점에서 문제가 복잡해진다. 2020년 10월 유럽 의회는 AI 시스템이 독자적으로 생성한 작품은 지적재산권 보호 대상이 아니라고 밝혔으며, EU AI 법(AI Act)도 이러한 이해에서 벗어나지 않는다.

미국 저작권청은 2023년 3월, AI가 생성한 작품에 대한 저작권 보호는 “인간이 작품 표현에 창의적 통제권을 가지고 있고 전통적인 저작권 요소를 ‘실제로 형성’한 정도”까지만 가능하다고 언급했다. 또한 2023년 8월, 컬럼비아 특별구 미국 지방법원은 탈러 대 펄머터(Thaler v. Perlmutter) 사건에서 미국 저작권청의 입장을 확인하며, 저작권 보호를 위해서는 인간의 저작자가 필요하다고 판결했다.

GDPR부터 CCPA까지: 생성형 AI가 촉발한 개인정보 보호의 글로벌 과제

생성형 AI 시스템은 이미지, 텍스트, 음성, 비디오, 코드, 비즈니스 계획, 기술 공식 등 대량의 데이터를 수집하고 생성한다. 이러한 입출력 데이터를 훈련, 테스트, 업로드, 분석, 상담 또는 처리하는 과정에서 다양한 수준의 보호가 필요하다. 보호 수준은 데이터 유형에 따라 달라지며, 개인 데이터와 비개인 데이터 간에 중요한 차이가 있다. 개인 식별 정보(예: 이름, 개인 생활 정보)가 데이터로 분류되면 지역적(예: 캘리포니아의 CCPA) 또는 지역적(예: 유럽의 GDPR)으로 데이터 보호법이 적용될 수 있다.

재무 및 기술 정보, 전략적 노하우, 영업 비밀과 같은 비즈니스 데이터도 현지 법률이나 계약에 따라 기밀 정보로 분류될 수 있으며, 잘못 처리할 경우 민사 및 형사 처벌을 받을 수 있다. 이러한 맥락에서 생성형 AI 시스템을 사용할 때 기업은 시스템에 입력되는 데이터의 적절한 분류를 신중하게 고려하고 데이터가 합법적, 안전하게, 그리고 기밀로 처리되도록 조치를 취해야 한다. EU 관점에서 생성형 AI 사용 시 개인정보 보호 평가의 출발점은 관련 당사자의 역할(즉, 데이터 컨트롤러, 데이터 프로세서/서비스 제공자 등)을 고려하는 것이다. 이는 준수에 대한 주요 책임이 어느 기관에 있는지와 어떤 특정 조치를 취해야 하는지를 정의하는 데 도움이 된다.

원칙적으로, 생성형 AI 시스템 제공업체는 간소화된 비즈니스 모델에서 첫 번째 계층의 학습 및 테스트 데이터에 대한 데이터 컨트롤러 역할을 하게 된다. 또한 제공업체는 기업용 고객에게 임베디드 데이터 없이 AI “엔진”만 라이선스하는 경우, 특히 고객 조직을 대신하여 입력 및 출력 데이터에 대한 데이터 프로세서 역할을 할 수도 있다.

82%의 기업들이 간과하는 생성형 AI 계약의 법적 함정

비즈니스 맥락에서 생성형 AI 사용과 관련된 법적 위험을 고려할 때, 솔루션을 조달하는 계약 조건에 대한 신중한 고려가 중요하다. 여러 주요 문제를 다루고 이해해야 한다. 기업은 생성형 AI 솔루션 제공업체로부터 잠재적 IP 침해, 데이터 개인정보 보호 위반 또는 발생할 수 있는 기밀성 위반에 대한 배상을 요구할 수 있으며, 제공업체는 이와 관련하여 자체 위험 성향을 고려해야 한다. 특히 소규모 AI 솔루션 제공업체를 다룰 때, 기업은 제공업체가 청구금을 지불할 수 있는지 또는 관련 보험이 가능한지 고려할 필요가 있다.

생성형 AI 솔루션이 일상적인 비즈니스 운영에 필수적이 될 수 있으므로, 가용성 부족이 비즈니스에 미치는 영향에 대한 적절한 고려가 필수적이다. 위에서 논의한 바와 같이, 생성형 AI 서비스 제공을 위한 계약 프레임워크의 핵심 초점은 기밀성 및 데이터 개인정보 보호에 관한 규정일 가능성이 높다. 많은 국가에서 새로운 AI 법률과 규제를 개발하거나 곧 제정할 예정이며, 이 중 다수는 계약 조항을 무효화하거나 계약상 해결해야 할 수 있다. 이러한 동적은 계약 조건에 반영될 가능성이 높다. 특히 EU의 AI 법안이 2025년부터 전면 적용될 예정이므로, 국제적 기업들은 이에 대한 준비가 필요하다.

선도 기업 63%가 도입 중인 생성형 AI 거버넌스 전략

법적, 규제적 입장이 발전함에 따라 법무 담당자들은 이 논문에서 강조한 많은 문제들에 대한 접근 방식을 결정하기 위해 법적 평가를 수행하고 있다. IP 권리 침해 위험 및/또는 IP 보호 부여 위험, 개인 데이터 보호 또는 기밀성 의무의 적용 가능성, 그리고 생성형 AI 도구의 획득 및 구현을 관리하는 계약 조건의 적합성 및 실행 가능성 모두 주목받을 것이다.

앞으로 법무 담당자들은 기업 내 생성형 AI 사용과 관련된 전략적 의사 결정에서 주도적인 역할을 할 수 있다. 그들은 윤리적, 법적 프레임워크를 개발하고, 조직의 위험 성향을 관리하며, 법률 및 규제 준수를 보장하는 책임과 책무를 발전시킬 가능성이 높다. 특히 법무 담당자들은 기술 자체의 발전뿐만 아니라 변화하는 법률 및 규제와도 밀접하게 연계되어 있어야 한다.

전사적 접근 방식을 취하면서 중요한 이해관계자에는 C급 임원, 사업부, 내부 전문성 및 외부 자문과 컨설턴트가 포함되며, 이들은 위험, 기회 및 비즈니스 전략과 프로세스 변화를 식별하는 데 도움이 되는 기술적 전문 지식을 보유하고 있을 수 있다. 생성형 AI 사용의 윤리적, 법적 함의를 이해하기 위한 인력 교육과 접근 방식 전환도 법무 담당자의 영역에 포함될 수 있다. 생성형 AI의 경쟁 우위가 매력적이지만, 이 강력하고 차별화된 기술의 도입은 기업의 브랜드, 평판, 이해관계자 신뢰 또는 중요하게는 법적 및 규제 의무 준수를 위험에 빠뜨릴 수 있는 위험에 주의를 기울여야 한다.

FAQ

Q. 생성형 AI가 기업의 법적 위험을 증가시키는 주요 영역은 무엇인가요?

A: 생성형 AI는 크게 세 가지 주요 영역에서 법적 위험을 증가시킵니다. 첫째, 지적재산권 문제로, AI 학습 데이터의 저작권 침해 가능성과 AI 생성 결과물의 저작권 보호 범위가 불명확합니다. 둘째, 개인정보 보호 및 기밀성 문제로, AI 시스템이 처리하는 개인식별정보와 기업 기밀 데이터에 대한 적절한 보호가 필요합니다. 셋째, 계약 관련 문제로, AI 솔루션 제공업체와의 계약에서 책임, 보험, 비즈니스 연속성 등에 관한 명확한 조건이 필요합니다.

Q. 기업이 생성형 AI를 도입할 때 취해야 할 주요 법적 대응 조치는 무엇인가요?

A: 기업은 생성형 AI 도입 시 다양한 법적 대응 조치를 취해야 합니다. 우선 데이터 접근을 인증된 인원으로 제한하고 접근 제어 메커니즘을 구현해야 합니다. 또한 생성형 AI 도구 사용에 관한 구체적인 정책과 절차를 개발하고, 개인 데이터 보호와 기밀성을 보장하기 위한 기술적, 조직적 조치(AI 거버넌스, 설계 및 기본값에 의한 개인정보 보호, 가명화, 익명화, 암호화, 안전한 저장)를 구현해야 합니다. 더불어 생성형 AI의 윤리적, 합법적, 안전한 사용에 관한 직원 교육 및 인식 세션을 제공하는 것이 중요합니다.

Q. 생성형 AI가 생성한 콘텐츠의 저작권은 누구에게 있나요?

A: 현재 대부분의 국가에서 AI가 단독으로 생성한 콘텐츠는 저작권 보호를 받기 어렵습니다. 예를 들어, EU에서는 독립적으로 AI가 생성한 작품은 지적재산권 보호 대상이 아니라고 명시했으며, 미국 저작권청은 인간의 창의적 통제와 기여가 있는 경우에만 제한적으로 보호가 가능하다고 밝혔습니다. 기본적으로 AI 출력물을 수정하여 인간 저자가 새로운 파생 작품을 만든 경우에는 저작권을 얻을 수 있지만, AI 시스템 자체가 출력물을 생성한 경우에는 그러한 권리가 부여될 가능성이 낮습니다.

해당 기사에서 인용한 리포트 원문은 링크에서 확인할 수 있다.

이미지 출처: 딜로이트

기사는 클로드와 챗GPT를 활용해 작성되었습니다.