캘리포니아 법무장관, AI 산업 전반 ‘위법 소지’ 경고

캘리포니아주 법무부가 AI 기업들의 사업 방식 전반에 대해 법적 검토에 나섰다.

기즈모도(Gizmodo)에 따르면 롭 본타(Rob Bonta) 캘리포니아주 법무장관은 1월 13일 AI 산업 관련 법적 자문 의견 두 건을 발표했다. 본타 법무장관은 “법무부는 안전하고 윤리적이며 인간 존엄성에 부합하는 AI의 책임 있는 사용을 권장한다”며 “AI 시스템이 해를 끼치지 않고 긍정적 잠재력을 발휘하려면 윤리적이고 합법적으로 개발되고 사용되어야 한다”고 강조했다.

AI의 기만적 사용 제재

법무부는 최근 AI 콘텐츠 생성기의 대중화로 딥페이크(Deepfake)와 허위정보가 폭발적으로 증가하고 있다고 지적했다. 실존하지 않는 인물이나 사건, 발언을 재현하는 딥페이크, 챗봇, 음성 복제 기술은 ‘기만적’이며 주법 위반이 될 수 있다고 경고했다.

AI 성능 과대광고 규제 강화

AI 기업들의 과장 광고도 도마 위에 올랐다. 법무부는 캘리포니아주 허위광고법 위반을 피하려면 ▲AI 시스템이 갖추지 않은 기능을 보유했다고 주장하는 행위 ▲사람이 수행하는 기능을 AI가 전적으로 수행한다고 허위 표시하는 행위 ▲근거 없이 AI 시스템이 정확하거나 인간보다 우수하다고 주장하는 행위 ▲편향성이 없다고 허위 광고하는 행위 등을 중단해야 한다고 밝혔다.

AI 알고리즘의 차별 문제

AI 시스템이 알고리즘에 인간의 편향성을 반영하는 것도 심각한 문제로 지적됐다. 특히 주택이나 고용 기회 심사에 AI가 활용되면서, 특정 계층에 대한 차별이나 분리를 조장할 수 있다는 우려가 제기됐다. 법무부는 이러한 행위가 주 차별금지법 위반이 될 수 있다고 경고했다.

저작권 분쟁 지속

AI 기업들은 저작권법 위반 문제도 해결해야 할 과제다. 최근 뉴욕타임스(New York Times)는 자사 기사를 무단으로 AI 학습에 활용했다며 오픈AI(OpenAI)를 상대로 소송을 제기했다. AI 기업들은 유사한 소송에 반복적으로 직면하고 있지만, AI 콘텐츠 생성이 법적으로 불확실한 영역이어서 아직 승소 사례는 없는 상황이다.

법무부의 이번 자문은 AI 기업들이 자율 규제에 나서지 않으면 형사 처벌 대상이 될 수 있다는 강력한 경고로 해석된다. 또한 최근 통과된 AI 산업 관련 규제들도 함께 제시하며, AI 기업들의 법적 리스크 관리를 촉구했다.

해당 기사의 원문은 링크에서 확인할 수 있다.

기사는 클로드 3.5 Sonnet과 챗GPT를 활용해 작성되었습니다.