중국, AI 생성 콘텐츠 강제 표시법 시행…SNS “진짜와 가짜, 확실히 구분한다”

중국 내 소셜미디어 서비스 사업자들이 AI(인공지능) 생성 콘텐츠에 대해 엄격한 표시 의무를 부여받았다. 사용자가 업로드하는 모든 AI 생성 콘텐츠에 워터마크나 명확한 식별 표시를 붙이고, 검색 엔진 등 웹 크롤러를 위한 메타데이터까지 함께 제공해야 한다는 법적 요구가 본격 시행됐다. 이는 중국 정부 산하 사이버공간관리국(Cyberspace Administration of China)이 AI 산업과 생성형 콘텐츠에 대한 감독을 크게 강화하려는 조치의 일환이다.

사우스차이나모닝포스트(SCMP)에 따르면, 중국은 2025년 3월 해당 법안을 초안 형태로 공개한 뒤 현재는 본격적으로 사회 전반에 적용했으며, 소셜미디어 기업의 ‘책임 강화’와 ‘AI 콘텐츠 남용 억제’를 강하게 요구하고 있다.

전 세계적으로 챗GPT(ChatGPT), 미드저니(Midjourney) 등 AI 툴이 폭발적으로 확산하면서, 국경을 막론하고 각국 규제당국과 주요 기업들이 AI 생성 콘텐츠의 식별 및 관리 방안을 고심하고 있다. 이 같은 상황에서 중국은 주요 국가들 중 가장 먼저 강경한 레이블링(표시) 법안을 불시에 시행하며 플랫폼 사업자들에게 ‘무엇이 사람이 만든 콘텐츠고, 무엇이 AI가 만든 것인지’ 명확하게 고지하도록 책임을 지웠다.

이번 법안에 따라 중국의 소셜미디어 서비스들은 사용자가 AI로 생성한 텍스트, 이미지, 영상 등 모든 종류의 콘텐츠에 워터마크 또는 ‘AI 생성’이라는 표시를 의무적으로 붙여야 한다. 또한, AI 콘텐츠 식별 태그와 메타데이터를 추가로 삽입해 웹 크롤러 등 자동화 시스템이 해당 콘텐츠가 AI에 의해 만들어진 것임을 명확히 식별할 수 있도록 했다.

중국의 이 같은 행보는 글로벌 AI 규제 환경에도 영향을 줄 가능성이 있다. 현재 미국, 유럽 등도 AI 식별 의무화 및 콘텐츠 규제 법안 논의를 가속화하고 있으며, 앞으로 AI 플랫폼 사업자들의 관리·통제 책임이 강화될 것으로 보인다.

이번 정책 시행에 따라, AI로 생산된 콘텐츠와 사람이 직접 제작한 콘텐츠 사이에 ‘경계선’이 한층 명확해질 전망이다. 중국 정부는 향후 지속적인 기술·서비스 모니터링을 통해 AI 관련 법 집행을 이어갈 방침이다. (Tom’s Hardware, SCMP 보도 참고)

자세한 내용은 사우스차이나모닝포스트에서 확인할 수 있다.