2021년 텍스트로 이미지를 만드는 AI 서비스들이 등장한 이후, 생성형 인공지능(생성형 AI, Generative AI)은 예술 창작의 풍경을 빠르게 바꿔놓았다. 달리(DALL·E), 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion) 같은 서비스들이 대중화되면서 누구나 그럴듯한 이미지를 만들어낼 수 있게 됐다. 그런데 베오그라드 예술대학교 데얀 그르바(Dejan Grba) 연구자는 이 현상의 이면을 날카롭게 파고든다. 생성형 AI가 단순히 새로운 창작 도구에 그치는 게 아니라, AI 산업의 의심스러운 이념과 가치관을 문화 속으로 은밀히 퍼뜨리는 통로가 되고 있다는 것이다.
프롬프트 한 줄이 예술이 될 수 있는가
텍스트를 이미지로 변환하는 AI, 이른바 TTI(Text-to-Image) 모델의 작동 원리는 생각보다 단순하다. 사용자가 글로 묘사를 입력하면, AI는 방대한 이미지·텍스트 데이터를 학습한 모델을 통해 그에 맞는 이미지를 생성해 낸다. 이 과정에서 사용자는 어떤 이미지를 원한다는 지시를 내리는 사람이고, 픽셀 하나하나를 배치하는 건 AI다.
문제는 여기서 시작된다. TTI 모델은 세상의 이미지를 직접 만드는 게 아니라 기존 이미지들을 언어 필터를 통해 재조합한 것에 불과하다. 학습 데이터 자체가 인스타그램(Instagram), 레딧(Reddit) 같은 특정 플랫폼에 치우쳐 있어, 생성된 결과물은 이미 주류 문화의 편향과 고정관념을 그대로 재생산한다. 더 심각한 것은 AI가 생성한 이미지가 다시 학습 데이터로 쌓이는 구조다. 이렇게 되면 시간이 갈수록 모델의 출력은 더욱 균질하고 진부해질 가능성이 높다.
원하는 결과를 얻기 위한 프롬프트(Prompt, 명령어) 작성은 반복적인 시행착오의 과정이다. 사용자들은 좋은 프롬프트를 공유하고 거래하는 커뮤니티를 만들었고, 프롬프트베이스(PromptBase) 같은 거래 플랫폼까지 등장했다. 이 과정에서 사용자는 자신의 창의적 언어와 개념을 AI의 인공적 의미 체계에 맞게 스스로 조정하게 된다. 창작의 주도권이 인간에서 기계 쪽으로 미묘하게 넘어가는 것이다.
AI는 ‘예술의 민주화’가 아니라 ‘예술의 상품화’다
생성형 AI 업계는 자신들의 기술이 예술 창작을 민주화한다고 주장한다. 누구나 예술가가 될 수 있다는 선언이다. 그러나 연구자는 이 주장이 사이버자유주의(Cyberlibertarianism), 즉 시장과 기술이 자동으로 민주주의를 실현한다는 이념의 반복에 불과하다고 본다. 진정한 창작은 단지 표현 수단에 대한 접근성의 문제가 아니기 때문이다.
더 노골적인 문제는 경제적 측면에 있다. 생성형 AI는 일러스트레이션, 게임 디자인, 영상 등 수많은 창작 직군을 대체하며 기업에게는 더 적은 인력으로 더 빠른 생산을 가능하게 한다. 예술가들은 자신의 작품이 동의나 보상 없이 AI 학습 데이터로 활용되는 것에 반발하며 오픈AI(OpenAI), 메타(Meta), 구글(Google), 스태빌리티 AI(Stability AI) 등을 상대로 소송을 제기했다. 기업들이 내놓은 옵트아웃(Opt-out, 데이터 사용 거부 신청) 제도는 이미 학습에 사용된 기존 모델에는 적용되지 않아 실효성이 없다는 비판을 받는다.
일부 예술가들은 나이트쉐이드(Nightshade), 글레이즈(Glaze) 같은 소프트웨어를 활용해 이미지에 눈에 보이지 않는 픽셀 패턴을 심어 AI 학습 모델을 오작동시키는 데이터 포이즈닝(Data Poisoning, 학습 데이터 오염) 기술로 맞서고 있다. 그러나 이런 대응 역시 결국 AI 산업이 만들어낸 기술적 군비 경쟁 안에 예술가들을 가두는 결과로 이어질 수 있다.
기계가 창작한다는 환상, 그 뒤에 숨은 이념
AI가 스스로 창작한다는 환상은 어디서 오는 것일까. 연구자는 이를 기계 행위자 페티시즘(Machinic Agency Fetishism)이라 부른다. 인간이 아닌 존재에게 인간적 특성을 부여하려는 심리적 경향, 즉 의인화(Anthropomorphism)가 AI 연구와 산업 전반에 깊이 뿌리내린 결과다. AI가 “학습했다”, “발견했다”, “능가했다”는 식의 표현은 기계에 자율성과 의식이 있는 것처럼 오해하게 만든다. 예술 시장도 이런 수사를 적극 활용해 AI 작품의 신비감을 상품화한다.
앨런 튜링(Alan Turing)이 1950년에 제안한 이미테이션 게임(Imitation Game), 훗날 튜링 테스트(Turing Test)로 알려진 실험도 이 문제와 맞닿아 있다. 튜링 테스트는 기계가 인간처럼 행동할 수 있는지를 언어적 대화만으로 판단하는 방식인데, 연구자는 이것이 인간 인지를 지나치게 단순화하고 컴퓨터와 인간을 동등하게 보려는 잘못된 전제 위에 서 있다고 비판한다. 이 같은 혼동은 AI 연구가 인간 노동력을 숨기고 시스템이 마치 스스로 작동하는 것처럼 포장하는 사회기술적 맹목(Sociotechnical Blindness)으로도 이어진다.
AI 개발의 이면에는 방대한 인간 노동이 존재한다. 데이터를 분류하고 평가하고 정리하는 이른바 포스트 트레이닝 얼라인먼트(Post-training Alignment, 사후 학습 정렬) 작업은 전 세계의 저임금 노동자들에 의해 수행된다. 연구자는 이를 고스트 워크(Ghost Work), 즉 보이지 않는 노동이라 부르며, AI 기술의 화려한 외관 뒤에 감춰진 착취 구조를 직시해야 한다고 강조한다.
AI 아트와 키치의 경계, 그리고 예술 개념의 흔들림
생성형 AI가 쏟아내는 이미지들은 대체로 어떤 특징을 보일까. 연구자는 그 상당수가 판타지, 초현실주의, 애니메이션풍 일러스트 등 대중적 장르에 집중되어 있으며, 표면적 미학에 집착하는 경향이 있다고 지적한다. 이는 좀비 형식주의(Zombie Formalism)와 맞닿는다. 좀비 형식주의란 기술적으로 능숙하게 만들어졌지만 실질적 예술적 의도나 깊이 없이 소비·거래되는 작품 경향을 비판하는 개념이다.
예술과 키치(Kitsch, 값싼 감동을 노린 통속적 예술)의 경계는 언제나 흐릿했지만, 생성형 AI 시대에는 그 경계가 더욱 불분명해지고 있다. 연구자는 1994년부터 1997년 사이 진행된 비탈리 코마르(Vitaly Komar)와 알렉스 멜라미드(Alex Melamid)의 프로젝트 국민의 선택(The People’s Choice)을 예로 든다. 이 프로젝트는 14개국 시민을 대상으로 선호하는 그림 요소를 설문조사한 뒤 평균값을 그림으로 제작했는데, 그 결과물은 예외 없이 키치스러운 풍경화였다. 통계로 예술을 최적화하려는 시도가 오히려 가장 평범하고 진부한 결과를 낳는다는 것, 이는 생성형 AI의 작동 방식과 섬뜩할 만큼 닮아 있다.
예술 개념(Art Notion) 자체도 위협받고 있다. 어떤 것이 예술인가를 정의하려는 철학적·제도적 시도들은 역사적으로 번번이 실패해왔다. 뒤샹(Marcel Duchamp)이 변기를 전시장에 놓으면서 시작된 개념 예술의 흐름은 예술의 경계가 고정된 것이 아니라 사회적·문화적 맥락 속에서 끊임없이 재협상된다는 것을 보여준다. 생성형 AI는 이 복잡한 역사를 무시한 채 예술을 단순한 이미지 생산으로 축소하고, 그 개념을 AI 산업의 마케팅 언어로 포획하고 있다.
FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)
Q. 생성형 AI로 만든 이미지는 예술 작품으로 인정받을 수 있나요?
생성형 AI로 만든 이미지가 예술인지에 대한 논쟁은 현재 진행 중입니다. 예술 개념은 시대와 문화에 따라 끊임없이 바뀌어왔으며, AI 이미지를 예술로 볼 수 있는지는 창작 의도, 맥락, 사회적 합의에 따라 달라집니다. 단, 현재 많은 TTI 이미지는 기존 작품의 패턴을 재조합한 것에 가깝다는 비판을 받고 있습니다.
Q. 내 그림이 AI 학습에 무단으로 사용될 수 있나요?
네, 실제로 많은 AI 모델이 인터넷에 공개된 이미지를 동의 없이 학습 데이터로 활용해 왔습니다. 현재 일부 기업이 옵트아웃 제도를 도입했지만, 이미 학습에 사용된 기존 모델에는 적용되지 않습니다. 나이트쉐이드(Nightshade)나 글레이즈(Glaze) 같은 도구를 통해 자신의 이미지를 보호하는 방법을 검토해 볼 수 있습니다.
Q. 생성형 AI가 예술가의 일자리를 빼앗을까요?
일러스트레이션, 게임 그래픽, 광고 이미지 등 일부 창작 직군에서는 이미 AI 대체 사례가 나타나고 있습니다. 반면 고도의 개념적 사고와 독창적 표현이 필요한 영역은 단기간에 대체되기 어렵습니다. 다만 AI가 창작 시장 전반의 단가를 낮추고 인력 수요를 줄이는 방향으로 영향을 미칠 가능성은 충분히 존재합니다.
기사에 인용된 리포트 원문은 arXiv에서 확인할 수 있다.
리포트명: Art Notions in the Age of (Mis)anthropic AI
이미지 출처: 이디오그램 생성
해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.
