“챗GPT 쓸수록 바보 된다?”… 주요 IT 기업 연구진들이 밝힌 ‘AI가 인간에게 미치는 영향’

마이크로소프트 리서치(Microsoft Research)의 레브 탄켈레비치(Lev Tankelevitch)와 하버드 대학교의 엘레나 글래스만(Elena L. Glassman), IBM 리서치의 제시카 히(Jessica He) 등 주요 IT 기업과 대학의 연구진 56명이 참여한 CHI 2025 워크숍에서 생성형 AI가 인간의 인지능력에 미치는 광범위한 영향을 분석한 결과가 발표됐다. 카네기 멜론 대학교, 시카고 대학교, 스탠포드 대학교 등 세계 유수 대학과 마이크로소프트, IBM 등 글로벌 IT 기업의 연구자들이 공동으로 수행한 이번 연구는 AI 사용이 비판적 사고, 학습, 창의성에 미치는 복합적 영향을 심층 분석했다.

AI 답변에 속아 ‘다 안다’고 착각… 깊게 생각하는 능력 줄어든다

마이크로소프트 리서치와 다수 대학 연구진이 공동 수행한 연구에 따르면, 생성형 AI는 인간의 비판적 사고 참여를 저해할 수 있는 것으로 나타났다. Singh 등의 연구팀은 능동적 정보 탐색에서 AI 생성 정보의 수동적 소비로의 전환이 관찰되고 있다고 발표했다. 생성형 AI 시스템들이 사용자 아이디어에 동조하고 결과물을 동질화하는 경향은 현대 정보 소비의 ‘에코 챔버’ 효과에 기여할 수 있다.

사람들은 특히 해당 영역에서 자신감이 낮거나 AI에 대한 신뢰도가 높을 때 부정확하거나 오류가 많은 AI 생성 정보에 부적절하게 의존할 수 있다. 편향된 글쓰기 도우미는 핵심 이슈에 대한 사용자 견해를 변화시킬 수 있고, 글쓰기를 서구 스타일로 동질화시킬 수 있다는 연구 결과가 있다.

듀이(Dewey)의 성찰적 사고 이론에 따르면, 성찰적 사고는 의도적이고 의식적인 증거 평가로서 ‘탐구를 촉진하는 혼란, 당황, 또는 의심의 상태’를 견디고 탐구 기간 동안 판단을 유보하는 것을 요구한다. 하지만 AI 생성 정보의 세련되고 일관성 있고 아첨하는 특성이 이러한 전제 상태를 최소화하고 판단 유보를 방해하여 ‘포괄적 이해의 착각’을 만들 수 있다.

똑똑한 학생은 더 똑똑해지고, 멍청한 학생은 더 멍해진다

학생이나 초보자들은 정보 작업에 필요한 자기조절 전략과 스키마(정신 모델이나 의미 구성 틀)를 여전히 개발 중이다. AI 지원 머신러닝 코드 디버깅 연구에서 Bo 등은 이미 문제에 대한 이해가 있는 학생들이 구체적이고 계획된 질문을 통해 AI를 의도적으로 사용하며 궁극적으로 더 나은 성과를 보인 반면, 그러한 지식이 부족한 학생들은 개방적인 질문을 하며 AI에 이끌려 비생산적인 경로로 빠져 과도한 의존을 보였다고 발견했다.

컴퓨터 과학 교육 전문가인 Prather와 Reeves는 CS 교육에서 AI 지원에 대해 “준비 부족, 자신감 부족, 성과 미달 학생들이 이러한 AI 도구로부터 가장 적은 혜택을 받는 것으로 보이며, 이는 비판적 사고 감소와 낮은 성적으로 이어진다”고 결론지었다.

비교육적 AI 도구를 학습 과제 해결에 부적절하게 의존함으로써 학생들은 필요한 메타인지 전략과 스키마 개발을 저해할 수 있다. AI 지원 읽기 분야 연구자인 Fu와 Hiniker의 연구에서는 학생들이 하위 수준의 이해를 AI에 점점 더 위임하는 경향을 발견했으며, 이는 더 수동적인 참여와 일치한다.

디자이너들이 AI 써도 ‘수정’만 하게 되는 이유

창의 영역에서 덴마크 오르후스 대학교의 Peter Dalsgaard 교수는 생성형 AI의 고품질 결과물 생산 능력이 디자이너들의 초점을 핵심 문제 설정이나 디자인 공간 이해에서 완성된 결과물의 단순 조정으로 이동시켜 디자인 고착의 한 형태가 될 위험이 있다고 주장했다. 또한 생성형 AI가 창의적 결과물을 동질화할 위험이 있으며, 이는 생성형 AI 시스템과 효과적으로 작업하고 그 미묘한 한계를 파악하는 어려움으로 인해 증폭될 수 있다.

그러나 Dalsgaard 교수는 생성형 AI를 단순한 창의성 위험 요소가 아니라 ‘탐구의 도구’로 제시한다. 실용주의 철학에 기반한 이 관점은 생성형 AI가 디자인 문제에 대한 사람들의 인식, 개념, 아이디어의 외재화와 조작 방식, 그리고 디자인 작업 구성 요소의 매개에 다양한 방식으로 영향을 미치는 역할을 한다고 제안한다.

디자이너들은 생성형 AI의 신속하고 고품질의 프로토타이핑 능력을 활용해 쇤(Schön)의 ‘행동 중 성찰’ 과정에 더 잘 참여할 수 있으며, 여기서 디자인 재료와의 반복적 상호작용이 빠른 피드백 루프를 제공한다. 마찬가지로 생성형 AI의 한계를 인식하는 디자이너들은 이를 의식적으로 활용해 더 창의적인 결과를 얻을 수 있다.

‘모르는 척하는 AI’가 더 효과적이다

생성형 AI를 통한 인지 증강 접근법은 여러 형태를 취하고 있다. 한 가지 형태는 도발자, 적대자, 코치 같은 능동적 개체로서 AI의 은유를 적용해 작업 중 우리에게 도전하고, 기본 사고 모드를 방해하며, 성찰, 탐구, 학습을 촉진하는 것이다.

홍콩 교육대학교의 Cheung 연구원은 AI 기반 인지 증강의 또 다른 은유를 제안한다: 무지한 공동 학습자. 이는 ‘사용자들이 비판적이고 성찰적으로 사고하도록 강요하는 불확실성, 불일치, 또는 정지의 순간을 조성하는’ 의도적으로 ‘인공적으로 무지한’ 시스템이다. 예를 들어, 시스템이 ‘상충하는 다양한 관점을 제공하거나 불확실성 영역을 강조’하거나 정보 소비에서 해석 과정에 주의를 환기하는 촉진을 제공할 수 있다.

모든 인지 증강이 사고에 도전하거나 성찰적 마찰을 제공하도록 설계된 것은 아니다. 여러 접근법은 대형 언어 모델(LLM)의 유연성과 패턴 인식 능력을 활용해 데이터 내 구조를 식별하고 표면화하여 의미 구성을 지원한다. 컬럼비아 대학교의 Wang과 Chilton은 인간 스키마 유도를 증강하는 인간-AI 상호 보완 워크플로우를 개발했다. 이는 기사나 비디오 같은 예시에서 패턴을 식별해 의미 구성과 학습을 지원하는 과정이다.

FAQ ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q: 생성형 AI가 성찰적 사고를 방해하는 주요 원인은 무엇인가요?

A: 듀이의 이론에 따르면 성찰적 사고는 ‘혼란, 당황, 또는 의심의 상태’를 견디는 것이 필요한데, AI가 생성하는 세련되고 일관성 있는 정보가 이러한 전제 조건을 최소화하고 판단 유보를 방해하여 ‘포괄적 이해의 착각’을 만들 수 있습니다.

Q: 학생들의 AI 사용에서 나타나는 격차는 어떻게 설명할 수 있나요?

A: 이미 문제에 대한 기본 이해가 있는 학생들은 구체적이고 계획된 질문으로 AI를 의도적으로 활용하여 더 나은 성과를 보이지만, 지식이 부족한 학생들은 개방적 질문에 의존하며 AI에 이끌려 비생산적 경로로 빠지는 과도한 의존을 보입니다.

Q: 창의성 분야에서 생성형 AI를 긍정적으로 활용하는 방법은 무엇인가요?

A: 생성형 AI를 ‘탐구의 도구’로 접근하여 빠른 고품질 프로토타이핑을 통한 ‘행동 중 성찰’ 과정에 참여하거나, AI의 한계를 의식적으로 활용하여 더 창의적인 결과를 도출할 수 있습니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문 명: Understanding, Protecting, and Augmenting Human Cognition with Generative AI: A Synthesis of the CHI 2025 Tools for Thought Workshop

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.