AI는 인간의 착각을 돕는다

더 완벽해지는 AI, 동시에 치명적인 약점도 선명하게 드러나고 있습니다. 이 칼럼은 AI가 기술적으로 완벽해지려 하면 할수록 오히려 더욱 또렷해지는 우리 인간의 선택과 관계, 정서 그리고 가능성을 이야기합니다.

AI는 정보를 정리하고, 패턴을 찾고, 심지어 실행과 판단까지 돕는다. 그리고 AI는 점점 더 완벽해지고 있다. 아마 이 글을 읽는 당신도 이미 하루에도 몇 번씩 AI를 쓰고 있을지 모른다. 회의 내용을 정리하고, 기획안을 만들고, 투자용 피치덱을 다듬고, 보고서를 요약하고, 심지어 “이 방향이 맞을까?”라는 고민까지 AI에게 묻는다.

분명 속도는 빨라졌다. 그리고 혼자서도 더 많은 일을 할 수 있게 됐다. 그런데 이상하게도, 불안은 사라지지 않는다. 오히려 어느 순간부터는 이런 감각이 찾아온다.

“내가 정말 이해한 걸까?”
“이게 진짜 시장의 반응일까?”
“나는 지금 알고 있는 걸까, 아니면 알고 있다고 착각하는 걸까?”

AI가 더 깊게 파놓은 함정: 더닝-크루거 효과

AI에 익숙한 사람일수록 가장 큰 위험은 틀린 답이 아니라, “나는 이미 충분히 이해했다”는 착각에 있다. 바로 그 지점에서, AI가 아직 넘어오지 못한 영역이 드러난다.

코넬대의 저스틴 크루거와 데이비드 더닝의 연구에서 밝힌, “사람은 자신이 모르는 것이 많을수록, 자신이 모르고 있다는 사실조차 인지하지 못한다”는 이른바 ‘더닝-크루거 효과(Dunning-Kruger Effect)’와도 맥이 닿아 있다. 나는 AI가 이 현상을 더 교묘하게 부추기며 우리의 인식체계를 흔들고 있다고 보고 있다. 왜냐하면 AI의 답변은 너무나 그럴듯하기 때문이다. 분명 착시와 착각이 존재한다.

안다는 느낌과 진짜 아는 것의 차이

사람은 어느 순간, 아무런 거부감 없이 생각을 멈춘 채 “이 정도면 됐다”라고 믿기 시작한다. 하지만 현실 세계에서는 늘 예상 밖의 방식으로 반응한다. AI가 만들어 준 사업계획서의 내용을 자신은 충분히 알고 있다고 믿지만 실제로는 그 누구한테도 설명하지 못하는 현상을 필자는 여러 번 목격했다. 이 현상은 이미 오래전 심리학에서도 발견된 바 있다. 예일대 레오니드 로젠블릿(Leonid Rozenblit)과 프랭크 카일(Frank Keil)은 2002년 발표한 연구 에서, 사람들은 어떤 개념을 실제보다 훨씬 더 깊이 이해하고 있다고 믿는 경향이 있다고 설명했다.

AI 시대에는 이 착각이 더 강해진다.

AI는 사람의 의도를 빠르게 정리할 수 있지만, “지금 무엇을 모르고 있는지”를 AI 스스로 자각하지는 못한다. 더 큰 문제는 사람은 자신이 충분히 이해했다고 착각하기 쉬워진다는 것이다. AI는 그 착각을 아주 그럴듯하게 도와준다.

AI가 유도하는 ‘생각의 외주화’

마이크로소프트 연구팀과 카네기멜론 대학은 2024년 발표한 공동 연구 에서, 생성형 AI 사용 빈도가 높아질수록 사용자의 비판적 사고와 검증 행동이 감소할 가능성을 경고했다. AI가 인간의 인지적 부담을 줄여주는 동시에, 스스로 생각하고 의심하는 과정까지 약화시킬 수 있다는 의미다.

AI의 위험은 틀린 답보다, ‘생각을 멈춘 인간’에 가까울지 모른다. 결국 얼마나 완벽한 자료를 만들었는가 보다, 얼마나 자신의 사고를 의심하고, 스스로 인식의 흐름을 관찰할 수 있고, 그것을 수정할 수 있는 능력을 갖추고 AI와 협업을 하고 있는지가 중요해졌다. AI와 함께 일하는 게 당연해진 지금, 인간이 자신의 사고를 스스로 관찰하고 조정하는 능력은 더욱 중요하다. 심리학자 존 플라벨(John Flavell)은 이것을 ‘메타인지(Metacognition)’라고 불렀다. 심리학자들은 이를 ‘내가 무엇을 모르는지 아는 정서적 용기’라고도 부른다.

착각에서 벗어나는 연습, ‘메타인지’

AI가 엄청난 지식과 데이터를 쏟아내는 시대일수록, 나는 메타인지 역량이 탁월한 동료 코치, 파트너 컨설턴트, 그리고 고객들과 함께 ‘인지 프로세스를 투명하게 드러내는 훈련’을 반복한다. 이는 새로운 지식을 더하는 과정이 아니다. AI의 그럴듯함 뒤에 숨은 우리의 ‘착각’을 깨부수고, 스스로의 사고와 태도를 있는 그대로 직면하는 연습이다. 나에게 메타인지는 세련된 ‘사고 기술’이라기보다, “이 정도면 충분히 이해했다”는 오만과 착각에서 벗어나려는 처절한 발버둥에 가깝다. 내가 “무엇을 아직 모르고 있는지”를 알아채는 이 훈련은 의외로 단순하다. 다만 지독한 반복이 필요할 뿐이다.

1단계. 현상(Phenomenon) 수집: 눈에 보이는 데이터, 대화의 미묘한 뉘앙스, 왠지 모르게 불편했던 감정까지 지각할 수 있는 모든 현상을 날것 그대로 모은다. 이때 가장 중요한 것은 어떤 판단도 내리지 않고 오직 ‘수집’만 하는 것이다.
2단계. 맥락(Context) 필터링: 수집한 현상들을 맥락 위에 올려놓고 걸러낸다. ‘어떤 상황에서, 누가, 왜 이런 반응을 보였는가?’를 집요하게 추적한다.
3단계. 패턴 발견과 이름 짓기(Naming): 맥락을 통과하면 흩어져 있던 점들이 연결되며 자연스럽게 패턴이 보이기 시작한다. 이때 그 패턴에 명확한 ‘이름’을 붙인다. “아, 이건 고객의 거절이 아니라 불안이구나.” “이건 제품의 하자가 아니라 신뢰의 문제구나.” 이름이 붙는 순간, 흐릿했던 현장의 감각은 비로소 해결 가능한 ‘구조’가 된다.
4단계. 빠른 실험과 반응(Reaction): 마지막이자 가장 중요한 단계는 실체적인 실험이다. 방구석의 사고력만으로는 내가 무엇을 모르는지 끝까지 알아낼 수 없다. 파일럿 테스트, 랜딩페이지, 프로토타입, 작은 제안서 등 무엇이든 만질 수 있고 눈에 보이는 실체를 만들어 세상에 던져야 한다. 그래야만 시장의 진짜 반응을 얻을 수 있다.

심리학자 데이비드 콜브(David Kolb)의 경험학습이론이 말하듯, 인간은 정적인 ‘생각’보다 동적인 ‘경험의 반응’을 통해 더 깊게 자신을 알아간다. 결국 세상이 돌려주는 ‘반응’만이 우리를 AI의 매끄러운 결과물과 구별 짓는 유일한 기준이 된다.

시장은 스스로 ‘의심하는 사람’에게 반응한다

그렇게 새로운 반응이 생기고, 그 반응은 다시 또 하나의 현상으로 쌓이게 된다. 그리고 그 과정 속에서, AI로 알게 된 것과 행동으로 겪은 것의 차이, AI로 이해한 것과 현실에서 마주한 현장의 틈(Gap)이 선명해진다. 그저 AI가 알려준 착각에 머무는 것이 아니라, 나 스스로 무엇을 모르고 있었는지를 세상의 반응으로 확인하게 되는 것이다.

시장은 ‘착각하고 있는 사람’보다 ‘의심하는 사람’에게 반응한다. AI 시대에 더 비싸지는 몸값 역시, 자신의 ‘모름’을 발견하는 능력이다. ‘모름’은 집요하게 스스로의 ‘착각’을 의심하게 되고, 무엇보다 나 자신을 늘 수정하게 만들어 주기 때문이다.

이미지 출처: 이디오그램 생성