쥐의 ‘뇌’ 학습한 AI, 인간 행동까지 예측한다… 과연 인간의 뇌를 이해한 걸까?

챗GPT에 쓰인 기술을 활용해서 뇌 활동을 예측하는 AI들이 등장했다. 높은 예측 정확도를 보여주고 있지만, 미국 브라운대학교 연구진은 “잘 맞춘다고 해서 뇌를 진짜 이해하는 건 아니다”라고 분명히 선을 그었다.

세계적 과학지 네이처에 등장한 두 개의 뇌 예측 AI

연구진이 발표한 논문에 따르면, 지난해 세계적인 과학 저널 네이처에 흥미로운 연구 두 편이 연달아 실렸다. 첫 번째 연구는 실험용 쥐의 시각피질 데이터를 학습한 AI다. 이 AI는 새로운 자극과 개별 동물에서도 뇌 반응을 예측했고, 뇌세포 종류와 모양, 연결 관계와 부분적으로 일치하는 방식으로 정보를 조직화했다. 하지만 연구진은 이것만으로는 뇌 회로가 실제로 어떻게 계산하는지 밝혀내지 못했다고 한계를 명시했다.

두 번째는 센타우르(Centaur)라는 이름의 AI로, 수백 가지 심리학 실험 데이터를 보고 사람의 행동을 예측한다. 이 AI는 실험 설명과 다른 참가자들의 선택 패턴을 보고, 다음 참가자가 어떤 선택을 할지 맞춘다. 다양한 실험에서 높은 예측력을 보였으나, 잘 알려진 심리 실험에서는 사람과 다른 선택을 하기도 했다.

챗GPT와 같은 방식으로 뇌를 공부하는 AI

이런 AI들은 챗GPT와 비슷한 학습 방법을 쓴다. 챗GPT가 인터넷 글을 읽고 “다음에 올 단어가 뭘까?”를 맞히면서 학습하듯이, 뇌 연구 AI도 뇌 활동 데이터에서 패턴을 찾는다. 이런 학습법을 ‘자기지도학습’이라고 하는데, 사람이 정답을 일일이 알려주지 않아도 AI가 스스로 규칙을 찾아내는 방법이다.

먼저 엄청난 양의 데이터로 기본기를 쌓은 다음, 특정 목적에 맞게 세부 조정한다. 이 방법은 언어뿐만 아니라 이미지, 음성, 프로그래밍 등 여러 분야로 확산되고 있으며, 이제 뇌과학에도 적용되고 있다.

뇌과학 분야에 몰아치는 AI 바람

단백질 구조를 예측하는 알파폴드가 신약 개발을 혁신시킨 것처럼, 뇌 예측 AI도 의료 분야에 변화를 가져올 전망이다. 파킨슨병 환자의 뇌 자극 치료를 개선하거나, 우울증과 강박증의 초기 징후를 찾아내고, 척수 손상 환자의 걸음을 되찾게 하는 뇌-컴퓨터 연결 기술 발전에 도움이 될 수 있다. 사람의 뇌 영상을 분석하는 AI들도 뇌 상태와 질병을 예측하면서 새로운 환자군에서도 작동하는 성과를 보이고 있다.

“잘 맞춘다고 해서 이해하는 건 아니다”

AI가 발전하면서 단순한 패턴 찾기를 넘어 진짜 원리를 발견할 수 있을 거라는 기대가 있다. AI가 사람처럼 말한다면 언어 규칙을 이해했을 수도 있고, 바둑이나 체스를 잘 둔다면 게임 규칙을 스스로 터득했을 수도 있다는 생각이다. 실제로 언어 AI가 문법 구조를 어느 정도 파악하고, 이런 표현들이 모델 행동에서 측정 가능한 역할을 한다는 증거도 있다.

하지만 AI는 진짜 원리를 모르고도 잘못된 연결고리만으로 좋은 결과를 낼 수 있다. 이를 ‘지름길 학습’이라고 한다. 아무리 예측이 완벽해도 올바른 이해를 보장하지는 않는다. 고대 천문학자 프톨레마이오스가 “지구가 우주 중심”이라는 잘못된 이론의 주전원(epicycle) 모델로도 행성 움직임을 정확히 예측했던 것처럼 말이다.

현재 뇌 AI들이 보여준 성과와 한계

실제 연구 결과를 보면 성과와 한계가 동시에 드러난다. 쥐 뇌를 학습한 AI는 뇌세포 종류, 수상돌기 형태, 연결성 등과 부분적으로 일치하는 방식으로 정보를 조직화하는 가중치 구조를 학습했다. 하지만 이런 일치만으로는 뇌 피질이 실제로 계산하는 회로 메커니즘을 밝혀내기에는 부족하다고 연구진이 명시했다.

센타우르 AI는 미세조정 후에 사람 뇌 활동과 더 비슷한 패턴을 보였다. 하지만 비판자들은 센타우르의 예측이 잘 알려진 심리학 실험에서 인간 행동과 종종 다르다고 지적한다. 더 문제가 되는 건 이 AI가 실험 내용을 전혀 모르고도 이전 선택들의 단순한 통계 패턴만 보고 답을 맞춘다는 점이다. 이는 사람이 실제로 생각하고 판단하는 방식과는 근본적으로 다르다.

AI 내부를 들여다보는 새로운 해석 방법들

그렇다면 AI가 정말 뇌의 원리를 이해했는지 어떻게 알 수 있을까? 최근 연구자들은 AI 내부에서 특정 일을 담당하는 부분을 찾아내는 방법을 개발하고 있다. 마치 뇌에서 기억을 담당하는 부위나 언어를 처리하는 영역을 찾는 것처럼, AI에서도 문장을 늘리거나 불필요한 정보를 걸러내는 특별한 부분들을 발견했다.

더 재미있는 건 일부 AI 부분이 특정 사물에만 반응한다는 사실이다. 이미지를 보는 AI에서는 고양이만 인식하는 “고양이 담당 부분”이 발견됐고, 언어 AI에서는 골든게이트브릿지만 알아보는 특별한 부분이 찾아졌다. 이는 인간 뇌에서 시드니 오페라하우스나 특정 연예인을 볼 때만 활성화되는 뇌세포와 매우 비슷하다.

연구자들은 이제 언어 AI를 의도적으로 조작할 수도 있게 됐다. 예를 들어 “좋다”라는 평범한 단어에 “반대 의미” 신호를 보내면 AI가 “나쁘다”를 만들어내고, “스페인어” 신호를 보내면 “bueno”를 만들어낸다. 이런 조작이 여러 상황에서 일관되게 작동한다는 것은 AI가 단어의 의미를 일정한 규칙에 따라 저장하고 있음을 보여준다.

만약 사람의 뇌도 이와 비슷한 방식으로 개념을 정리한다면, 뇌 활동을 측정해서 단어나 개념 간의 관계를 수학적으로 찾아낼 수 있을 것이다. 이는 뇌 영상 촬영이나 뇌파 측정으로 실제 확인해 볼 수 있는 가설이다.

뇌과학 AI의 현실적 응용 가능성과 과제

이번 연구가 제시한 핵심은 뇌과학 AI 기술의 현주소를 명확히 보여준다는 점이다. 강력한 예측 능력을 가진 AI들이 등장했지만, 진정한 뇌 이해까지는 상당한 거리가 있다는 것이다. 현실적으로 가장 빠른 응용이 예상되는 분야는 예측 정확도만으로도 가치를 창출할 수 있는 영역들이다. 논문에서 언급한 파킨슨병 환자의 적응형 뇌심부자극술이나 척수 손상 환자의 신경 보철 기술이 대표적이다. 이런 분야에서는 AI가 뇌의 작동 원리를 완전히 이해하지 못해도, 패턴을 정확히 예측하기만 하면 환자에게 실질적 도움을 줄 수 있다.

반면 뇌의 근본 원리 이해가 필요한 복잡한 응용들은 시간이 더 걸릴 것으로 보인다. 센타우르 AI가 보여준 것처럼, 높은 예측 성능에도 불구하고 인간의 실제 사고 과정과는 다른 방식으로 작동하기 때문이다. AI가 인간의 뇌를 이해하기 위해서는 수년의 시간이 필요할 것으로 보인다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q: 뇌 연구에 쓰이는 AI가 기존 연구와 어떻게 다른가요?

A: 기존에는 연구자가 직접 뇌 신호의 특징을 정해서 분석했습니다. 예를 들어 특정 주파수만 골라내거나 주성분 분석 같은 방법을 썼죠. 하지만 새로운 AI는 원본 데이터에서 스스로 특징을 학습합니다. 이 방법이 복잡한 관계를 더 잘 포착해서 예측 성능이 향상됩니다.

Q: 센타우르 AI가 사람 행동 예측에서 보인 문제는 뭔가요?

A: 센타우르는 잘 알려진 심리 실험에서 사람과 다른 결과를 보였습니다. 특히 실험 내용을 모르고도 이전 선택들의 단순한 통계 패턴만 보고 답을 맞추는 경우가 있었는데, 이는 사람의 실제 판단 과정과는 근본적으로 다른 방식입니다.

Q: 이런 AI가 뇌과학에 진짜 도움이 되려면 뭐가 필요한가요?

A: 단순히 예측만 잘하는 것을 넘어서야 합니다. AI가 어떻게 그런 결과를 내는지 이해하고, 이를 실제 뇌의 원리와 연결시켜야 합니다. 최근 기계론적 해석가능성 연구가 이런 방향을 제시하고 있는데, AI 내부 회로를 분석해서 실제 뇌 실험으로 검증할 수 있는 가설을 만들어내는 것이 핵심입니다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문명: From Prediction to Understanding: Will AI Foundation Models Transform Brain Science?

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.