꿀벌 떼, AI 학습 원리로 움직인다… 생물학계 ‘진화의 지혜’ 재조명

캐나다 몬트리올 폴리테크닉 대학교와 밀라 퀘벡 AI 연구소, 독일 콘스탄츠 대학교 공동 연구팀이 꿀벌 무리가 집을 찾는 과정을 분석한 결과, 이것이 AI가 학습하는 방식과 수학적으로 완전히 같다는 사실을 발견했다. 개별 꿀벌은 복잡한 계산을 못하지만, 수백 마리가 모이면 마치 하나의 똑똑한 AI처럼 최선의 선택을 한다는 것이다.

춤으로 정보를 전달하는 꿀벌, 그 안에 숨겨진 학습의 비밀

연구 논문에 따르면, 꿀벌이 새집을 찾을 때 벌어지는 일은 매우 흥미롭다. 정찰을 나간 꿀벌들은 여러 후보 장소를 둘러본 뒤 무리로 돌아와 ‘흔들기 춤(waggle dance)’을 춘다. 이 춤으로 “내가 본 곳의 위치”를 알려주는데, 재밌는 건 춤을 추는 빈도다. 좋은 장소를 발견한 꿀벌은 춤을 많이 추고, 별로인 곳을 본 꿀벌은 춤을 적게 춘다.

다른 꿀벌들은 주변에서 처음 본 춤을 따라 한다. 그냥 “저 친구 춤 좋아 보이네? 나도 그 장소 가볼까” 하는 식이다. 이렇게 단순하게 따라만 하는데도, 신기하게 무리 전체는 결국 가장 좋은 장소를 선택하게 된다. 연구팀은 이를 ‘가중 유권자 모델’이라고 부르며 수학적으로 분석했다.

꿀벌 수백 마리가 동시에 학습하는 하나의 AI 시스템

연구의 핵심은 이렇다. 꿀벌 무리 전체를 하나의 AI로 보면, 각각의 꿀벌은 그 AI가 동시에 돌리는 ‘학습 환경’ 하나하나와 같다는 것이다. 쉽게 비유하자면 이렇다. 게임 AI를 학습시킬 때, 똑같은 게임을 500개 동시에 켜놓고 학습하면 1개만 켜놓고 학습하는 것보다 훨씬 빠르다. 꿀벌도 마찬가지다. 실제 꿀벌 군집에서는 약 1만 마리 중 200~500마리 정도가 정찰벌로 활동한다. 이들이 각자 다른 장소를 탐색하고 돌아와 정보를 공유하면, 마치 하나의 똑똑한 존재가 수백 개의 장소를 동시에 살펴보는 것과 같은 효과가 난다.

실제 시뮬레이션 결과, 정찰벌이 500마리 정도만 되어도 이론상 최고 수준의 선택을 할 수 있었다. 반대로 10마리처럼 너무 적으면 잘못된 선택을 할 확률이 높아졌다.

새로운 AI 학습 방법 발견… “메이너드-크로스 러닝”이라 명명

연구팀은 꿀벌의 이런 행동 패턴을 AI 학습 알고리즘으로 만들었다. 이름은 ‘메이너드-크로스 러닝’이다. 기존 AI 학습법을 개량한 것인데, 핵심은 “평균 대비 얼마나 좋은가”를 따진다는 점이다. 예를 들어보자. 10점짜리 장소와 8점짜리 장소가 있다고 하자. 보통은 “10점이니까 좋네”라고 절대적으로 판단한다. 하지만 메이너드-크로스 러닝은 현재 평균값으로 나눠서 판단한다. 평균이 9점이면 10점은 크게 좋은 게 아니지만, 평균이 5점이면 10점은 엄청 좋은 것이 된다.

이게 바로 꿀벌이 춤추는 방식과 똑같다. 꿀벌도 절대적인 점수가 아니라, 다른 장소들의 평균 품질 대비 얼마나 좋은지에 따라 춤 빈도를 조절한다는 것이다.

꿀벌뿐 아니다… 경제, 사회, 로봇 기술에도 적용 가능

이 발견은 꿀벌을 넘어 여러 분야에 영향을 준다.

첫째, 사람들의 경제 행동도 비슷하게 설명할 수 있다. 주식 투자나 사업에서 “성공한 사람 따라하기”를 많이 하는데, 이것도 집단 수준에서 보면 AI 학습 과정의 일부라는 것이다. 개인은 그냥 따라하는 것뿐이지만, 사회 전체로 보면 점점 나은 방향으로 학습하고 있다는 의미다.

둘째, 로봇 기술에 활용할 수 있다. 수백 대의 작은 로봇들이 협력해야 하는 상황(예: 재난 현장 수색)에서, 각 로봇에게 복잡한 AI를 넣지 않아도 된다. 꿀벌처럼 단순한 규칙만 따르게 하면, 로봇 무리 전체가 똑똑하게 움직일 수 있다.

연구팀은 또한 예쁜꼬마선충(C. elegans)이라는 작은 생물도 비슷한 원리로 먹이를 찾는다는 사실도 언급했다. 이는 이런 집단 학습 원리가 자연계에 광범위하게 존재함을 보여준다.

더 빠른 방법도 있는데 왜 꿀벌은 이 방식을 택했을까

연구팀은 컴퓨터 시뮬레이션으로 다른 의사결정 방식들을 테스트해봤다. 결과는 놀라웠다. 꿀벌들이 서로 만났을 때 품질 점수를 직접 비교해서 “네가 더 높은 점수를 받았네, 너를 따라갈게”라고 결정하는 방식이 현재 꿀벌이 쓰는 방식보다 훨씬 빠르게 최선의 선택에 도달했다. 그렇다면 왜 진화는 더 느린 방법을 선택했을까? 연구팀은 핵심 문제를 지적했다. 바로 “품질 점수를 서로 비교할 수 있는 공통 기준”을 만드는 게 불가능하다는 것이다.

현실에서 꿀벌들은 각자 다른 조건에서 둥지를 평가한다. 어떤 꿀벌은 맑은 날 갔고, 어떤 꿀벌은 흐린 날 갔을 수 있다. 개별 꿀벌마다 감각 능력도 다르고, 온도·습도·공간 같은 요소에 두는 중요도도 다르다. 그러니 한 꿀벌이 “8점”이라고 평가한 것과 다른 꿀벌이 “8점”이라고 평가한 것이 실제로 같은 품질인지 알 수 없다. 점수를 직접 비교하려면 모든 꿀벌이 같은 척도로 평가해야 하는데, 이는 매우 어려운 문제다.

꿀벌의 현재 방식은 이 문제를 영리하게 피해간다. 각 꿀벌은 자신의 주관적 평가(품질 점수)를 단순히 “춤 빈도”로 바꿔서 전달한다. 다른 꿀벌들은 품질 점수 자체를 듣는 게 아니라 춤 빈도만 본다. 즉, “이 친구가 얼마나 열심히 춤추나”만 관찰하면 된다. 이렇게 하면 척도 교정 문제가 완전히 사라진다.

물론 이 방식은 더 느리다. 하지만 개별 꿀벌의 뇌는 최소한으로 단순하게 유지할 수 있다. 신경 조직은 엄청난 에너지를 소비한다(포유류의 경우 다른 조직보다 단위 무게당 거의 10배). 꿀벌도 비슷할 것이다. 진화는 “개체는 최대한 단순하게, 집단은 충분히 똑똑하게”라는 전략을 택한 것이다. 수렴 속도는 조금 느려도, 에너지 효율이 좋고 개체마다 능력이 달라도 견고하게 작동하는 시스템을 선택했다.

수백만 기기의 협력, 꿀벌에게 배운다

이 연구는 AI 기술 개발의 새로운 방향을 제시한다. 지금까지 AI 개발은 “하나의 슈퍼 AI 만들기”에 집중했다. 거대하고 똑똑한 하나의 AI를 만드는 식이다. 하지만 자연은 다른 답을 보여준다. “작고 단순한 것들을 많이 모아라.” 특히 스마트폰, IoT 기기처럼 개별 성능은 낮지만 엄청나게 많은 기기가 협력해야 하는 상황에서, 꿀벌 전략이 더 효율적일 수 있다.

또한 대규모 AI 학습에서도 의미가 있다. 여러 컴퓨터에 AI를 분산해서 학습시킬 때, 복잡한 데이터 교환 없이도 단순한 정보만 공유하면 효과적으로 학습할 수 있다는 뜻이다. 통신 비용을 크게 줄이면서도 학습 효율은 유지할 수 있는 것이다. 무엇보다 이 연구는 “복잡한 것이 꼭 좋은 것은 아니다”라는 교훈을 준다. 때로는 단순한 규칙의 집합이 복잡한 알고리즘보다 나을 수 있다.

FAQ( ※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다.)

Q. AI 강화학습이 뭔가요? 꿀벌과 무슨 관계인가요?

A: AI 강화학습은 시행착오로 배우는 방식이다. 게임 AI가 계속 게임을 하면서 점수가 높아지는 방법을 찾아가는 것처럼 말이다. 이번 연구는 꿀벌 무리가 집을 찾는 과정이 수학적으로 이 학습 방식과 완전히 같다는 걸 증명했다. 개별 꿀벌은 학습 안 하는데, 무리 전체는 마치 하나의 AI처럼 학습한다.

Q. 이게 실제로 어디에 쓰일 수 있나요?

A: 여러 대의 로봇이 협력하는 기술, 수많은 컴퓨터가 함께 계산하는 시스템, 여러 AI가 협력하는 기술 등에 쓸 수 있다. 특히 각각은 성능이 낮지만 많은 수가 협력해야 할 때 유용하다. 개별적으로는 단순해도 모이면 똑똑해지는 원리를 활용하는 것이다.

Q. 더 빠른 방법이 있는데 왜 꿀벌은 지금 방식을 쓰나요?

A: 더 빠른 방법은 더 복잡한 신경회로가 필요하고, 뇌는 엄청난 에너지를 소비한다. 또한 개체마다 품질을 다르게 느낄 수 있어서 점수를 직접 비교하기 어렵다. 꿀벌의 현재 방식은 최소한의 인지 능력으로도 충분하면서 결과도 충분히 좋다. 진화는 “최고”가 아니라 “에너지 대비 충분히 좋은 것”을 선택한다.

해당 기사에 인용된 논문 원문은 arvix에서 확인 가능하다.

논문명: The Hive Mind is a Single Reinforcement Learning Agent

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.