앤트로픽이 7월 6일 클로드 내부에서 ‘생각의 작업공간’처럼 작동하는 영역을 찾았다고 밝혔다. 회사는 이 연구를 ‘언어 모델 속 전역 작업공간(global workspace)’이라는 제목으로 공개했다. 이 영역을 J-스페이스(J-space)라고 부른다.
J-스페이스는 클로드 내부의 작지만 특별한 공간이다. 모델이 스스로 보고할 수 있고, 잠시 붙들어 두며, 여러 단계 추론에 쓰고, 때로는 최종 답이 나오기 전에 미리 드러내는 생각이 이곳을 지난다. 앤트로픽은 이를 찾는 데 자코비안 렌즈(Jacobian lens), 줄여서 J-렌즈라는 해석 도구를 썼다. J-렌즈는 어휘의 각 단어에 대해, 특정 내부 활동 패턴이 앞으로 그 단어를 말하게 만들 평균적 영향을 계산한다.
이 공간의 역할은 억제 실험에서 확인됐다. J-스페이스를 눌러 막자 추론·조합·유연한 사고가 필요한 작업의 성능이 급격히 떨어졌다. 다단계 추론, 유추 완성, 번역, 소넷 짓기 같은 과제에서 성능이 훨씬 작은 클로드 하이쿠보다도 낮아졌다. 모델이 토큰을 내놓기 전에 추론 패턴을 미리 들여다볼 수 있는 통로여서, 정렬(얼라인먼트) 팀이나 감사 기관이 위험도 높은 배포에 이를 붙여 쓸 수 있다. 토큰은 모델이 언어를 처리하는 최소 단위이고, 정렬은 AI가 인간의 의도와 가치에 맞게 작동하도록 맞추는 일이다.
앤트로픽은 한 가지를 분명히 선을 그었다. 이 연구는 클로드가 의식을 가졌다고 주장하지 않는다. 다만 이 발견은 의식을 설명하는 유력한 이론인 ‘전역 작업공간 이론’과 구조가 닮아 논쟁을 불렀다. 이 이론은 뇌가 여러 정보를 하나의 공용 공간에 올려 의식적 사고를 만든다고 설명한다. 앤트로픽은 J-렌즈의 오픈소스 구현과 뉴런피디아(Neuronpedia) 데모를 함께 공개했다. 연구 커뮤니티가 직접 검증해 보도록 열어 둔 것이다.
자세한 내용은 VentureBeat에서 확인할 수 있다.
이미지 출처: 이디오그램 생성
