인공지능 기술기업 엑소랩스(EXO Labs)가 26년 된 인텔 펜티엄2 CPU와 128MB RAM이 장착된 윈도우98 PC에서 대규모 언어모델(LLM)을 구동하는데 성공했다. 엑소랩스는 지난 달 29일(현지 시간) X를 통해 공개한 영상에서 구형 PC에서 AI 언어모델이 작동하는 모습을 시연했다. 이는 테슬라 AI 디렉터 출신 안드레이 카파시(Andrej Karpathy)가 개발한 ‘라마2.c(llama2.c)’를 기반으로 한 자체 추론 엔진 ‘라마98.c(llama98.c)’를 통해 구현됐다.
1998년에 출시된 펜티엄2 프로세서와 128MB RAM이라는 제한된 하드웨어 사양에도 불구하고 최신 AI 모델을 구동시키는데 성공했다. 이는 기존 AI 모델 구동에 요구되던 고성능 하드웨어의 제약을 극복했다는 점에서 의미가 크다. 엑소랩스의 이번 성과는 고가의 최신 하드웨어 없이도 AI 기술을 활용할 수 있는 가능성을 보여줬다. 회사 측은 이번 프로젝트의 전체 소스코드와 DIY 가이드를 공개하며 AI 기술의 접근성을 높이는데 기여하고 있다.
엑소랩스는 윈도우98 PC뿐만 아니라 노키아 3310과 같은 구형 피처폰에서도 AI 시스템과 상호작용할 수 있는 기술을 선보였다. 이는 AI 기술이 고성능 장비에만 국한되지 않고 다양한 기기로 확장될 수 있음을 시사한다. “이번 성과는 AI 기술이 고성능 컴퓨터나 클라우드 서버에만 의존하지 않아도 된다는 것을 증명했다”며 “소비자들의 일상적인 기기에서도 AI를 활용할 수 있는 시대가 열리고 있다”고 엑소랩스는 설명했다.
기사에서 인용한 실험에 대한 자세한 사항은 엑소랩스 X에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
