온디바이스 AI, 제3의 IT혁명의 주역으로 부상

인공지능(AI) 기술이 우리 일상 깊숙이 파고들면서 새로운 IT 혁명의 시대가 열리고 있다. 이번 혁명의 주역은 바로 ‘온디바이스 AI’다. 온디바이스 AI는 클라우드 서버를 거치지 않고 스마트폰, PC, 자동차 등 개별 기기에서 직접 AI 기능을 수행하는 기술을 말한다. 이 기술은 빠른 응답 속도, 개선된 데이터 보안, 네트워크 연결 없이도 작동 가능한 장점을 지니고 있어 차세대 AI 기술로 주목받고 있다.

IT 기술의 발전은 인류의 삶에 큰 변화를 가져왔다. 1990년대 후반 PC와 인터넷의 보급으로 시작된 첫 번째 IT 혁명, 2007년 아이폰으로 시작된 스마트폰 시대의 두 번째 IT 혁명에 이어, 이제 온디바이스 AI가 세 번째 IT 혁명을 이끌 것으로 전망된다.

삼일PwC경영연구원의 보고서에 따르면, 온디바이스 AI는 단순한 기술 혁신을 넘어 산업 전반의 패러다임을 바꿀 것으로 예상된다. 특히 스마트폰, PC, 가전제품, 자동차 등 다양한 기기에 AI가 탑재되면서 전자기기의 대규모 대체 수요가 발생할 것으로 보인다.

온디바이스 AI의 핵심 장점은 네트워크 지연 없이 실시간으로 AI 기능을 수행할 수 있다는 점이다. 이는 자율주행 차량이나 의료기기와 같이 즉각적인 반응이 필요한 분야에서 특히 중요하다. 또한, 개인정보가 기기 내에서 처리되므로 데이터 보안 측면에서도 유리하다.

온디바이스 AI 구현의 핵심에는 두 가지 중요한 기술이 있다. 하나는 하드웨어 측면의 신경망처리장치(NPU)이고, 다른 하나는 소프트웨어 측면의 AI 모델 경량화 기술이다.

NPU는 AI 연산에 최적화된 반도체로, 기존의 CPU나 GPU보다 AI 작업에 특화되어 있다. NPU는 병렬 처리 능력이 뛰어나 대량의 데이터를 동시에 처리할 수 있으며, 전력 효율성도 높다. 삼성전자, 퀄컴, 애플 등 주요 기업들이 자체 NPU를 개발하고 있으며, 국내 스타트업들도 이 분야에서 활발한 연구개발을 진행 중이다.

예를 들어, 삼성전자는 ‘엑시노스 2400’ 칩을 개발해 기존 대비 NPU 성능을 14.7배 향상시켰다. 이 칩은 갤럭시 S24 시리즈에 탑재되어 실시간 통역 기능 등 다양한 AI 기능을 제공한다. 퀄컴의 ‘Snapdragon 8 Gen 3’ 칩은 이전 세대 제품보다 NPU 성능을 98% 개선했으며, 메타의 대규모 언어 모델인 ‘Llama 2’를 지원할 계획이다.

AI 모델 경량화 기술은 대규모 AI 모델의 성능은 유지하면서 크기를 줄여 소형 기기에서도 구동할 수 있게 하는 기술이다. 이 기술은 모델 압축, 지식 증류, 양자화 등 다양한 방법을 통해 구현된다. 구글, 메타 등 글로벌 기업들과 국내 기업들도 이 기술 개발에 박차를 가하고 있다.

구글은 ‘PaLM 2’ 모델을 개발하면서 이전 버전보다 매개변수는 줄이고 학습 데이터 양은 5배 늘려 성능을 개선했다. 메타는 ‘Llama 2’를 오픈소스로 공개하여 개발자들이 이를 기반으로 다양한 애플리케이션을 만들 수 있게 했다. 국내에서는 삼성전자가 ‘온디바이스 AI 경량화 알고리즘’을 개발해 32비트 딥러닝 데이터를 4비트 이하로 낮추는 기술을 선보였다.

글로벌 시장조사기관 GMI에 따르면, 온디바이스 AI 시장은 2023년 50억 달러에서 2032년 700억 달러 규모로 연평균 25% 성장할 전망이다. KB증권은 2028년까지 전체 PC 시장의 80%, 스마트폰 시장의 60%가 AI를 탑재할 것으로 예측했다.

이러한 성장세에 힘입어 관련 산업도 함께 발전할 것으로 보인다. 특히 NPU와 같은 AI 반도체와 DRAM 등 메모리 반도체 시장이 크게 성장할 것으로 예상된다. 삼성전자와 SK하이닉스 등 국내 기업들도 이 분야에서 활발한 기술 개발을 진행 중이다.

삼성전자는 ‘LLW(Low Latency Wide)’ D램을 개발 중이며, 이는 기존 모바일 제품인 ‘LPDDR’ 대비 대역폭을 높인 특수 D램이다. SK하이닉스는 ‘LPDDR5T’를 개발해 모바일용 D램 중 가장 빠른 데이터 처리 속도를 구현했다. 이러한 고성능 메모리 반도체는 온디바이스 AI의 성능을 크게 향상시킬 것으로 기대된다.

온디바이스 AI는 다양한 산업 분야에 혁신을 가져올 것으로 예상된다. 먼저 스마트폰 산업에서는 실시간 언어 번역, 고급 이미지 처리, 개인화된 AI 비서 등의 기능이 더욱 발전할 것이다. PC 산업에서는 AI가 탑재된 ‘인텔리전트 PC’가 등장해 사용자의 작업 패턴을 학습하고 최적화된 성능을 제공할 것이다.

자동차 산업에서는 온디바이스 AI가 자율주행 기술의 핵심 요소가 될 것이다. 네트워크 지연 없이 실시간으로 주행 환경을 분석하고 대응할 수 있어 안전성이 크게 향상될 것으로 기대된다. 가전제품 분야에서는 AI 탑재 냉장고, 세탁기, 에어컨 등이 사용자의 생활 패턴을 학습해 최적의 서비스를 제공할 것이다.

의료 분야에서는 온디바이스 AI가 탑재된 웨어러블 기기가 실시간으로 사용자의 건강 상태를 모니터링하고 즉각적인 피드백을 제공할 수 있을 것이다. 보안 분야에서는 AI 기반의 얼굴 인식, 이상 행동 감지 등의 기술이 더욱 정교해질 것으로 예상된다.

온디바이스 AI는 개인의 일상생활부터 산업 전반에 이르기까지 광범위한 영향을 미칠 것으로 보인다. 그러나 이 기술이 성공적으로 안착하기 위해서는 몇 가지 과제도 있다.

첫째, 제한된 학습 데이터로 인한 성능 한계를 극복해야 한다. 클라우드 기반 AI에 비해 상대적으로 적은 데이터로 학습을 해야 하므로, 이를 보완할 수 있는 효율적인 학습 알고리즘 개발이 필요하다.

둘째, AI 기술 악용 가능성에 대한 대비가 필요하다. 온디바이스 AI는 개인정보를 기기 내에서 처리하므로 보안성이 높지만, 악의적인 목적으로 AI를 조작하거나 오용할 가능성도 있다. 이에 대한 윤리적, 기술적 대책 마련이 시급하다.

셋째, 다양한 AI 기기들이 조화롭게 작동할 수 있는 ‘앰비언트 컴퓨팅’ 환경 구축이 필요하다. 사용자를 중심으로 여러 기기가 유기적으로 연결되어 최적의 서비스를 제공하는 환경을 만들어야 한다.

마지막으로, 온디바이스 AI 기술 발전을 위한 지속적인 투자와 인재 육성이 필요하다. 정부는 ‘AI 반도체 산업 성장 지원 대책’을 통해 2027년까지 R&D에 총 1조200억 원을 투입할 계획이다. 또한, 산학연 협력을 통해 AI 반도체 전문 인력을 양성하는 프로그램도 확대할 예정이다.

온디바이스 AI는 이제 막 시작된 기술이지만, 그 잠재력은 무궁무진하다. 정부와 기업, 연구기관들의 지속적인 투자와 협력을 통해 이 분야에서의 경쟁력을 확보한다면, 대한민국이 AI 강국으로 도약하는 데 큰 힘이 될 것이다. 앞으로 온디바이스 AI가 가져올 혁신적인 변화와 그 발전 과정을 주목해야 할 때다.

삼일회계법인의 리포트는 링크에서 확인할 수 있다.

본 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다. 

관련 콘텐츠 더보기