“먼저 알아서 도와준다”는 AI 안경, 과연 축복일까 재앙일까

상하이교통대 연구팀이 사용자가 요청하기 전에 먼저 필요를 파악해 서비스를 제공하는 AI 시스템 ‘알파서비스’를 공개했다. AI 안경만 쓰면 블랙잭 게임 조언부터 박물관 가이드, 쇼핑 추천까지 알아서 해준다. 하지만 이미 알림에 시달리는 현대인에게 “원하지 않아도 먼저 말 거는 AI”가 과연 환영받을 수 있을까.

물어보지 않아도 알아서 알려주는 AI

상하이교통대 EPIC 연구소가 개발한 알파서비스는 기존 AI와 다르다. 지금까지 AI는 사용자가 질문해야 답했다. 챗GPT에 물어야 답을 하고, 시리를 부르면 그때서야 반응한다. 하지만 알파서비스는 AI 안경으로 사용자가 보는 것을 실시간으로 관찰하며, 도움이 필요한 순간을 스스로 판단해 개입한다.

핵심은 두 가지다. 첫째, 언제 개입할지 판단한다. AI는 1인칭 시점 영상을 지속적으로 분석해 서비스가 필요한 시점을 감지한다. 둘째, 어떻게 도울지 결정한다. 단순한 정보 제공을 넘어, 사용자의 과거 행동 패턴을 학습해 맞춤형 서비스를 제공한다.

시스템은 컴퓨터 구조에서 영감을 받았다. 카메라로 환경을 인식하고, 중앙 컴퓨터가 작업을 분석하고, 웹 검색 같은 도구를 활용한다. 메모리에는 사용자 정보를 저장하고, 마지막으로 음성이나 텍스트로 결과를 전달한다. 특히 입력 부분은 이중 구조다. 작은 모델이 지속적으로 영상을 모니터링하다가, 중요한 순간이 감지되면 강력한 분석 모델이 작동한다.

30초에 네 번 말 거는 AI

연구팀은 세 가지 사례를 시연했다. 블랙잭 게임에서는 AI가 카드를 분석하며 조언한다. 8초 시점에 “히트하세요. 6점은 너무 약합니다”라고 말하고, 13초에 “히트하세요. 버스트 확률은 31퍼센트입니다”라고 확률까지 알려준다. 박물관에서는 전시품을 15초간 보자 “이것은 상나라 시대 청동 유물 사양방존입니다”라며 역사와 의미를 설명한다. 쇼핑할 때는 옷을 집자마자 “부드러운 니트 소재입니다. 청바지와 잘 어울립니다”라고 조언한다.

개인 맞춤형 서비스도 가능하다. 예를 들어 이탈리아 친퀘테레에 도착했을 때, 일반 사용자에게는 “여기는 친퀘테레입니다”라는 정보만 준다. 하지만 과거에 유럽 여행을 검색하고 요리 영상을 많이 본 사용자에게는 “근처 특색 레스토랑과 와인 시음 코스를 선별했습니다”라고 맞춤 제안한다.

알림 지옥에 AI까지 끼어들면

문제는 이미 우리가 알림에 지쳐 있다는 점이다. 평균적인 스마트폰 사용자는 하루에 46개 이상의 알림을 받는다. 소셜미디어, 이메일, 뉴스, 쇼핑몰 할인 정보까지. 조사에 따르면 사용자의 52퍼센트가 알림을 성가시다고 느끼고, 알림이 너무 많으면 78퍼센트가 앱을 삭제한다.

이런 상황에서 AI까지 “물어보지도 않았는데 먼저 말을 건다”면 어떻게 될까. 블랙잭 시연을 보면, 30초도 안 되는 시간에 네 번 조언한다. 연구팀은 “적시 개입”이라고 하지만, 사용자는 “과도한 간섭”으로 느낄 수 있다. 게임이나 여가 활동에서는 몰입감이 중요한데, AI가 몇 초마다 끼어들면 오히려 경험을 해친다. 자기가 생각하고 선택하는 재미가 사라지는 것이다.

박물관도 마찬가지다. AI는 사용자가 전시품을 15초 보자 자동으로 설명했다. 하지만 관람객이 정말 정보를 원하는지, 조용히 감상하고 싶은지 어떻게 알까. 많은 사람들이 오디오 가이드를 선택 사항으로 두는 이유가 있다. 어떤 사람은 설명을 듣고 싶지만, 어떤 사람은 작품 앞에서 조용히 시간을 보내고 싶다.

타이밍을 읽는 게 생각보다 어렵다

“언제 개입할지” 판단하는 것은 생각보다 훨씬 어렵다. 쇼핑 예시를 보자. AI는 사용자가 옷을 집자마자 “구매 검토 중”이라고 판단하고 조언한다. 하지만 옷을 만지는 이유는 다양하다. 정말 살지 고민 중일 수도 있지만, 단순히 소재가 궁금해서, 친구에게 보여주려고, 혹은 아무 생각 없이 만진 것일 수도 있다.

더 큰 문제는 맥락의 미묘함이다. 박물관에서 조각상을 오래 본다고 해서 모두 정보가 필요한 건 아니다. 피곤해서 잠시 쉬는 중일 수도, 뒤편 풍경을 보는 중일 수도, 작품이 마음에 안 들어서 고개를 갸웃하는 중일 수도 있다. 이런 상황에서 AI가 갑자기 장황한 설명을 시작하면, 그건 도움이 아니라 소음이다.

스마트폰에서도 이 문제는 오래 지적됐다. 애플이 “포커스 모드”를 만들고, 구글이 “방해 금지 모드”를 강화한 이유는 사용자들이 상황에 따라 알림을 통제하고 싶어 하기 때문이다. 회의 중에, 영화 볼 때, 가족과 식사할 때는 알림을 받고 싶지 않다. 하지만 AI 안경은 착용하는 순간부터 계속 작동한다. 논문에는 사용자가 이를 세밀하게 제어하는 방법이 없다.

침묵도 지능이다

해결책은 역설적이게도 “덜 능동적인” AI다. 대부분의 사람들은 알림을 꺼두고, 중요한 것만 받도록 설정한다. 필요할 때 내가 찾아가는 방식을 선호한다는 뜻이다.

따라서 알파서비스가 실용화되려면, 사용자에게 더 많은 통제권을 줘야 한다. 기본적으로 “능동 모드”와 “수동 모드”를 전환할 수 있어야 한다. 하지만 이것만으로는 부족하다. 박물관에서는 가이드가 필요하지만, 친구와 대화 중일 때는 방해받고 싶지 않을 수 있다.

더 좋은 방법은 “반능동” 방식이다. AI가 도움이 필요할 것 같으면, 즉시 설명하는 대신 “이 전시품 정보를 드릴까요?”라고 짧게 물어본다. 사용자가 허락할 때만 전체 설명을 제공하는 것이다. 최종 결정권은 사용자가 갖는다.

궁극적으로 능동적 AI의 성공은 “언제 말할지”보다 “언제 침묵할지”를 아는 데 달렸다. 좋은 친구는 항상 말을 거는 사람이 아니라, 필요할 때 곁에 있어주고 그렇지 않을 때는 조용히 물러나는 사람이다. AI도 마찬가지다. 진정한 지능은 방대한 정보를 쏟아내는 능력이 아니라, 언제 그 정보를 숨겨야 하는지 아는 절제다.

알파서비스는 기술적으로 인상적이다. 하지만 데모와 실제 일상은 다르다. 30초에 네 번 조언하는 게 데모에서는 유용해 보이지만, 하루 종일 착용하는 안경이 몇 분마다 말을 건다면 견딜 사람이 몇이나 될까. 어쩌면 우리는 질문을 다시 던져야 한다. 과연 우리는 모든 순간에 AI의 도움이 필요한가. 아니면 때로는 스스로 헤매고, 실수하고, 배우는 과정 자체에 가치가 있는 것은 아닐까. 지금 우리에게 필요한 것은 더 똑똑한 AI가 아니라, 언제 침묵해야 할지 아는 지혜로운 AI다.

FAQ (※ 이 FAQ는 본지가 리포트를 참고해 자체 작성한 내용입니다)

Q. 능동적 AI 서비스가 뭔가요?

A. 사용자가 질문하기 전에 AI가 먼저 도움을 주는 방식입니다. 지금까지 AI는 물어봐야 답했지만, 능동적 AI는 AI 안경으로 환경을 보면서 필요한 순간을 스스로 판단해 개입합니다. 박물관 전시품을 보면 자동으로 설명하는 식입니다.

Q. AI가 너무 자주 끼어들면 오히려 방해 아닌가요?

A. 맞습니다. 그게 가장 큰 문제입니다. 하루 평균 46개 알림에 시달리는데 AI까지 계속 말을 걸면 알림 피로가 심해집니다. 시연에서는 30초에 네 번 조언했는데, 이게 계속되면 몰입감이 깨지고 스트레스를 받을 수 있습니다.

Q. 능동적인 AI 서비스에서 발생할 수 있는 문제는 어떻게 개선할 수 있나요?

A. 사용자가 직접 통제할 수 있어야 합니다. 능동 모드와 수동 모드를 선택하고, 상황에 따라 AI를 끌 수 있어야 합니다. 더 좋은 방법은 AI가 즉시 설명하는 대신 “도움 드릴까요?”라고 짧게 물어보는 것입니다. 진정한 지능은 언제 말할지뿐 아니라 언제 침묵할지 아는 것입니다.

기사에 인용된 리포트 원문은 arXiv에서 확인할 수 있다.

리포트명: AI for Service: Proactive Assistance with AI Glasses

이미지 출처: 이디오그램 생성

해당 기사는 챗GPT와 클로드를 활용해 작성되었습니다.