마이크로소프트, AI 환각 현상 해결책 특허 출원… “외부 지식으로 AI 오류 잡는다”

PCMag의 보도에 따르면, 마이크로소프트가 인공지능(AI)의 환각 현상이나 잘못된 응답을 줄이거나 방지할 수 있는 기술적 방법에 대한 특허를 출원했다. ‘외부 지식과 피드백을 활용한 언어 모델 상호작용(Interacting with a Language Model using External Knowledge and Feedback)’이라는 이름의 이번 특허는 지난해 미국 특허청(USPTO)에 제출됐으며, 지난 10월 31일 공개됐다. 현재 미국 특허청 웹사이트에서 특허 번호가 표시되지 않은 것으로 보아 검토 중인 것으로 보인다.

신기술의 주요 특징을 살펴보면, 이 해결책은 AI 모델에 ‘응답 보강 시스템(Response-augmenting System, RAS)’을 제공하는데, 이는 사용자의 질문에 기반해 자동으로 추가 정보를 수집하고 응답의 유용성을 검증할 수 있다.

또한, RAS는 온라인이나 데이터셋의 ‘외부 소스’에서 사용자 질문에 대한 답변이 있는지 확인한다. AI가 해당 정보를 답변에 포함하지 않을 경우 응답이 부적절하다고 판단할 수 있는 기능을 갖추고 있다.

마지막으로, 이 시스템을 통해 챗봇은 답변이 부족하거나 의심스럽다고 판단할 경우 사용자에게 이를 알리고, 사용자로부터 피드백을 받을 수 있다. 주목할 만한 점은 이 해결책이 기존 모델의 미세 조정을 필요로 하지 않는다는 것이다.

마이크로소프트는 이미 AI 환각 현상을 줄이기 위한 도구인 ‘애저 AI 콘텐츠 세이프티(Azure AI Content Safety)’를 발표한 바 있다. 이 도구는 AI 챗봇을 사용하는 기업들을 위한 것으로, AI 응답을 백엔드에서 사실 확인할 수 있는 AI 기반 검증을 제공한다. 응답을 사용자에게 전달하기 전에 ‘근거 없음’ 또는 ‘근거 있음’을 판단할 수 있다. 이는 거짓 정보 제공을 완전히 방지하지는 못하지만, AI의 주장을 뒷받침할 수 있는 실제 데이터가 있는지 확인하는 추가 검증을 제공하며 기존 출처가 있는 답변만 제공한다.

AI 환각은 생성형 AI의 가장 큰 문제로 꼽힌다. 이는 AI 챗봇을 신뢰할 수 없게 만들거나 특정 상황에서는 쓸모없게 만들 수 있다. 구글 AI 오버뷰(Google AI Overview)와 엑스의 그록 AI(X’s Grok AI)는 피자에 접착제를 바르거나 돌을 먹으라는 조언, 선거 관련 허위정보 유포 등 주목할 만한 실수를 저질렀다. 애플(Apple)의 팀 쿡(Tim Cook) CEO도 애플 인텔리전스(Apple Intelligence)가 환각 현상에서 자유롭지 않다고 인정했다. 최근에는 오픈AI(OpenAI)의 음성 기록 도구인 ‘위스퍼(Whisper)’가 미국 병원에서 사용되면서 빈번한 환각 현상이 발생해 우려를 낳고 있다.

해당 기사의 원문은 PCMag에서 확인할 수 있다.