엔비디아(NVIDIA)가 기업의 다국어 생성 AI를 위한 ‘NeMo Retriever’ 마이크로서비스를 출시했다. 23일(한국 시간) 엔비디아 블로그에 게시된 발표에 따르면, 이 서비스는 기존 대비 35배 향상된 데이터 저장 효율성을 제공하며, NVIDIA API 카탈로그를 통해 제공된다.
다국어 AI 검색의 새로운 표준 제시
NeMo Retriever는 여러 언어로 된 문서와 데이터를 효율적으로 처리하고 검색할 수 있는 기능을 제공한다. 이 서비스를 통해 기업들은 대규모 데이터셋에서 지식을 추출하여 더 정확한 응답을 제공할 수 있게 됐다. 특히 대부분의 주요 글로벌 언어로 된 기업 데이터에 원활하게 연결되어 사용자층을 확대할 수 있다.
위키미디어의 성공적인 도입 사례
위키미디어(Wikimedia)는 데이터스택스(DataStax)와 협력해 NeMo Retriever를 도입했다. 그 결과 1,000만 개 이상의 위키데이터 항목을 벡터화하는 시간을 30일에서 3일로 단축했다. 이는 세계 최대 규모의 오픈소스 지식 그래프에 대한 다국어 접근성을 크게 향상시켰다.
주요 기업들의 적극적인 도입
데이터스택스(DataStax)는 NVIDIA AI 블루프린트(Blueprints)를 사용하고 NVIDIA NeMo 커스터마이저(Customizer), 큐레이터(Curator), 에벨루에이터(Evaluator), 가드레일(Guardrails) 마이크로서비스를 랭플로우(LangFlow) AI 코드 빌더에 통합했다. 클라우데라(Cloudera)는 클라우데라 AI 추론 서비스에 NVIDIA NeMo Retriever를 포함시킬 예정이다. 코히시티(Cohesity)는 업계 최초로 생성형 AI 기반 대화형 검색 어시스턴트를 출시했다. 이 어시스턴트는 NVIDIA NeMo Retriever 재순위 지정 마이크로서비스를 사용해 검색 정확도를 개선했다.
SAP는 NeMo Retriever의 접지 기능을 사용해 Q&A 기능과 사용자 지정 문서에서 검색된 정보에 맥락을 추가하고 있다. 바스트 데이터(VAST Data)는 NVIDIA와 함께 VAST Data 인사이트엔진(InsightEngine)에 NeMo Retriever 마이크로서비스를 배포해 실시간 데이터 분석을 강화했다. 위카(WEKA)는 초당 수십만 개의 토큰을 처리하는 확장 가능한 멀티모달 AI 솔루션을 제공하기 위해 WEKA AI RAG 레퍼런스 플랫폼(WARRP) 아키텍처와 NVIDIA NIM 및 NeMo Retriever를 통합했다.
기술적 특징과 활용 방안
NeMo Retriever는 긴 컨텍스트 지원을 통해 긴 계약서나 상세한 의료 기록도 처리할 수 있다. 또한 확장된 상호 작용에서도 정확성과 일관성을 유지한다. 기업들은 이 서비스를 통해 직원, 고객, 사용자에게 더 정확하고 신뢰할 수 있는 결과를 제공할 수 있게 됐다. 개발자들은 NVIDIA API 카탈로그 또는 무료 90일 NVIDIA AI 엔터프라이즈 개발자 라이선스를 통해 다국어 NeMo Retriever 마이크로서비스와 기타 정보 검색을 위한 NIM 마이크로서비스에 접근할 수 있다.
엔비디아는 이 기술이 검색, 질의응답, 요약 및 추천 시스템과 같은 다양한 기업 사용 사례에 활용될 수 있을 것이라고 전망했다.
해당 기사의 원문은 엔비디아 블로그에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
