[LlmaCon 2025] 메타, ‘라마 API 프리뷰’ 공개… “오픈소스의 유연성+ 폐쇄형 모델 API의 장점 결합”

메타(Meta)가 첫 번째 라마콘 2025(LlamaCon 2025)에서 라마 API와 새로운 보안 도구, 라마 임팩트 그랜트 수상자 등을 발표했다. 이번 행사는 라마(Llama) 모델을 활용해 애플리케이션을 개발하는 개발자들이 한자리에 모인 첫 번째 공식 행사다. 메타는 개발자들이 더 쉽게 라마 모델을 사용할 수 있도록 라마 API를 제한적 무료 프리뷰로 출시했다. 라마 API는 원클릭 API 키 생성과 다양한 라마 모델을 탐색할 수 있는 상호작용 플레이그라운드를 제공한다. 이 API를 통해 이번 달 초 발표된 라마 4 스카우트(Llama 4 Scout)와 라마 4 매버릭(Llama 4 Maverick) 모델도 활용할 수 있다.

라마 API는 파이썬과 타입스크립트용 경량 SDK를 제공하며, 오픈AI(OpenAI) SDK와도 호환되어 기존 애플리케이션을 쉽게 전환할 수 있다. 메타 관계자는 “개발자들이 모델을 사용자 정의하고 더 효율적으로 실행할 수 있는 도구가 중요하다는 것을 알고 있다”며 “새로운 API의 일부로 미세 조정 및 평가 도구를 공유하고 있으며, 이를 통해 새로운 라마 3.3 8B 모델의 맞춤형 버전을 조정할 수 있다”고 밝혔다.

라마 API는 비용 절감과 속도 및 정확성 향상을 위한 기능을 제공하며, 사용자는 데이터를 생성하고 훈련한 후 평가 도구를 사용해 새 모델의 품질을 쉽게 테스트할 수 있다. 메타는 콘텐츠와 데이터의 보안과, 개인정보 보호를 최우선으로 하며, 프롬프트나 모델 응답을 AI 모델 학습에 사용하지 않는다고 강조했다. 라마 API에서 구축한 모델은 사용자가 원하는 어디서든 호스팅할 수 있으며, 메타 서버에 잠겨 있지 않다. 이러한 기능은 현재 일부 고객에게 소개되고 있으며, 향후 몇 주, 몇 달 동안 더 널리 출시될 예정이다.

메타는 세레브라스(Cerebras)와 그록(Groq)과의 협업을 통해 라마 API를 사용하는 개발자들이 더 빠른 추론 속도를 달성할 수 있도록 지원한다. 세레브라스와 그록이 제공하는 라마 4 모델에 대한 초기 실험적 접근이 요청에 따라 제공되며, API에서 세레브라스나 그록 모델 이름을 선택하면 개발자들은 이 기능을 활용하고 모든 사용량을 한 곳에서 추적할 수 있다.

메타는 작년부터 다양한 서비스 제공자들과 협력하여 라마 스택 배포를 쉽게 만들고 있다. 최근에는 라마 스택과 엔비디아(NVIDIA) 네모(NeMo) 마이크로서비스의 통합을 발표했으며, IBM, 레드햇(Red Hat), 델 테크놀로지스(Dell Technologies) 등과도 긴밀히 협력하고 있다.

메타는 개발자들에게 안전한 AI 애플리케이션을 구축할 수 있는 최상의 도구와 리소스를 제공하기 위해 노력하고 있다. 이번 라마콘에서는 라마 가드 4(Llama Guard 4), 라마 파이어월(LlamaFirewall), 라마 프롬프트 가드 2(Llama Prompt Guard 2) 등 오픈소스 커뮤니티를 위한 새로운 라마 보호 도구를 발표했다. 또한 사이버시켓발 4(CyberSecEval 4)를 통해 보안 운영에서 AI 시스템의 효율성을 평가하는 데 도움이 되는 업데이트와 함께 일부 파트너를 위한 라마 디펜더스 프로그램(Llama Defenders Program)도 발표했다.

또한 사이버시켓발 4(CyberSecEval 4)를 통해 보안 운영에서 AI 시스템의 효율성을 평가하는 데 도움이 되는 업데이트와 함께 일부 파트너를 위한 라마 디펜더스 프로그램(Llama Defenders Program)도 발표했다. 메타는 더 강력한 AI 모델이 등장함에 따라 소프트웨어 시스템의 견고성을 향상시키는 것이 중요하다고 밝혔다.

해당 기사의 원문은 링크에서 확인할 수 있다.

이미지 출처: 메타

기사는 클로드와 챗gpt를 활용해 작성되었습니다.