OpenAI, MS 애저에서 GPT 새로운 기능 발표

출처: MS 홈페이지

오픈AI(OpenAI)가 MS Azure 플랫폼에서 새로운 모델을 공개했다.

이번에 공개한 ‘GPT-4o-2024-08-06’ 모델은 Azure에서 개발자 경험을 향상시키기 위해 설계된 기능을 제공한다. 특히 GPT-4o와 GPT-4o mini 모델을 위한 JSON 스키마와 같은 구조화된 출력을 통해 생산성을 높이는 데 중점을 두고 있다.

구조화된 출력에 중점

GPT-4o는 2024년 5월에 OpenAI의 새로운 멀티모달 모델로 처음 발표되었으며, GPT-4o mini는 2024년 7월에 발표되었다. 이번 버전은 AI 모델에서 잘 정의된 구조화된 출력을 생성하는 과정을 단순화하는 특정 사용 사례를 위해 설계되었다. 이 기능은 AI 출력을 JSON 스키마와 같은 구조로 검증하고 형식화해야 하는 개발자들에게 특히 유용하다.

구조화된 출력은 개발자가 AI 모델에서 직접 원하는 출력 형식을 지정할 수 있게 한다. 이 기능을 통해 개발자는 텍스트 출력에 대한 JSON 스키마를 정의할 수 있어, 다른 시스템과 원활하게 통합되거나 사용자 경험을 향상시킬 수 있는 데이터 페이로드를 생성하는 과정이 간소화된다.

JSON의 사용 사례

JSON 스키마는 JSON 문서의 구조와 제약 조건을 정의하는 데 필수적이며, 특정 형식을 따르는 필수 속성과 값 유형을 보장한다. 이는 의미론적 주석을 통해 데이터 이해도를 높이고 최적화된 애플리케이션 요구 사항을 위한 도메인 특화 언어 역할을 한다. 개발 팀은 JSON 스키마를 사용하여 플랫폼 간 일관성을 유지하고, 모델 기반 UI 제약 조건을 구동하며, 사용자 인터페이스를 자동으로 생성한다.

구조화된 출력의 두 가지 유형

구조화된 출력은 두 가지 형태로 제공된다:

1. 사용자 정의 JSON 스키마: 개발자가 AI가 따라야 할 정확한 JSON 스키마를 지정할 수 있다. GPT-4o-2024-08-06과 GPT-4o-mini-2024-07-18 모두 지원한다.
2. 더 정확한 도구 출력(“엄격 모드”): 도구 사용을 위한 특정 함수 서명을 정의할 수 있는 제한된 버전이다. 2023년 6월 이후의 GPT-3.5 Turbo, GPT-4, GPT-4 Turbo, GPT-4o 모델을 포함한 모든 함수 호출을 지원하는 모델에서 사용 가능하다.

구조화된 출력 사용을 위한 기술 지침

개발자들이 구조화된 출력을 시작하는 데 도움이 되도록 다음과 같은 접근 방식을 권장한다:

1. JSON 스키마 정의: AI 출력이 따라야 할 구조를 결정한다. 필수 필드, 데이터 유형 및 기타 제약 조건을 포함할 수 있다.
2. AI 모델 구성: API 호출 내에서 구조화된 출력 기능을 사용하여 JSON 스키마를 지정한다. 이를 통해 AI 출력이 정의된 구조를 준수하도록 보장한다.
3. 통합 및 테스트: 출력을 애플리케이션이나 시스템에 통합하고, JSON 스키마 준수 여부를 철저히 테스트한다.

사용 사례 예시: 고객 지원 자동화

고객 지원 챗봇을 개발하는 경우, 로깅과 분석을 위해 특정 형식의 응답을 생성해야 할 수 있다. 구조화된 출력을 사용하면 responseText, intent, confidenceScore, timestamp와 같은 필드를 포함하는 JSON 스키마를 정의할 수 있다. 이를 통해 챗봇이 생성하는 모든 응답이 올바르게 형식화되어 로깅, 분석 및 조치를 취하기가 더 쉬워진다.

이번 발표는 Azure 플랫폼에서 OpenAI 기술을 활용하는 개발자들에게 더 나은 도구와 기능을 제공함으로써, AI 모델 출력의 구조화와 검증 과정을 크게 개선할 것으로 예상된다.

자세한 내용은 마이크로소프트 Azure 블로그에서 확인할 수 있다.

관련 콘텐츠 더보기