오픈AI가 17일(현지시간) 개발자들을 위한 대규모 업데이트를 발표했다. 200개국 이상에서 200만 명의 개발자들이 사용하고 있는 오픈AI API에 새로운 기능과 모델이 대거 추가됐다. 오픈AI는 지난 9월 프리뷰로 공개했던 GPT-4 01을 API를 통해 정식 출시한다. 새로운 버전은 기존 GPT-4 대비 60% 적은 토큰을 사용하면서도 더 빠르고 저렴한 처리가 가능하다.
GPT-4 01은 백엔드 API와의 상호작용을 위한 함수 호출 기능을 제공한다. 또한 JSON 스키마를 기반으로 한 정형화된 출력을 지원하며, 시스템 메시지의 새로운 버전인 개발자 메시지를 통해 모델 지시를 위한 계층 구조를 도입했다. 문제의 난이도에 따라 연산량을 조절할 수 있는 추론 강도 조절 매개변수도 새롭게 추가됐다. 여기에 제조업이나 과학 분야에서 활용 가능한 이미지 처리 기능까지 탑재됐다.
오픈AI에 따르면, 내부 평가에서 GPT-4 01은 함수 호출, 구조화된 출력, 코딩 등 모든 분야에서 GPT-4보다 우수한 성능을 보였다. 특히 라이브벤치(Live Bench) 코딩 평가에서는 이전 버전들을 크게 앞섰다.
실시간 API의 혁신적 개선
실시간 API는 웹RTC 지원을 새롭게 추가했다. 기존 웹소켓 방식에서 200-250줄의 코드가 필요했던 것에 비해, 웹RTC는 12줄의 코드만으로 구현이 가능해졌다.
실시간 API는 이번 업데이트를 통해 인터넷 연결 상태에 따른 자동 비트레이트 조정과 에코 제거 기능을 자동화했다. 마이크로컨트롤러 지원으로 IoT 기기와의 통합도 용이해졌으며, Python SDK를 새롭게 지원한다. 함수 호출과 가드레일 사용의 편의성도 크게 개선됐다.
가격 정책에서도 큰 변화가 있었다. GPT-4 오디오 토큰의 가격이 60% 인하됐으며, GPT-4 미니(Mini)를 통한 오디오 토큰은 기존 대비 10배 저렴한 가격으로 제공된다.
선호도 기반 파인튜닝 도입
오픈AI는 ‘선호도 파인튜닝'(Preference Fine-tuning)이라는 새로운 모델 커스터마이징 방식을 도입했다. 직접 선호도 최적화(Direct Preference Optimization) 방식을 사용해 사용자 선호도에 따라 모델을 더욱 효과적으로 조정할 수 있게 됐다. 기존의 지도 학습 방식 파인튜닝이 정확한 입력과 출력을 필요로 했던 것과 달리, 선호도 파인튜닝은 두 개의 응답 중 선호되는 것을 선택하는 방식으로 작동한다. 이를 통해 응답 형식, 문체 가이드라인, 유용성, 창의성 등 추상적인 품질까지 개선할 수 있다.
오픈AI의 앤드류(Andrew) 연구원은 “금융 분석가를 위한 AI 어시스턴트를 개발 중인 로고AI(Rogo AI)가 이 기능을 사용해 내부 벤치마크 정확도를 기존 75%에서 80% 이상으로 향상시켰다”고 소개했다.
추가 업데이트 사항
오픈AI는 개발자 경험 향상을 위한 여러 추가 기능도 발표했다. Go와 Java를 위한 공식 SDK를 새롭게 출시했으며, 로그인과 회원가입, API 키 발급 프로세스를 간소화했다. 전 세계에서 진행된 개발자 데이 콘퍼런스의 영상도 YouTube 채널을 통해 공개했다. 또한 개발자 포럼에서는 오픈AI 제품 매니저들과의 AMA(Ask Me Anything) 세션을 진행할 예정이다.
이번 발표된 기능들은 오픈AI의 티어5(Tier 5) 고객부터 순차적으로 적용되며, GPT-4 01 Pro 버전은 추후 출시될 예정이다.
해당 기사의 원문은 오픈AI 웹사이트에서 확인할 수 있다.
기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성되었습니다.
관련 콘텐츠 더보기
뉴스레터 구독하면 자동 응모