[AI 활용팁] 클로드 페이블 5.1, 설정 안 바꿔도 토큰이 줄어든다…추론 강도와 안전장치 점검

[AI 매터스 뉴스레터 #196] 클로드 페이블 5.1, 설정을 바꾸지 않아도 비용이 줄어든다
[AI 매터스 뉴스레터 #196] 클로드 페이블 5.1, 설정을 바꾸지 않아도 비용이 줄어든다

앤트로픽이 9월 1일 클로드 페이블 5.1을 공개했습니다. 토큰 단가는 그대로 두고 캐시 읽기 비용만 75% 인하했으며, 정상 요청을 차단하던 안전장치의 오탐도 줄였습니다. 두 변경 사항 모두 별도 설정 없이 적용됩니다. 여러분이 하실 일은 지금 어느 추론 강도로 쓰고 있는지 확인하는 것뿐입니다.

1. 요금표와 안전장치 변경 내용

요금표에서 변경된 건 캐시 읽기 뿐인데, 이 변경이 큰 토큰 사용량 절감을 가져옵니다. 저장해 둔 입력을 다시 불러올 때 부과되는 비용으로, 100만 토큰당 1달러에서 0.25달러로 인하됐습니다.

캐시 읽기가 무엇인지 설명드립니다. 여러분이 같은 문서나 같은 지침을 여러 번 입력하면 AI는 그 내용을 매번 새로 읽어야 합니다. 이 낭비를 줄이려고 한 번 읽은 내용을 따로 보관해 두고 다음 요청에서 꺼내 쓰는 방식이 캐시입니다. 꺼내 쓸 때도 비용이 부과되지만 새로 읽을 때보다는 훨씬 저렴합니다. 캐시 읽기가 이번에 인하된 항목이죠.

🧾 요금 비교

항목페이블 5.1전작 페이블 5 대비
입력 100만 토큰10달러동일
출력 100만 토큰50달러동일
캐시 읽기 100만 토큰0.25달러75% 인하
일반 작업 총비용—약 25% 감소
코딩·에이전트 작업 총비용—최대 약 45% 감소

25%와 45%라는 절감 폭은 앤트로픽이 8월 4주간의 실제 사용량을 기본 추론 강도로 측정해 산출한 값입니다. 일반 작업에는 클로드 엔터프라이즈와 클로드 코드, API 사용이 포함됐습니다. 45%가 측정된 쪽은 맥락과 도구를 많이 사용하는 작업입니다. AI가 파일을 읽고 검색을 실행하며 여러 단계를 거치는 작업을 말하는데, 같은 내용을 계속 다시 읽기 때문에 전체 비용에서 캐시 읽기가 차지하는 비중이 크고 인하 폭도 크게 나타났습니다.

성능도 함께 향상됐습니다. 앤트로픽은 여러 시험 결과를 공개했습니다. 터미널벤치-사이언스 0.1은 AI가 과학 연구 과제를 스스로 처리하는 능력을 재는 시험인데, 페이블 5.1이 52.6%를 기록해 전작의 24.7%보다 두 배 이상 높았습니다. 코딩 능력을 재는 커서벤치 3.2.0은 73.4%, 여러 분야의 어려운 문제를 모은 인류 최후의 시험은 검색 도구 없이 60.9%였습니다. 앤트로픽은 이 점수가 안전장치를 활성화한 상태에서 측정한 값이라고 밝혔습니다.

 

2. 캐시 인하 적용 여부 판별

직접 계산하지 않아도 작업 유형만 구분하면 판단하실 수 있습니다.

반복형과 일회성을 먼저 구분합니다. 같은 문서나 같은 코드베이스를 계속 입력하는 작업이면 반복형입니다. 코드베이스는 하나의 프로그램을 이루는 소스코드 전체를 말합니다. 프로젝트 자료를 미리 올려 두고 계속 질문하는 방식, 긴 업무 지침을 매번 앞에 붙여 쓰는 방식이 여기 해당하며 전체 비용에서 캐시 읽기가 차지하는 비중이 큽니다. 그때그때 다른 주제를 물어보는 방식은 일회성이고, 이번 인하 효과가 크지 않습니다.

반복형 작업에는 인하분이 그대로 적용됩니다. 긴 지침 파일이나 프로젝트 문서를 매 요청에 포함하는 방식일수록 절감 폭이 커집니다.

도구를 많이 사용하는 작업은 절감 폭이 더 큽니다. 공식 추정으로 일반 작업 약 25%, 코딩과 에이전트 작업 최대 약 45%입니다. 에이전트는 사람이 단계마다 지시하지 않아도 스스로 판단해 여러 단계를 실행하는 AI를 말합니다.

캐시 읽기 비용이 인하되면서 대화를 일찍 압축해 비용을 줄이던 방식은 더 이상 유리하지 않을 수 있습니다. 압축은 대화가 길어졌을 때 지난 내용을 요약본으로 바꿔 넣는 처리를 말합니다. 앤트로픽은 압축 시점을 뒤로 미뤄 비교해 보라고 권했습니다.

 

3. 추론 강도와 사용 환경별 기본값

추론 강도는 AI가 답변하기 전 얼마나 오래 생각할지 정하는 설정입니다. 사람이 어려운 문제를 받았을 때 오래 고민하면 정답률은 오르지만 시간이 걸리는 것과 같습니다. 로우, 미디엄, 하이, 엑스하이, 맥스로 구분되며 강도를 상향할수록 정확도가 높아지는 대신 비용과 대기 시간도 늘어납니다.

🎚 사용 환경별 기본값

사용 환경기본 추론 강도
클로드 코드하이
클로드 코워크·클로드닷에이아이미디엄
API하이

클로드닷에이아이는 웹브라우저나 앱에서 쓰는 일반 채팅 화면이고, 클로드 코드는 개발자가 터미널에서 쓰는 도구입니다. API는 다른 프로그램에서 클로드를 불러다 쓰는 통로를 말합니다.

앤트로픽은 미디엄에서 페이블 5.1이 전작 페이블 5와 대체로 같은 결과를 더 낮은 비용에 낸다고 설명했습니다. 로우에서는 과제당 비용이 오퍼스나 소넷 계열과 비슷하면서 점수는 더 높은 경우가 많다고 덧붙였습니다. 오퍼스와 소넷은 클로드의 다른 모델 계열입니다. 여러분이 별도로 조정하지 않았다면 위 표의 값이 적용된 상태입니다.

강도 조정은 다음 순서로 하시면 됩니다. 맥스로 설정해 두던 작업이 있으면 기본값으로 같은 작업을 실행해 결과를 비교합니다. 결과가 미흡한 작업에만 한 단계씩 상향합니다. 엑스하이를 거치지 않고 맥스로 상향할 필요는 없습니다. 대화 도중에도 강도를 변경할 수 있으므로, 간단한 정리는 낮게 두고 처리가 미흡할 때만 상향해 다시 실행하는 방식이 가능합니다.

페이블 5에서 강도를 조정해 두셨더라도 다시 시험해 보시는 편이 낫습니다. 앤트로픽은 강도 이름이 모델마다 같은 연산량을 뜻하지 않는다고 밝혔습니다. 같은 하이라도 모델이 바뀌면 실제 생각하는 양이 달라진다는 뜻입니다.

 

4. 안전장치 허용 범위와 제한 범위

안전장치는 위험한 용도로 쓰일 수 있는 요청을 걸러 내는 장치입니다. 오탐은 이 장치가 정상 요청을 위험하다고 잘못 차단하는 경우를 말합니다. 보안 담당자가 자기 회사 시스템을 점검하려고 물었는데 답변이 거부되는 상황이 대표적입니다. 페이블 5.1에서는 이 비율이 낮아졌습니다.

🛡 허용 범위와 제한 범위

구분내용
허용된 작업소스코드에서 소프트웨어 취약점을 찾는 방어 작업, 기초 생물학·의학 질문
오퍼스 모델로 전환되는 작업침투 테스트, 공격 코드 생성, 바이너리 기반 취약점 스캔, 생명과학 연구개발 질의
감소 폭사이버 오탐 60% 감소, 클로드 코드 세션당 개입 평균 약 60% 감소

표의 용어를 풀어 드립니다. 취약점은 공격에 이용될 수 있는 프로그램의 허점입니다. 침투 테스트는 시스템을 실제로 공격해 보며 방어 수준을 점검하는 작업이고, 바이너리는 사람이 읽는 소스코드가 아니라 컴퓨터가 실행하는 형태로 변환된 파일을 말합니다. 앤트로픽은 이런 작업을 차단하는 대신 안전장치가 더 강한 오퍼스 모델로 넘겨 처리합니다.

생물학 영역에서는 기초 생물학과 의학 질문에 안전장치가 작동하는 비율이 페이블 5 출시 당시보다 85% 낮아졌습니다.

요청이 차단될 때 확인하실 항목은 다음과 같습니다. 앤트로픽이 오탐이 자주 발생하는 조건으로 제시한 내용입니다.

먼저 컴파일 여부를 묻는 표현입니다. 컴파일은 사람이 쓴 코드를 컴퓨터가 실행할 수 있는 형태로 바꾸는 과정을 말합니다. “이 프로그램이 오류 없이 컴파일되나요”보다 “이 프로그램에 버그가 있나요”로 바꿔 질문하시는 편이 낫습니다.

다음은 사용자가 적은 프로그래밍 언어입니다. 널리 쓰이지 않는 언어로 짠 코드는 안전장치가 판단하기 어려워 차단될 수 있습니다. 해당 언어의 정의와 동작 방식을 함께 제공하시거나 공식 문서에 접근할 수 있게 하시면 오탐이 감소합니다.

마지막은 도구 출력에 포함되는 base64 데이터입니다. base64는 이미지나 파일을 알파벳과 숫자로 이뤄진 긴 문자열로 변환해 담는 방식입니다. 사람 눈에는 의미 없는 문자 나열로 보이는데, 이 값이 대화에 섞여 들어가면 안전장치가 수상한 내용으로 판단해 오탐을 유발합니다. 앤트로픽은 해당 데이터를 제외하라고 권했습니다.

 

5. 증상별로 적용할 문장

앤트로픽은 기존 페이블 5 프롬프트가 대부분 그대로 작동한다고 적었습니다. 프롬프트는 AI에게 주는 지시문입니다. 다만 동작이 달라진 항목이 16개 있고, 각각 어떤 증상으로 나타나는지와 무엇을 적용하면 되는지를 함께 정리했습니다. 아래 표에서 뒷부분 여섯 항목은 개발자가 프로그램을 만들 때 해당하는 내용이라, 채팅 화면에서만 쓰시는 분은 앞부분만 확인하시면 됩니다.

🔧 채팅·클로드 코드 사용자에게 해당하는 항목

증상조치
작업 중 진행 상황을 알리지 않는다“작업을 시작하기 전에 무엇을 할지 한 줄로 말하고, 진행하면서 짧게 알려 달라”고 요청
문장이 길고 수식이 과하다“멋 부린 문장을 모두 제거해 달라”고 요청
답변에 목록이나 굵은 글씨가 없어 읽기 불편하다어떤 경우에 목록과 굵은 글씨를 쓸지 조건을 지정
다른 글을 인용 표시 없이 옮긴다올바르게 인용한 답변 예시를 하나 보여 주고 그 방식으로 쓰라고 지시
작업을 끝내지 않고 “이어서 할까요”라고 묻는다“사용자가 실시간으로 보고 있지 않으니 이미 요청한 작업은 묻지 말고 진행하라”고 지시
요청하지 않은 부분까지 고친다“과제 범위 밖은 수정하지 말고 발견한 사항만 마지막에 보고하라”고 지시
검색해야 할 질문에 검색 없이 답한다“이름을 아는 것과 현재 상태를 아는 것은 다르니 확인 후 답하라”고 지시하거나 해당 질문만 강도를 상향
정상 요청이 차단된다4번 항목의 확인 사항 적용
파일 일부만 고치면 되는데 전체를 다시 쓴다“가능하면 파일 전체를 다시 쓰지 말고 필요한 부분만 수정하라”고 지시
긴 결과물이 중간에 잘린다추론 강도를 하이로 낮추거나, 한 응답에 쓸 수 있는 전체 분량을 알려 주는 문장을 추가

⚙️ API로 직접 개발할 때 해당하는 항목

증상조치
도구를 한 번에 하나씩만 호출한다서로 의존하지 않는 요청을 한 응답에 모아 호출하라는 지시 추가
요청이 대화 불일치 오류로 실패한다대화 기록을 추가만 하고 이전 내용을 수정하지 않도록 변경
대화를 요약할 때 조건이 누락된다요약에 반드시 남길 항목을 지정
보조 에이전트를 기다리며 주 작업이 멈춘다주 에이전트가 대기하지 않고 계속 작업하도록 도구 구성
차트나 조밀한 이미지의 세부를 놓친다이미지를 잘라 확대하는 도구를 함께 제공
어느 강도를 쓸지 판단하기 어렵다기본값에서 시작해 자체 기준으로 전 단계를 시험

위 문장을 한 번에 모두 적용하시면 프롬프트가 길어지고 지시가 서로 충돌합니다. 지금 나타나는 증상 하나를 골라 해당 항목만 적용하시고, 며칠 사용한 뒤 다음 항목을 추가하시면 됩니다. 앤트로픽도 실제로 겪은 증상에서 시작하라고 안내했습니다.

 

6. 미토스 5.1과 연구 결과 구분

클로드 미토스 5.1은 페이블 5.1과 같은 모델에 안전장치만 다르게 적용한 버전입니다. 사이버 방어와 생명과학 종사자를 대상으로 한 검증 프로그램을 거쳐야 사용할 수 있고, 현재는 미국 조직으로 한정돼 있습니다. 한국에서 신청해 사용하는 경로가 아닙니다.

발표문에 실린 연구 결과도 구분이 필요합니다. 단백질 결합체 설계와 GPU 커널 최적화는 미토스 5.1이 수행했고, 금성 고도 지도 제작은 페이블 5.1이 수행했습니다. 공개 모델에서 모두 동일하게 가능한 작업으로 읽으시면 오해가 생깁니다.

 

7. 권장 대상

긴 지침 파일이나 프로젝트 문서를 반복해서 입력하시는 분, 클로드 코드로 장시간 작업을 실행하시는 분, 맥스로 설정해 사용하시던 분에게 이번 변경의 영향이 큽니다. 반대로 매번 새 질문만 입력하는 방식이라면 요금 변화가 크지 않습니다.

이번 세대 교체에서는 성능보다 비용 구조의 변화가 큽니다. 단가는 그대로 두고 캐시 읽기만 인하됐으므로, 같은 내용을 반복해서 입력하는 작업이라면 설정을 바꾸지 않아도 비용이 절감됩니다. 맥스로 설정해 두셨다면 기본값으로 실행해 결과를 비교하는 작업이 먼저입니다.

🔗 공식 발표: Introducing Claude Fable 5.1 and Claude Mythos 5.1

🔗 공식 프롬프팅 가이드: Prompting Claude Fable 5.1

자세한 내용은 앤트로픽에서 확인할 수 있다.

이미지 출처: 이디오그램 생성