[클로드 Opus 4.8 제대로 쓰기 #5] “에이전트가 ‘rm -rf’ 하기 전에 한 번 더 묻게” — 클로드 오퍼스 4.8 자율성과 안전성의 균형

앤트로픽(Anthropic) 가이드는 클로드 오퍼스 4.8(Claude Opus 4.8) ‘에이전트 시스템’ 섹션의 첫 문장을 무거운 경고로 시작한다. “별도 가이드 없이 두면 이 모델은 되돌리기 어렵거나 공유 시스템에 영향을 주는 행동도 직접 수행할 수 있다.” 파일 삭제, 강제 푸시(force-push), 외부 서비스에 메시지 전송 같은 행동이 사용자 확인 없이 일어날 수 있다는 의미다.

회사가 권장하는 처방은 ‘확인 받기’를 시스템 프롬프트로 강제하는 방식이다. 예시 문구는 “행동의 되돌릴 수 있음(reversibility)과 잠재적 영향을 함께 고려하라. 로컬에서 되돌릴 수 있는 행동(파일 편집, 테스트 실행)은 자유롭게 수행해도 되지만, 되돌리기 어렵거나 공유 시스템에 영향을 주거나 파괴적인 행동은 먼저 사용자에게 확인을 받으라”는 형태다.

가이드는 ‘확인이 필요한 행동’ 카테고리를 구체적으로 적어 두었다. 파괴적 작업으로 분류된 항목은 파일·브랜치 삭제, 데이터베이스 테이블 드롭, `rm -rf` 류 명령이다. 되돌리기 어려운 항목은 `git push –force`, `git reset –hard`, 게시된 커밋 수정. 다른 사람에게 보이는 항목은 코드 푸시, PR·이슈 코멘트, 메시지 전송, 공유 인프라 변경이 포함된다.

또 하나 강조된 항목은 ‘장애물 회피를 위한 파괴적 단축 경로 금지’다. “장애물을 만났을 때 파괴적 조치(destructive actions)를 단축 경로로 쓰지 말자. 예를 들어 안전 검사(`–no-verify`)를 우회하지 말고, ‘진행 중인 작업 파일’로 보이는 항목을 통째로 버리지 말자”는 표현이 그대로 적혀 있다.

가이드는 마무리로 시스템 프롬프트 예시 블록 전체를 제시한다. 핵심은 “되돌릴 수 있는 행동(로컬 파일 편집, 테스트 실행)은 자유롭게 수행하되, 되돌리기 어렵거나 공유 시스템에 영향을 주거나 파괴적인 행동은 진행 전 사용자에게 확인을 받으라”는 한 줄로 요약된다. 회사는 이 블록을 그대로 복사해 시스템 프롬프트에 넣어 쓰라고 권고한다.

가이드는 ‘파일 생성 감소’ 항목도 함께 제시한다. 클로드 오퍼스 4.8은 코딩 작업 시 임시 파이썬 스크립트 같은 ‘스크래치 파일’을 만들어 작업 효율을 끌어올리는 경향이 있는데, 이를 줄이고 싶다면 “임시 파일·스크립트·헬퍼 파일을 만들었다면 작업 종료 시점에 모두 삭제하라”는 문장을 시스템 프롬프트에 함께 적으라는 권고다. ‘과도한 엔지니어링(overengineering) 방지’ 항목에서도 “요청되지 않거나 분명히 필요하지 않은 변경은 하지 말 것”이라는 표현을 시스템 프롬프트 블록으로 제시한다.

자세한 내용은 앤트로픽 공식 프롬프팅 가이드(Anthropic)에서 확인할 수 있다.

이미지 출처: 이디오그램 생성