홈으로 돌아가기

Claude 최적화: 문구에서 -9.5% 토큰

분석 결과 Claude Sonnet이 불필요 문구에 토큰 11.3% 사용. system prompt에 규칙 추가로 소비 1.8%로 줄여 월 수천 루블 절감. 머신 통합 적합, 채팅 주의사항 있음.

Claude가 "Of course!"에 11% 사용: 9.5% 토큰 절약 방법
Advertisement 728x90

Claude 프롬프트 최적화: 불필요 표현으로 9.5% 토큰 절감

Claude Sonnet 같은 모델은 인사말, 메타 코멘트, 마무리 인사로 출력 토큰의 최대 11%를 낭비합니다. 500개 프롬프트를 테스트한 결과, 시스템 프롬프트에 세 줄만 추가해 이 낭비를 없애면서도 응답 가치는 그대로 유지했습니다.

분석 결과 응답의 11.3%가 '불필요 표현'이었습니다: 모델이 "네!"나 "좋은 질문이네요!"로 시작하고, 생각 과정을 설명한 뒤 "도움이 되셨길 바래요"로 끝냈죠. JSON 파싱을 하는 백엔드 통합에서 이는 순수한 오버헤드입니다.

측정 방법

일반적인 500개 작업을 수집했습니다: 티켓 분류, 문서 필드 추출, 이메일 요약, 정책 기반 응답. 설정: claude-sonnet-4-5, temperature=0.2, 표준 시스템 프롬프트.

Google AdInline article slot

Python 스크립트로 정규식을 사용해 출력을 분석했습니다:

FILLER_PATTERNS = [
    r"^(Sure|Absolutely|Of course|Okay)[,!.]",
    r"^(Great|Great question|Excellent)[!.]",
    r"^(Happy to|Glad to)",
    r"^(Let's|Allow me)",
    r"(Hope this (helps|will help))",
    r"(If you have (any )?(more )?questions)",
    r"(Let me know if)",
]

50개 응답을 수동 검토한 결과 94% 정확도 확인. 나머지는 과소 추정입니다.

불필요 표현 분포:

Google AdInline article slot
  • 서두 표현 ("네!", "좋아요!") — 28%
  • 메타 코멘트 ("생각해보니…") — 34%
  • 마무리 표현 ("도움이 되셨길") — 22%
  • 질문 재구성 — 16%

100개 응답을 수동 정리해 핵심 의미는 보존했습니다.

시스템 프롬프트 최적화

원본 프롬프트:

You are an assistant for processing [DOMAIN]. Respond precisely,
basing answers only on provided context. If no data — say so honestly.

추가:

Google AdInline article slot
Response format:
- No intros, question praise, or "here's what I'll do" explanations.
- No closers like "hope that helps."
- Straight to the point. Lists first if needed. Numbers first if needed.

500개 프롬프트 재실행: 불필요 표현 1.8%로 급감. 토큰 절감: 9.5%.

비용 예시:

| 일일 쿼리 | 평균 응답 (토큰) | 월 절감액 ($) |

|-----------|------------------|---------------|

| 2000 | 400 | ~50 |

| 20000 | 400 | ~500 |

실제 프로젝트: 월 $55 절감. 후속 대화에서 컨텍스트도 짧아집니다.

한계와 롤백

모든 경우에 적용 불가:

  • 고객 채팅: 예의가 떨어져 무례하게 느껴짐. 만족도 하락 — 되돌림.
  • 도구 체인: 계획 설명 없이 도구 혼동. 안정성 위해 되돌림.

팁: JSON, API 같은 기계 지향 작업에 사용. 사용자 채팅은 유지하세요.

핵심 요약

  • 기본 Claude Sonnet에서 불필요 표현 11.3%.
  • 세 줄 프롬프트로 9.5% 절감.
  • 정규식으로 94% 잡음 포착.
  • 응답 본질은 안전, 도구 체인과 UX 채팅은 위험.
  • 다음: 사용자 서문에서 입력 토큰 정리.

— Editorial Team

Advertisement 728x90

다음 읽기