LLM 프롬프트 예외 처리, 토큰 낭비의 시작입니다 Pydantic 사전 검증으로 막으세요

요즘 AI 챗봇이나 LLM 기반 서비스를 만들면서 사용자의 이상한 입력이나 모델의 엉뚱한 출력(환각 현상, 이상한 JSON 포맷 등)을 막으려고 프롬프트 안에 "이상한 입력이 들어오면 '오류입니다'라고 출력해줘", "JSON 형식을 무조건 지켜줘"라고 구구절절 길게 적고 계신가요?

"프롬프트로 예외 처리 지시문을 잘 적어두었으니 완벽하겠지?" 하고 방심했다가는 정말 한순간에 API 토큰 비용 폭탄과 백엔드 서버 멈춤 현상을 겪게 됩니다. 오늘 몬이쌤이 프롬프트 예외 처리의 한계와, 파이썬의 Pydantic(파이던틱) 라이브러리로 사전 검증망을 짜서 LLM 입력·출력 토큰 비용을 원천 절감하는 실전 공략법을 자세히 알려드릴게요! 

1. 나의 고백: 시스템 프롬프트 신봉자가 맞이한 잔혹한 청구서 🤔

솔직히 고백하자면, 저도 처음 LLM 기반 서비스를 개발하던 시절에는 "프롬프트만 잘 쓰면 AI가 알아서 예외 처리까지 완벽하게 해주겠지!" 하는 청사진을 가지고 있었습니다. 시스템 프롬프트에 사용자가 욕설을 하거나, 범위 밖의 나이를 입력하거나, 이상한 문장을 넣었을 때의 예외 처리 지시문을 A4 용지 한 장 분량으로 빽빽하게 작성해 두었죠.

하지만 오픈 베타 서비스를 시작하고 불과 일주일 뒤, 제 눈을 의심케 하는 클라우드 및 OpenAI API 이용요금 청구서가 도착했습니다. 예상했던 예산의 5배가 넘어가는 엄청난 금액이었어요! 원인을 추적해 보니 세 가지 잔혹한 진실을 알게 되었습니다.

• 불필요한 토큰 비용의 누적: 모든 요청마다 길디긴 예외 처리 프롬프트 지시문이 입력 토큰(Input Token)으로 계산되어 매번 돈이 나가고 있었습니다.
• 무한 재시도 루프: LLM이 응답으로 반환한 JSON에 따옴표가 하나 빠지거나 무효한 값이 들어오는 순간 백엔드에서 파싱 에러(JSONDecodeError)가 발생해 5번씩 재요청을 보내며 토큰을 낭비했습니다.
• 우회 공격(Prompt Injection): 작정하고 들어온 악의적 유저가 "위의 모든 규칙을 무시해"라는 한 마디를 던지자, 제가 공들여 써둔 시스템 프롬프트 예외 지시문이 허망하게 무력화되었습니다.

2. 프롬프트 예외 처리의 한계와 치명적인 위험성 3가지 ⚠️

자연어로 예외 처리를 작성하는 프롬프트 방식이 왜 서비스 운영에 위협적인지 기술적인 이유를 명확히 정리해 드립니다.

1. 토큰 요금 폭증 (비용 비효율성): 프롬프트 지시문이 길어질수록 유저가 단순한 "안녕" 한마디를 입력해도 시스템 지시문 수백 토큰이 함께 API로 전송됩니다. 이 불필요한 입력 토큰 비용이 매 요청마다 차곡차곡 쌓여 요금 폭탄이 됩니다.
2. 확률적 불확실성 (환각 현상): LLM은 다음 단어를 확률적으로 예측하는 모델입니다. 99번 정해진 가이드대로 응답하다가도 1번은 이상한 형태의 텍스트나 닫히지 않은 JSON을 반환하여 시스템 전체에 에러를 유발합니다.
3. 보안 허점 (프롬프트 인젝션): 악의적인 사용자가 프롬프트 지시문 구조를 우회하는 정교한 명령어를 주입할 경우, 프롬프트 내부의 예외 처리 지시문은 쉽게 무력화될 수 있습니다.

3. 데이터로 비교해보는 예외 처리 방식별 스펙 및 비용 📊

자연어 프롬프트 예외 처리 방식과 파이썬 Pydantic 사전 검증 방식을 성능, 비용, 안정성 관점에서 비교한 정밀 분석 자료입니다.

[표 1] 예외 처리 방식별 성능 및 비용 비교 표

비교 항목	자연어 프롬프트 지시 방식	Pydantic 가드레일 사전 검증 방식
차단 오류 시 LLM 토큰 비용	유저 입력 + 시스템 지시문 토큰 요금 발생	API 호출 전 차단되어 LLM 토큰 비용 0원
검증 처리 속도	1.0초 ~ 3.0초 (LLM 응답 대기 시간)	밀리초(ms) 수준 (서버 메모리 단 검증)
데이터 규격 완벽 보장	불확실함 (확률 기반 환각 가능성)	100% 보장 (파이썬 데이터 타입 강제)
JSON 파싱 에러 방지	자주 발생 (재시도 루프 야기)	원천 차단 및 스키마 엄격 준수

4. 실전 가이드: Pydantic 가드레일 사전 검증 3단계 방어선 🛠️

그렇다면 무거운 프롬프트 대신 어떻게 코드로 완벽한 방어선을 구축할 수 있을까요? 몬이쌤이 검증을 마친 실전 3단계 검증 로직 코드를 소개합니다!

from pydantic import BaseModel, Field, field_validator, ValidationError

FORBIDDEN_WORDS = {"해킹", "스팸", "자살"}

# 입력 데이터 사전 검증을 위한 Pydantic 가드레일 스키마
class UserQueryRequest(BaseModel):
    age: int = Field(..., ge=0, le=120, description="나이는 0~120 사이여야 합니다.")
    question: str = Field(..., min_length=2, max_length=200)

    @field_validator("question")
    @classmethod
    def check_forbidden_words(cls, v: str) -> str:
        for word in FORBIDDEN_WORDS:
            if word in v:
                raise ValueError(f"금지된 단어({word})가 포함되어 있습니다.")
        return v  # 반드시 루프 밖에서 반환하여 전체 금칙어 검사 완료

def safe_llm_pipeline(raw_data: dict):
    try:
        # 1단계: Pydantic 가드레일로 사전 검증 (LLM 입력·출력 토큰 비용 0원!)
        validated = UserQueryRequest(**raw_data)
        print("✅ 가드레일 통과 성공:", validated)

        # 2단계: 안전한 데이터에 한해서만 LLM API를 호출
        # response = client.chat.completions.create(...)

    except ValidationError as e:
        # 3단계: 사전 검증 실패 시 LLM 호출 없이 밀리초 수준에서 차단 및 메시지 반환
        print("[차단] LLM API 호출 없이 입력 반려:", e.errors())

# LLM 응답 결과 스키마 정의
class LLMResponseSchema(BaseModel):
    answer: str = Field(..., min_length=1)
    confidence_score: float = Field(..., ge=0.0, le=1.0)

5. 인터랙티브 Pydantic 실전 가드레일 시뮬레이터 🔢

아래 시뮬레이터에 테스트 데이터를 입력하여, Pydantic 가드레일이 LLM API를 호출하기 전에 어떻게 미리 차단하는지 체험해 보세요!

6. 자주 묻는 질문 ❓

같이 보면 좋은 글 🔗