실습 2 — 가짜 모델로 체인 조립하고 시험하기

from langchain_core.language_models.fake_chat_models import FakeListChatModel
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate

# 프롬프트: 짧은 시스템 지시와 질문 빈칸
prompt = ChatPromptTemplate.from_messages([
    ("system", "너는 구름다리여행의 상담 챗봇이다. 짧게 답한다."),
    ("human", "{question}"),
])
# 가짜 모델이 차례로 돌려줄 답 네 개(질문과 상관없이 이 차례로 나온다)
RESPONSES = [
    "출발 7일 전까지 한 번 무료로 바꿀 수 있습니다.",
    "국내선 상품은 15kg 짐 한 개가 포함되어 있습니다.",
    "5만 원 이상 결제하면 최대 6개월까지 할부가 됩니다.",
    "반려동물 동반 상품은 '함께 여행' 메뉴에서만 예약할 수 있습니다.",
]
model = FakeListChatModel(responses=RESPONSES)
parser = StrOutputParser()

for part in [prompt, model, parser]:
    print(type(part).__name__)

# 체인을 쓰지 않고 손으로 한 걸음씩 넘긴다
value = prompt.invoke({"question": "예약 날짜를 바꿀 수 있나요?"})
print("1) 프롬프트 뒤:", type(value).__name__, "| 메시지", len(value.to_messages()), "개")

reply = model.invoke(value)
print("2) 모델 뒤:", type(reply).__name__, "|", reply.content)

text = parser.invoke(reply)
print("3) 파서 뒤: 글자열인가?", isinstance(text, str), "|", text)

from langchain_core.runnables import RunnableLambda


def peek(value):
    """흐르는 값의 꼴을 찍고, 값은 바꾸지 않고 그대로 넘긴다."""
    print("   [엿보기]", type(value).__name__)
    return value


# 답을 처음부터 다시 받도록 가짜 모델을 새로 만든다
model = FakeListChatModel(responses=RESPONSES)
# 부품 사이마다 엿보는 부품을 끼운다. 엿보기를 빼면 prompt | model | parser 와 같다
spy_chain = prompt | RunnableLambda(peek) | model | RunnableLambda(peek) | parser

answer = spy_chain.invoke({"question": "예약 날짜를 바꿀 수 있나요?"})
print("체인의 결과:", answer)

# 엿보기 없는 체인. 가짜 모델도 다시 만들어 첫 답부터 나오게 한다
model = FakeListChatModel(responses=RESPONSES)
chain = prompt | model | parser

questions = ["예약 날짜를 바꿀 수 있나요?", "짐은 몇 kg 까지 되나요?", "카드 할부 돼요?"]
# batch: 사전 목록을 넣으면 같은 차례의 답 목록이 돌아온다
# max_concurrency=1: 한 번에 하나씩 차례로 돌린다(가짜 모델의 답 차례가 섞이지 않게)
answers = chain.batch([{"question": q} for q in questions], config={"max_concurrency": 1})

for q, a in zip(questions, answers):
    print(f"Q. {q}\nA. {a}")
print("돌아온 답의 수:", len(answers))