실습 6 — Summary 메모리로 앞부분 요약하기

import json
import os
from pathlib import Path

import tiktoken
from dotenv import find_dotenv, load_dotenv
from langchain_core.messages import HumanMessage, SystemMessage, convert_to_messages
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

load_dotenv(find_dotenv(usecwd=True))
MODEL = os.getenv("OPENAI_MODEL", "gpt-4.1-mini")
model = ChatOpenAI(model=MODEL, temperature=0)

enc = tiktoken.get_encoding("o200k_base")


def count_tokens(messages):
    return sum(len(enc.encode(m.content)) for m in messages)


msgs = convert_to_messages(json.loads(Path("chat_log.json").read_text(encoding="utf-8")))
sent = msgs[:-1]                 # 정리 질문까지의 기록 20개
system, question = sent[0], sent[-1]
recent = sent[-5:-1]             # 질문 바로 앞의 4개
old = sent[1:-5]                 # 그 앞의 오래된 부분

print("오래된 부분:", len(old), "개,", count_tokens(old), "토큰")
print("최근 부분:", len(recent), "개,", count_tokens(recent), "토큰")
print("2박 3일이 든 곳:", "오래된 부분" if any("2박 3일" in m.content for m in old) else "최근 부분")

summary_prompt = ChatPromptTemplate.from_messages([
    ("system", "너는 여행 상담 기록을 정리하는 직원이다. 다음 대화를 세 문장 이내로 요약한다. "
               "장소, 박수, 인원, 정한 것은 숫자와 함께 빠뜨리지 않는다. 손님의 이름과 연락처는 적지 않는다."),
    ("human", "{dialog}"),
])
# 요약 체인: 3차시의 prompt | model | StrOutputParser() 모양 그대로
summary_chain = summary_prompt | model | StrOutputParser()

# 메시지를 "역할: 내용" 줄글로 바꿔 넘긴다
dialog = "\n".join(f"{m.type}: {m.content}" for m in old)
summary = summary_chain.invoke({"dialog": dialog})

print(summary)
print("요약:", len(enc.encode(summary)), "토큰 (오래된 부분", count_tokens(old), "토큰)")

# 보낼 메시지: 시스템 지시 + 요약(시스템 메시지) + 최근 4개 + 정리 질문
to_send = [system, SystemMessage("앞의 대화 요약: " + summary)] + recent + [question]
answer = model.invoke(to_send).content

print("보낸 메시지:", len(to_send), "개,", count_tokens(to_send), "토큰")
print("답:", answer)
for fact in ["2박 3일", "아이"]:
    print(f"'{fact}' 이 답에 있나:", fact in answer)

full_tokens = count_tokens(sent)
summary_tokens = count_tokens(to_send)
print("모두 보내기:", full_tokens, "토큰 / 요약 + 최근 4개:", summary_tokens, "토큰")
print("줄어든 비율:", round(1 - summary_tokens / full_tokens, 2))

Path("out_ch04_summary.json").write_text(
    json.dumps({"summary": summary, "answer": answer}, ensure_ascii=False, indent=2), encoding="utf-8")
print("저장: out_ch04_summary.json")