프로젝트 1 — 메모리 전략 견주기

import json
import os
from pathlib import Path

import pandas as pd
import tiktoken
from dotenv import find_dotenv, load_dotenv
from langchain_core.messages import SystemMessage, convert_to_messages, trim_messages
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

load_dotenv(find_dotenv(usecwd=True))
MODEL = os.getenv("OPENAI_MODEL", "gpt-4.1-mini")
model = ChatOpenAI(model=MODEL, temperature=0)

enc = tiktoken.get_encoding("o200k_base")


def count_tokens(messages):
    return sum(len(enc.encode(m.content)) for m in messages)


msgs = convert_to_messages(json.loads(Path("chat_log.json").read_text(encoding="utf-8")))
RECENT = 4          # Summary 가 그대로 남길 최근 메시지 수


def send_full(history, question):
    """모두 보내기: 기록 전부 + 새 질문"""
    return history + [question]


def send_window(history, question):
    """Window: 뒤에서부터 100 토큰까지만 남긴다"""
    return trim_messages(history + [question], max_tokens=100, token_counter=count_tokens,
                         strategy="last", include_system=True, start_on="human")


def send_summary(history, question, summary):
    """Summary: 시스템 + 요약 + 최근 4개 + 새 질문. 요약이 아직 없으면 모두 보내기와 같다"""
    head = [history[0]] + ([SystemMessage("앞의 대화 요약: " + summary)] if summary else [])
    return head + history[1:][-RECENT:] + [question]


# 요약을 고쳐 쓰는 체인: 지난 요약과 새로 밀려난 메시지를 받아 새 요약을 쓴다
update_prompt = ChatPromptTemplate.from_messages([
    ("system", "너는 여행 상담 기록을 정리하는 직원이다. 지난 요약에 새 대화를 더해 세 문장 이내로 다시 요약한다. "
               "장소, 박수, 인원, 정한 것은 숫자와 함께 빠뜨리지 않는다."),
    ("human", "지난 요약: {summary}\n새 대화:\n{dialog}"),
])
update_chain = update_prompt | model | StrOutputParser()
print("메시지:", len(msgs), "개 / 모델:", MODEL)

summary, done, update_tokens, calls = "", 0, 0, 0
rows = []
for t in range(10):
    q = 1 + 2 * t
    history, question = msgs[:q], msgs[q]

    # Summary: 최근 4개 앞으로 밀려난 메시지(older) 가운데 아직 요약하지 않은 것만 요약에 더한다
    older = history[1:-RECENT] if len(history) - 1 > RECENT else []
    new = older[done:]
    if new:
        values = {"summary": summary or "(없음)", "dialog": "\n".join(f"{m.type}: {m.content}" for m in new)}
        update_tokens += count_tokens(update_prompt.invoke(values).to_messages())   # 요약 호출의 입력
        summary = update_chain.invoke(values)
        done, calls = len(older), calls + 1

    rows.append({
        "요청": t + 1,
        "모두 보내기": count_tokens(send_full(history, question)),
        "Window": count_tokens(send_window(history, question)),
        "Summary": count_tokens(send_summary(history, question, summary)),
    })

compare = pd.DataFrame(rows).set_index("요청")
print(compare.T.to_string())
print("요약 호출:", calls, "번, 입력", update_tokens, "토큰")
print("마지막 요약:", summary)

history, question = msgs[:19], msgs[19]
plans = {
    "모두 보내기": send_full(history, question),
    "Window": send_window(history, question),
    "Summary": send_summary(history, question, summary),
}
answers = {}
for name, to_send in plans.items():
    answers[name] = model.invoke(to_send).content
    print(f"[{name}] 메시지 {len(to_send)}개 → {answers[name]}")

table = pd.DataFrame({
    "열 번 입력 합": compare.sum(),
    "요약 호출 입력": pd.Series({"모두 보내기": 0, "Window": 0, "Summary": update_tokens}),
})
table["모두 더한 입력"] = table["열 번 입력 합"] + table["요약 호출 입력"]
table["2박 3일"] = [("2박 3일" in answers[name]) for name in table.index]
table["아이"] = [("아이" in answers[name]) for name in table.index]
print(table.to_string())

table.to_csv("out_ch04_strategy_compare.csv", encoding="utf-8-sig")
print("저장: out_ch04_strategy_compare.csv")