프로젝트 1 — 대화 비용 계산기 만들기

import json
from pathlib import Path

import pandas as pd
import tiktoken

# 사전의 목록으로 읽는다: [{"role": ..., "content": ...}, ...]
msgs = json.loads(Path("chat_log.json").read_text(encoding="utf-8"))
enc = tiktoken.get_encoding("o200k_base")

# 메시지마다 역할, 토큰 수, 내용 앞부분을 표로 만든다
tokens = pd.DataFrame({
    "역할": [m["role"] for m in msgs],
    "토큰 수": [len(enc.encode(m["content"])) for m in msgs],
    "내용": [m["content"][:18] for m in msgs],
})
print("메시지 수:", len(msgs))
print(tokens.head(5).to_string())
# 역할마다 토큰 수를 더한다
print(tokens.groupby("역할")["토큰 수"].sum())

def count(messages):
    """메시지 목록의 토큰 수를 모두 더한다."""
    return sum(len(enc.encode(m["content"])) for m in messages)


rows = []
for t in range(10):
    q = 1 + 2 * t                                    # t 번째 질문의 자리
    full = msgs[: q + 1]                             # 시스템부터 새 질문까지 모두
    window = [msgs[0]] + msgs[max(1, q - 4): q + 1]  # 시스템 + 바로 앞 4개 + 새 질문
    rows.append({"요청": t + 1, "모두 보내기": count(full), "최근 4개만": count(window)})

compare = pd.DataFrame(rows).set_index("요청")
print(compare.T.to_string())

import matplotlib.pyplot as plt

# 한글 글꼴과 빼기 기호 설정
plt.rcParams["font.family"] = "Malgun Gothic"
plt.rcParams["axes.unicode_minus"] = False

# marker="o": 요청마다 점을 찍는다
ax = compare.plot(marker="o", figsize=(7.5, 3.8))
ax.set_title("요청마다 보내는 입력 토큰")
ax.set_xlabel("몇 번째 요청")
ax.set_ylabel("입력 토큰 수")
ax.set_xticks(range(1, 11))
plt.show()

# 가정한 단가: 100만 토큰당 입력 1달러 (실습 3과 같은 가정값)
PRICE_IN = 1.0
totals = compare.sum()
for name, total in totals.items():
    cost = total * PRICE_IN / 1_000_000 * 1000       # 대화 1,000번의 입력 요금
    print(f"{name}: 열 번 합 {int(total)} 토큰, 대화 1,000번 {cost:.2f}달러")
print("줄어든 비율:", round(1 - totals["최근 4개만"] / totals["모두 보내기"], 3))

# 마지막 요청에서 "최근 4개만" 방식이 보내는 메시지
q = 1 + 2 * 9
window = [msgs[0]] + msgs[q - 4: q + 1]
for fact in ["2박 3일", "아이 둘"]:
    print(f"'{fact}' 을 볼 수 있나:", any(fact in m["content"] for m in window))