[컨텍스트 엔지니어링] 4주차 Day 3 — ★ 압축: 요약이 원본을 대체할 때의 손실
주차 주제: 기억과 잊기 | 제조 사례: 요약이 지운 숫자
오늘의 목표: 요약이 무엇을 잃는지 알고, 잃지 않는 형식을 만든다.
소요 시간: 30분
1. 한 문장으로
요약은 줄이는 것이 아니라
버릴 것을 고르는 것입니다. ★
그리고 모델이 고릅니다. ★
2. 무엇을 잃나
① 숫자 ★
"수량을 조정했다" ← 얼마인지 사라짐 ★
② 고유명사 ★
품번·고객명이 "해당 품목" 이 됩니다 ★
③ 부정 ★
"B002 는 제외" 가 사라집니다 ★
④ 조건 ★
"단, 3일 이내면" 이 빠집니다 ★
⑤ 누가 말했나 ★
사용자가 정한 것과 모델이 제안한 것 ★
①③이 가장 아픕니다. ★
3. ③ 부정이 사라지는 것
요약은 있었던 일을 씁니다. ★
안 하기로 한 것은 잘 안 씁니다. ★
원문 "B002 를 검토했으나 단종이라 제외" ★
요약 "품목을 검토했다" ★
그러면 15턴쯤에
B002 를 다시 꺼냅니다. ★
그리고 사람이 또 설명합니다. ★
4. ★ 그래서 — 자유 요약을 쓰지 마세요
"위 대화를 요약해 줘" 는 위험합니다. ★
대신 칸을 정해 주세요. ★
{
"정해진 것": { "품번":"A001", "수량":1200 }, ★
"제외한 것": [ {"값":"B002","이유":"단종"} ], ★
"미정": ["납기"], ★
"제약": ["3일 이내면 특급 요율"], ★
"다음 할 일": "납기 확인" ★
}
이러면
· 숫자가 칸에 들어갑니다 ★
· 부정이 제외한 것에 남습니다 ★
· 조건이 제약에 남습니다 ★
· 그리고 기계가 읽을 수 있습니다 ★
5. 「미정」 칸을 꼭 두세요
요약이 가장 잘 지우는 것이
아직 안 정해진 것입니다. ★
· 정해진 것은 씁니다 ★
· 안 정해진 것은 안 씁니다 ★
그러면
· 빠진 게 있는지 모릅니다 ★
· 그리고 정해진 척 넘어갑니다 ★
「미정」 이 있으면
· 사람이 보고 채웁니다 ★
· 모델이 물어봅니다 ★
· 끝났는지 판정이 됩니다 ★
루프 엔지니어링 2주차의 완료 조건과 이어집니다.
6. 언제 압축하나
㉮ 턴 수로 10턴마다 ★
㉯ 토큰으로 예산의 70% 에서 ★
㉰ 단락마다 한 주제가 끝날 때 ★
㉯ 가 실무적입니다. ★
· 예산을 넘기 전에 압축합니다 ★
· 넘고 나서 자르면 중요한 게 잘립니다 ★
그리고 압축은 돈이 듭니다. ★
(모델을 한 번 더 부릅니다)
그래서 작은 모델로 하세요. ★
칸이 정해져 있으면 작은 모델로 됩니다. ★
7. 원본을 버리지 마세요
압축했다고 원본을 지우면
· 요약이 틀렸을 때 확인할 수가 없습니다 ★
· 되돌릴 수 없습니다 ★
그래서
· 원본은 저장소에 남깁니다 ★
· 창에만 안 넣습니다 ★
· 필요하면 도구로 불러 봅니다 ★
데이터 과정 4주차 Day 4 의
「지우지 않는다」 와 같은 원칙입니다. ★
8. 제조 현장의 실제
어느 업체, 긴 상담을 요약해서 이어 갔습니다.
자유 요약이었습니다. ★
"고객과 수량·납기를 협의함. ★
일부 품목은 대체품으로 진행하기로 함." ★
그리고 견적서를 냈는데
· 수량이 틀렸습니다 ★
· 대체품이 어느 것인지 없었습니다 ★
· 제외하기로 한 품목이 들어갔습니다 ★
칸을 정한 뒤
{
"정해진 것": {...}, ★
"제외한 것": [...],
"미정": [...], ★
"제약": [...]
}
견적 오류 월 11건 → 1건 ★
압축 비용 건당 아주 작음 (작은 모델) ★
그리고 「미정」 칸 덕분에
빠진 항목을 사람이 먼저 봤습니다. ★
9. ★ 요약을 검사하세요
요약도 지어냅니다. ★
그래서
□ 숫자가 원문에 있나 대조하세요 ★
□ 품번·고객명이 원문에 있나 ★
□ 「제외한 것」 이 원문에 있나 ★
기계로 됩니다. ★
(데이터 과정·모델 고르기의 숫자 대조)
그리고 주기적으로 사람이 10건씩. ★
10. 오늘 해 볼 것 (15분)
① 지금 압축 방식을 보세요
□ 안 함 □ 자유 요약 □ 칸이 정해짐 ★
② 칸을 설계하세요
□ 정해진 것 □ 제외한 것 ★
□ 미정 □ 제약 ★
□ 다음 할 일 □ ____________ ★
③ 손실을 재 보세요
긴 대화 하나를 요약하고
□ 숫자가 다 남았나 ★
□ 제외한 것이 남았나 ★
□ 미정이 드러났나 ★
11. 내일 할 것
기억을 밖에 두기.
창 안에 들고 다니지 말고 저장하고 불러 쓰는 쪽으로.
이 글은 컨텍스트 엔지니어링 과정의 4주차 3일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기