[컨텍스트 엔지니어링] 4주차 Day 4 — 기억을 밖에 두기
주차 주제: 기억과 잊기 | 제조 사례: 창에 들고 다니다 놓친 것
오늘의 목표: 창 안의 기억과 밖의 기억을 가르고, 밖에 둘 것을 정한다.
소요 시간: 30분
1. 두 가지 기억
① 창 안 지금 보고 있는 것 ★
② 밖 저장해 두고 필요할 때 꺼냄 ★
①은 매 요청마다 값을 치릅니다. ★
②는 부를 때만 치릅니다. ★
2. 밖에 두면 좋은 것
□ 오래된 대화 ★
□ 도구가 돌려준 원본 ★
□ 만든 결과물 (문서·표·코드) ★
□ 사용자 취향 ★
"이 사람은 표로 받길 좋아함" ★
□ 지난번 작업 ★
공통점 — 가끔 필요합니다. ★
3. ★ 창 안에는 「열쇠」 만
밖에 둔 것을 꺼낼 수 있게 ★
창 안에는 목록만 둡니다. ★
[저장된 것] ★
· 상담 이력 #1204 (3턴~9턴) ★
· 품목검색 결과 #331 (40건) ★
· 이전 견적서 #882 ★
세 줄입니다. ★
그리고 필요하면 도구로 꺼냅니다. ★
불러오기("#1204") ★
4. 이게 3주차와 같은 얘기입니다
3주차 Day 4 — 표를 넣지 말고 조회하게. ★
지금은 기억을 그렇게 하는 것입니다. ★
창에 두는 것 거의 매번 필요하고 작다 ★
밖에 두는 것 가끔 필요하거나 크다 ★
같은 기준입니다. ★
5. 무엇을 「열쇠」 로 둘까
꺼낼 수 있으려면 무엇인지 알아야 합니다. ★
나쁜 열쇠
· "이력 #1204" ★
→ 뭔지 모릅니다
좋은 열쇠
· "상담 #1204 — A사 브라켓 수량 협의" ★
(3턴~9턴 · 정해진 것: 품번 A001) ★
· 무엇에 대한 것인지 ★
· 언제 것인지
· 결론이 무엇인지 ★
셋이 있으면 모델이 부를지 말지 정합니다. ★
6. 사용자 취향 — 작고 오래갑니다
· "표로 받는 걸 좋아함" ★
· "존댓말 단계는 합니다체"
· "단위는 낱개로" ★
· "A사 건은 항상 박○○ 참조" ★
· 아주 짧습니다 (몇 줄) ★
· 오래갑니다 ★
· 그런데 대화가 끝나면 사라집니다 ★
그래서 밖에 저장하고
다음 대화 시작할 때 넣으세요. ★
그러면
매번 다시 말 안 해도 됩니다. ★
7. 어떻게 쌓나
자동으로 쌓으려 하지 마세요. ★
· "기억해 줘" 라고 말할 때만 ★
· 또는 사람이 화면에서 적을 때 ★
자동으로 쌓으면
· 쓸데없는 게 쌓이고 ★
· 틀린 게 쌓이고
· 그걸 계속 씁니다 ★
그리고 지울 수 있게 하세요. ★
· 화면에서 보이고 ★
· 지울 수 있고
· 고칠 수 있게 ★
8. 제조 현장의 실제
어느 업체, 상담 이력을 창에 계속 들고 다녔습니다.
· 한 고객과 여러 번 주고받습니다 ★
· 지난 대화를 다 붙였습니다
· 20번째쯤에 4만 토큰 ★
문제
· 느렸습니다 ★
· 비쌌습니다
· 그리고 지난 결론을 놓쳤습니다 ★
(가운데에 묻혀서) ★
밖으로 옮겼습니다
창 안에
[이 고객 취향] 120 토큰 ★
[지난 상담 목록 5건] 200 토큰 ★
[정해진 것] 180 토큰 ★
[최근 6턴] 1,800 토큰 ★
─────────────────────
2,300 토큰 ★
4만 → 2,300 ★
그리고 필요하면
상담불러오기("#1187") ★
결과
토큰 1/17 ★
응답 5.8초 → 0.9초 ★
지난 결론 놓침 월 9건 → 1건 ★
줄였는데 기억이 좋아졌습니다. ★
9. ★ 왜 좋아지나
· 창 안에 있다고 보는 게 아닙니다 ★
· 가운데에 묻히면 없는 것과 같습니다 ★
반면 밖에 있는 것은
목록으로 보이고 ★
일부러 꺼냅니다 ★
그래서 오히려 잘 쓰입니다. ★
"들고 다니면 기억한다" 는 틀립니다. ★
10. 오늘 해 볼 것 (15분)
① 창에 들고 다니는 것을 찾으세요
무엇 ____________ 토큰 ______ ★
실제로 쓰이는 비율 ___% ★
② 밖에 둘 것을 고르세요
□ 오래된 대화 □ 도구 원본 ★
□ 만든 결과물 □ 사용자 취향 ★
□ 지난 작업 ★
③ 열쇠를 설계하세요
열쇠에 넣을 것
□ 무엇에 대한 것 □ 언제 □ 결론 ★
예시 ____________________ ★
11. 내일 할 것
이번 주를 마무리합니다.
압축·요약을 설계합니다. 갈래 · 칸 · 시점 · 밖에 둘 것까지.
이 글은 컨텍스트 엔지니어링 과정의 4주차 4일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기