[컨텍스트 엔지니어링] 4주차 Day 4 — 기억을 밖에 두기

주차 주제: 기억과 잊기 | 제조 사례: 창에 들고 다니다 놓친 것

오늘의 목표: 창 안의 기억과 밖의 기억을 가르고, 밖에 둘 것을 정한다.

소요 시간: 30분


1. 두 가지 기억

① 창 안     지금 보고 있는 것             ★
② 밖        저장해 두고 필요할 때 꺼냄     ★
①은 매 요청마다 값을 치릅니다.            ★
②는 부를 때만 치릅니다.                   ★

2. 밖에 두면 좋은 것

□ 오래된 대화                              ★
□ 도구가 돌려준 원본                       ★
□ 만든 결과물 (문서·표·코드)               ★
□ 사용자 취향                              ★
   "이 사람은 표로 받길 좋아함"             ★
□ 지난번 작업                              ★
공통점 — 가끔 필요합니다.                 ★

3. ★ 창 안에는 「열쇠」 만

밖에 둔 것을 꺼낼 수 있게                 ★
창 안에는 목록만 둡니다.                  ★
  [저장된 것]                                ★
   · 상담 이력 #1204 (3턴~9턴)                ★
   · 품목검색 결과 #331 (40건)                ★
   · 이전 견적서 #882                         ★
세 줄입니다.                                 ★
그리고 필요하면 도구로 꺼냅니다.          ★
  불러오기("#1204")                          ★

4. 이게 3주차와 같은 얘기입니다

3주차 Day 4 — 표를 넣지 말고 조회하게.    ★
지금은 기억을 그렇게 하는 것입니다.       ★
  창에 두는 것    거의 매번 필요하고 작다     ★
  밖에 두는 것    가끔 필요하거나 크다       ★
같은 기준입니다.                             ★

5. 무엇을 「열쇠」 로 둘까

꺼낼 수 있으려면 무엇인지 알아야 합니다.  ★
  나쁜 열쇠

   · "이력 #1204"                           ★
     → 뭔지 모릅니다
  좋은 열쇠

   · "상담 #1204 — A사 브라켓 수량 협의"     ★
     (3턴~9턴 · 정해진 것: 품번 A001)       ★
· 무엇에 대한 것인지                      ★
· 언제 것인지
· 결론이 무엇인지                         ★
셋이 있으면 모델이 부를지 말지 정합니다.  ★

6. 사용자 취향 — 작고 오래갑니다

· "표로 받는 걸 좋아함"                      ★
· "존댓말 단계는 합니다체"
· "단위는 낱개로"                            ★
· "A사 건은 항상 박○○ 참조"                 ★
· 아주 짧습니다 (몇 줄)                     ★
· 오래갑니다                              ★
· 그런데 대화가 끝나면 사라집니다          ★
그래서 밖에 저장하고
다음 대화 시작할 때 넣으세요.            ★
그러면
  매번 다시 말 안 해도 됩니다.              ★

7. 어떻게 쌓나

자동으로 쌓으려 하지 마세요.                 ★
· "기억해 줘" 라고 말할 때만              ★
· 또는 사람이 화면에서 적을 때             ★
자동으로 쌓으면
  · 쓸데없는 게 쌓이고                      ★
  · 틀린 게 쌓이고
  · 그걸 계속 씁니다                      ★
그리고 지울 수 있게 하세요.               ★
· 화면에서 보이고                           ★
· 지울 수 있고
· 고칠 수 있게                              ★

8. 제조 현장의 실제

어느 업체, 상담 이력을 창에 계속 들고 다녔습니다.
· 한 고객과 여러 번 주고받습니다            ★
· 지난 대화를 다 붙였습니다
· 20번째쯤에 4만 토큰                    ★
문제
· 느렸습니다                                ★
· 비쌌습니다
· 그리고 지난 결론을 놓쳤습니다          ★
    (가운데에 묻혀서)                       ★
밖으로 옮겼습니다
  창 안에
   [이 고객 취향]        120 토큰            ★
   [지난 상담 목록 5건]   200 토큰            ★
   [정해진 것]           180 토큰            ★
   [최근 6턴]           1,800 토큰           ★
   ─────────────────────
                       2,300 토큰           ★
  4만 → 2,300                             ★
그리고 필요하면
  상담불러오기("#1187")                      ★
결과
  토큰    1/17                               ★
  응답    5.8초 → 0.9초                      ★
  지난 결론 놓침  월 9건 → 1건          ★
줄였는데 기억이 좋아졌습니다.             ★

9. ★ 왜 좋아지나

· 창 안에 있다고 보는 게 아닙니다         ★
· 가운데에 묻히면 없는 것과 같습니다      ★
반면 밖에 있는 것은
  목록으로 보이고                          ★
  일부러 꺼냅니다                          ★
그래서 오히려 잘 쓰입니다.                ★
"들고 다니면 기억한다" 는 틀립니다.          ★

10. 오늘 해 볼 것 (15분)

① 창에 들고 다니는 것을 찾으세요

  무엇  ____________  토큰 ______            ★
  실제로 쓰이는 비율  ___%                   ★
② 밖에 둘 것을 고르세요

  □ 오래된 대화  □ 도구 원본                 ★
  □ 만든 결과물  □ 사용자 취향               ★
  □ 지난 작업                                ★
③ 열쇠를 설계하세요

  열쇠에 넣을 것
  □ 무엇에 대한 것  □ 언제  □ 결론          ★
  예시  ____________________                 ★

11. 내일 할 것

이번 주를 마무리합니다.

압축·요약을 설계합니다. 갈래 · 칸 · 시점 · 밖에 둘 것까지.


이 글은 컨텍스트 엔지니어링 과정의 4주차 4일차입니다. 과정 전체 보기

진도와 검색이 되는 판: AXPulse 기술따라가기

댓글

이 블로그의 인기 게시물

자재관리는 잘 쓰는데 BOM은 엑셀입니다

협력사 AI 로봇 도입, 공급망 스마트 제조 생태계 대응 전략

개발 테스트 자동화, AI 에이전트와 MCP 도입 전략