[컨텍스트 엔지니어링] 3주차 Day 5 — 실습: 예산과 우선순위
주차 주제: 덜어내기 | 제조 사례: 한 장짜리 예산표
오늘의 목표: 예산·우선순위·자르는 규칙을 확정하고 조립 함수에 넣는다.
소요 시간: 30분
1. 오늘 만들 것
─────────────────────────────────────────────
컨텍스트 예산 — 용도 ____________ ★
전체 상한 ______ 토큰 ★
근거 꺾이는 지점 ____ / 응답 ____ /
비용 ____ → 가장 작은 값 ★
덩어리 상한 순위 자르는 법 ★
───────────────────────────────────────
시스템 지시 ____ 1 못 자름 ★
사내 어휘 ____ 1 못 자름
도구 설명 ____ 2 묶기 ★
기술 ____ 2 고른 것만
자료 ____ 3 건수·절·열 ★
이력 ____ 4 도구 응답부터 ★
항상 같이 넣을 것 ★
□ 특기사항 □ 개정이력 □ 단위정의 ★
도구로 내린 것 ★
□ ____________ □ ____________
자를 때
□ 잘랐다고 기록 ★
□ 순위 1 을 자르면 오류 ★
─────────────────────────────────────────────2. 순서 (20분)
① 전체 상한을 정합니다 (5분) ★
② 덩어리 상한을 나눕니다 (5분) ★
③ 자르는 법을 적습니다 (5분) ★
④ 조립 함수에 넣습니다 (5분) ★3. ② 덩어리 상한 나누는 법
합이 전체 상한이 되게. ★예 — 상한 12,000 시스템 지시 800 (고정) ★
사내 어휘 2,000 (고정)
도구 설명 1,200 (고정) ★
기술 1,500 (고정)
──────────────────────
고정부 소계 5,500 ★
──────────────────────
자료 5,500 (가변) ★
이력 1,000 (가변) ★
──────────────────────
합계 12,000 ★고정부가 절반 가까이입니다. ★그게 정상입니다 — 캐시가 먹으니까요. ★
(2주차 Day 2)4. ★ 고정부가 너무 크면
고정부가 70% 를 넘으면 자료를 못 넣습니다. ★그때 줄일 자리 □ 도구를 묶으세요 (MCP 5주차) ★
□ 기술을 고르세요 (Skill 3주차) ★
□ 어휘를 바뀌기 쉬운 것만 ★
□ 예시를 2개 → 1개 ★그리고 순서 ① 도구 (대개 가장 큽니다) ★
② 기술
③ 어휘 (가장 나중에) ★③이 마지막인 이유 — 효과가 제일 큽니다. ★
(모델 고르기 4주차 Day 4 — 28/64 → 59/64) ★5. ④ 조립 함수에 넣기
2주차 Day 5 에서 만든 함수에 덧붙입니다. ★ buildContext() 가 하는 일 ① 순서대로 조립 (2주차) ★
② 덩어리별 토큰 측정 (1주차) ★
③ 상한 초과 시 순위대로 자르기 (오늘) ★
④ 잘린 것을 기록 ★
⑤ 순위 1 을 자르면 오류 ★다섯이면 됩니다. ★그리고 이 함수가 있으면 · 규칙을 어길 수가 없고 ★
· 늘어나는 것이 바로 보입니다 ★6. 이번 주 산출물
□ 건수별 정확도 곡선 (Day 1) ★
□ 꺾이는 지점 ★
□ 전체 상한과 근거 ★
□ 덩어리별 상한과 우선순위 ★
□ 자르는 법 ★
□ 「항상 같이」 목록 ★
□ 도구로 내린 것 ★
□ 잘린 비율 지표 ★
□ 조립 함수에 반영 ★7. 효과를 재세요
항목 전 후 ★
──────────────────────────────────
평균 토큰 ____ ____ ★
P90 ____ ____
정확도 ___% ___% ★
응답 P90 ___초 ___초 ★
건당 비용 ____ ____ ★
못 찾음 ___% ___% ★마지막을 꼭 보세요. ★줄였는데 못 찾음이 안 늘면 ★
줄인 것이 맞습니다. ★8. 4주차 예고
4주차 — 기억과 잊기
Day 1 대화가 길어지면 생기는 일 ★
Day 2 무엇을 기억하고 무엇을 흘려보낼까 ★
Day 3 ★ 압축 — 요약이 원본을 대체할 때의 손실 ★
Day 4 기억을 밖에 두기 ★
Day 5 실습 — 압축·요약 설계 ★이번 주에 이력을 가장 먼저 버린다고
했습니다. ★그런데 버리면 안 되는 이력도 있습니다. ★
그걸 가르는 주입니다. ★9. 이번 주에 기억할 것
① 넣을수록 좋아지지 않습니다. ★
20건이 2건보다 나빴습니다
② 덜어내면 정확도·비용·속도가 같이 ★
좋아집니다. 맞바꿈이 아닙니다
③ 줄인 것은 다시 늡니다. 예산을 걸고 ★
넘으면 막히게 하세요
④ 자를 때 잘랐다고 기록하세요. ★
조용히 자르면 왜 틀렸는지 모릅니다
⑤ 큰 것은 도구로 내리세요. ★
그리고 못 찾음을 세세요10. 마지막으로
1~3주차가 이 과정의 절반입니다. ★ 1주 세어 봤고 ★
2주 순서를 바꿨고
3주 덜어냈습니다 ★그리고 셋 다
모델을 안 바꾸고 ★
자료를 안 고치고 ★
한 일입니다.남은 3주는 시간이 흐를 때의 이야기입니다. ★
대화가 길어지고, 도구가 쌓이고,
문서가 지시가 되는 자리. ★이 글은 컨텍스트 엔지니어링 과정의 3주차 5일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기