[컨텍스트 엔지니어링] 3주차 Day 3 — 무엇부터 버릴 것인가
주차 주제: 덜어내기 | 제조 사례: 문서 하나를 통째로 넣던 자리
오늘의 목표: 같은 덩어리 안에서 무엇을 남기고 무엇을 자를지 정한다.
소요 시간: 30분
1. 어제까지
· 덩어리 사이의 우선순위를 정했습니다 ★오늘은
같은 덩어리 안에서 무엇을 버릴지. ★2. ★ 자료를 줄이는 네 단계
① 건수를 줄입니다 20건 → 4건 ★
② 문서 안에서 자릅니다 전문 → 해당 절 ★
③ 열을 줄입니다 표에서 쓰는 것만 ★
④ 요약으로 바꿉니다 원문 → 요약 ★①②가 크고 안전합니다. ★
④는 손실이 있습니다. (4주차 Day 3) ★3. ② 문서 안에서 자르기
사양서 40쪽을 통째로 넣지 말고
해당 절만 넣습니다. ★그런데 어느 절인지를 알아야 합니다. ★방법㉮ 목차·제목으로 찾습니다 ★
절 단위로 나눠 뒀으면 (5주차 나누기)
㉯ 검색으로 절을 찾습니다 ★
㉰ 모델에게 먼저 목차를 보여 주고 ★
"어느 절을 봐야 하나" 를 묻습니다 ★㉰ 가 의외로 잘 듭니다. ★· 목차는 짧습니다 ★
· 그걸로 절을 고릅니다
· 그 절만 다시 넣습니다 ★두 번 부르지만 전체보다 쌉니다. ★4. ★ 「항상 같이」 목록
자르면 빠지면 안 되는 것이 있습니다. ★ □ 특기사항 · 예외 조항 ★
□ 개정 이력 (최신 확인) ★
□ 단위·기준 정의 ★
□ 고객 개별 요구 ★2주차 Day 1 의 「항상 뒤」 와 같은 목록입니다. ★· 자를 때는 항상 같이 넣고 ★
· 놓을 때는 항상 뒤에 ★이게 없으면 절만 잘라 넣었는데
그 절에 걸리는 예외 조항을 놓칩니다. ★5. ③ 열을 줄이기
표를 넣을 때 | 품번 | 품명 | 규격 | 단위 | 수량 | ★
| 단가 | 금액 | 납기 | 비고 | 담당 |
| 등록일 | 수정일 | 상태 | ... | ★질문이 "납기" 인데 15열을 다 넣습니다. ★줄이면 | 품번 | 납기 | 상태 | ★· 토큰이 1/5 ★
· 그리고 헷갈릴 것이 줄어듭니다 ★다만 무슨 열이 필요한지를 알아야 합니다. ★
그래서 내일 Day 4 — 조회하게 하는 쪽이 ★
대개 낫습니다.6. 이력을 자르는 법
가장 먼저 버리는 것 (어제 우선순위 4) ★㉮ 최근 N턴만 ★
가장 간단합니다
㉯ 토큰 기준으로 ★
긴 턴 하나가 여러 턴보다 클 수 있습니다 ★
㉰ 도구 응답만 버립니다 ★
질문·답은 짧고 도구 응답이 큽니다 ★
㉱ 요약으로 대체 (4주차) ★㉰ 가 요령입니다. ★· 대화 이력의 대부분이 도구 응답입니다 ★
· 그런데 그건 이미 답에 반영됐습니다 ★
· 원문을 들고 있을 이유가 적습니다 ★5주차 Day 4 가 이것을 다룹니다. ★7. 제조 현장의 실제
어느 업체, 사양서를 통째로 넣고 있었습니다. 평균 18,000 토큰 / 건 ★㉰ 방식으로 바꿨습니다 ① 목차만 보여 주고 (400 토큰) ★
"어느 절을 봐야 하나?"
② 고른 절 + 항상 같이 목록 ★
(특기사항·개정이력·단위정의)
③ 그걸로 답하게 ★결과 토큰 18,000 → 3,100 (두 번 합쳐) ★
정확도 73% → 94% ★
응답 4.2초 → 1.6초 ★그리고 뜻밖의 효과 어느 절을 봤는지가 기록에 남습니다. ★
→ 틀렸을 때 절을 잘못 골랐는지 ★
절은 맞는데 못 읽었는지 갈립니다 ★전에는 구분이 안 됐습니다. ★8. ★ 「두 번 부르기」 를 두려워 마세요
"두 번 부르면 비싸지 않나요" ★ 한 번 × 18,000 토큰 ★
두 번 × (400 + 2,700) ★두 번이 쌉니다. ★그리고· 첫 호출은 작은 모델로 해도 됩니다 ★
(목차에서 절 고르기)
· 그러면 더 쌉니다 ★「한 번에 끝내야 한다」 는 규칙이 없습니다. ★9. 버리면 안 되는 것 — 한 줄로
답이 달라지면 버리면 안 됩니다. ★그리고 그건 빼고 돌려 봐야 압니다. ★
(1주차 Day 4)감으로 정하지 마세요. ★10. 오늘 해 볼 것 (15분)
① 가장 큰 자료를 보세요
무엇 ____________ 평균 ___ 토큰 ★
질문에 쓰이는 부분 대략 ___% ★② 자를 방법을 고르세요
□ 건수 줄이기 □ 절만 넣기 ★
□ 열 줄이기 □ 조회로 (내일) ★③ 「항상 같이」 목록을 만드세요
□ 특기사항 □ 개정 이력 ★
□ 단위·기준 정의 □ ____________ ★11. 내일 할 것
표를 넣지 말고 조회하게 한다.
가장 큰 덩어리를 창 밖으로 내보내는 방법입니다.
이 글은 컨텍스트 엔지니어링 과정의 3주차 3일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기