[컨텍스트 엔지니어링] 1주차 Day 2 — 창 안에 실제로 무엇이 들어가나
주차 주제: 창 안을 들여다본다 | 제조 사례: 꺼내 보니 8할이 쓰레기였다
오늘의 목표: 창을 구성하는 일곱 덩어리를 알고, 우리 것을 꺼내 본다.
소요 시간: 30분
1. 창은 한 덩어리가 아닙니다
「프롬프트」 라고 부르지만
실제로는 여러 덩어리가 붙어 있습니다. ★2. ★ 일곱 덩어리
① 시스템 지시 역할·규칙·말투 ★
② 기술(Skill) 이 일을 하는 방식 ★
③ 도구 설명 무엇을 부를 수 있나 ★
④ 사내 어휘 용어·개념·금기 ★
⑤ 자료 문서·검색 결과 ★
⑥ 주고받은 것 앞의 대화·앞의 도구 응답 ★
⑦ 이번 질문 ★그리고 ③⑥ 을 세는 사람이 거의 없습니다. ★3. ③ 도구 설명이 의외로 큽니다
도구 하나의 설명 + 인자 명세가
수백 토큰입니다. ★ 도구 10개 = 2,000~5,000 토큰 ★그리고 매 요청마다 들어갑니다. ★그런데
· 그 요청에 쓸 도구는 한두 개입니다 ★
· 나머지 여덟은 자리만 먹습니다 ★MCP 과정 5주차가 이걸 다룹니다.
4. ⑥ 주고받은 것 — 가장 빨리 붑니다
대화가 길어지면 1턴 ①~⑤ + 질문 ★
5턴 ①~⑤ + 앞의 질문·답 4벌 ★
20턴 ①~⑤ + 앞의 것 19벌 ★그리고 도구를 부르면 더 붑니다. ★· 도구 호출 기록 ★
· 도구가 돌려준 값 (길 수 있습니다) ★
· 그게 전부 남아 다음 턴에 갑니다 ★5주차가 이것을 다룹니다. ★5. 꺼내 보는 법
쓰는 도구마다 다르지만 대개□ API 요청 본문을 통째로 로그에 ★
□ 토큰 수를 응답에서 받아 저장 ★
□ 덩어리마다 따로 세기 ★세 번째가 중요합니다. ★전체 토큰만 알면
누가 먹는지 모릅니다. ★6. 덩어리마다 세는 법
프롬프트를 조립하는 코드에서
각 덩어리를 만들 때 길이를 같이 재세요. ★ 덩어리 토큰 비율 ★
──────────────────────────────────
시스템 지시 ______ ___%
기술 ______ ___% ★
도구 설명 ______ ___% ★
사내 어휘 ______ ___%
자료 ______ ___% ★
주고받은 것 ______ ___% ★
이번 질문 ______ ___%한 번만 만들어 두면 계속 씁니다. ★7. 제조 현장의 실제
어느 업체, 사내 질의응답이 자꾸 엉뚱하게 답했습니다.창을 꺼내 세어 봤습니다. 덩어리 토큰 비율 ★
──────────────────────────────────
시스템 지시 820 2%
기술 1,400 3%
도구 설명 4,600 11% ★
사내 어휘 2,100 5%
자료 28,400 68% ★
주고받은 것 4,300 10%
이번 질문 180 0.4% ★
──────────────────────────────────
합계 41,800 ★자료가 68% 였습니다.그 자료를 열어 보니· 검색 결과 상위 20건을 통째로 붙이고 있었습니다 ★
· 그중 실제로 관련된 것은 2~3건 ★
· 나머지는 비슷한 다른 공정 문서였습니다 ★그래서 모델이
다른 공정의 값을 가져다 답했습니다. ★고친 것· 검색 결과 20건 → 4건 ★
· 도구 10개 → 4개로 묶음 ★
· 대화 이력 20턴 → 최근 6턴 + 요약 ★ 합계 41,800 → 9,200 토큰 ★
정확도 크게 올랐습니다 ★
비용 1/4 ★
응답 3.1초 → 0.9초 ★뺐더니 셋 다 좋아졌습니다.
8. ★ 「자료가 대부분」 이 보통입니다
대개 이런 비율이 나옵니다 자료 60~80% ★
주고받은 것 5~20%
도구 설명 5~15% ★
나머지 전부 10% 안팎 ★그래서 고칠 자리도 자료입니다. ★그런데 사람들은
시스템 지시를 고칩니다. 2% 짜리를. ★9. 세어 보기 전에는 모릅니다
· "도구 설명이 그렇게 클 줄 몰랐다" ★
· "대화 이력이 이렇게 쌓이는 줄 몰랐다" ★
· "검색 결과를 20건이나 넣고 있었다" ★셋 다 자주 나오는 반응입니다. ★그리고 셋 다
세어 보면 5분에 나옵니다. ★10. 오늘 해 볼 것 (15분)
① 요청 하나를 통째로 꺼내세요
꺼낼 수 있나 ○/✗ ★
✗ 면 → 로그에 남기는 것부터 ★② 눈으로 훑어보세요
□ 예상보다 긴가 ★
□ 안 쓰는 도구 설명이 있나 ★
□ 관련 없는 문서가 있나 ★
□ 오래된 대화가 남아 있나 ★③ 대충이라도 비율을 적으세요
자료 ___% 도구 ___% 이력 ___% ★
→ 가장 큰 것이 고칠 자리입니다 ★11. 내일 할 것
★ 토큰을 세어 본다 — 누가 자리를 먹고 있나.
눈으로 본 것을 숫자로 바꿉니다.
이 글은 컨텍스트 엔지니어링 과정의 1주차 2일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기