[컨텍스트 엔지니어링] 3주차 Day 4 — 표를 넣지 말고 조회하게 한다
주차 주제: 덜어내기 | 제조 사례: 품목 4,200건을 창에 넣던 회사
오늘의 목표: 창에 둘 것과 도구로 내릴 것을 가른다.
소요 시간: 30분
1. 한 문장으로
큰 것은 넣지 말고 부르게 하세요. ★2. 표가 왜 큰가
| 품번 | 규격 | 수량 | 단위 |
|------|------|------|------|
| A001 | M8 | 120 | EA | ★· 칸 구분 기호가 전부 토큰입니다 ★
· 품번·코드가 잘게 쪼개집니다 ★
"PRD-A-001" 이 5~7 토큰 ★
· 반복되는 값도 매번 셉니다 ★그래서
표 1,000행이 10만 토큰을 넘기기도 합니다. ★3. ★ 창에 둘 것 / 도구로 내릴 것
창에 둡니다 도구로 내립니다 ★
─────────────────────────────────────────
거의 매번 필요 가끔 필요 ★
작다 (수천 토큰) 크다 ★
잘 안 바뀐다 자주 바뀐다 ★
─────────────────────────────────────────
시스템 지시 마스터 ★
사내 어휘 실적·재고 ★
기술 긴 문서 ★
도구 설명 표·목록 ★그리고 마스터는 무조건 도구로입니다. ★4. 마스터를 창에 넣으면 안 되는 이유
① 큽니다 ★
품목 4,200건 × 속성 12개
② 매일 바뀝니다 ★
창에 넣은 것은 그 순간의 사본입니다 ★
③ 비슷한 게 많아 헷갈립니다 ★
"M8 볼트" 가 20개 나옵니다 ★
④ 쓰는 건 한두 건입니다 ★④가 결정적입니다. ★4,200건을 넣고 2건을 씁니다. ★온톨로지 과정 11주차 Day 2 와 같은 결론입니다.
5. 도구로 내리면 생기는 것
· 필요할 때만 부릅니다 ★
· 항상 최신입니다 ★
· 양에 한계가 없습니다 ★
· 권한을 걸 수 있습니다 ★대가· 못 찾을 수 있습니다 ★
· 부르는 데 시간이 듭니다
· 도구 설명이 창을 먹습니다 ★첫 번째가 진짜 문제입니다. ★6. 「못 찾음」 을 줄이는 법
검색이 안 맞아서 못 찾습니다. ★그래서□ 순서 무시·부분 일치로 찾게 하세요 ★
"M8 볼트" 와 "볼트 M8" ★
□ 정규화하세요 ★
공백·기호·대소문자
□ 동의어를 넣으세요 ★
(온톨로지 5주차)
□ 결과에 이름표를 붙이세요 ★
(2주차 Day 4)
□ 없으면 없다고 돌려주세요 ★
빈 배열을 주고, 지어내지 말라고 ★마지막이 중요합니다. ★도구가 빈 결과를 줬는데
모델이 지어내면 아무 소용이 없습니다. ★7. 도구가 돌려주는 것도 줄이세요
조회 도구가 전체 행을 돌려주면 ★ 창에 넣은 것과 똑같아집니다. ★그래서□ 건수 상한 (10~20건) ★
□ 열을 골라 돌려주기 ★
□ 길면 요약해서 ★
□ "더 있음" 을 표시하기 ★마지막을 빠뜨리면 상위 10건만 보고 전부인 줄 압니다. ★5주차 Day 2 가 이것을 자세히 다룹니다. ★8. 제조 현장의 실제
어느 업체, 품목 마스터를 창에 넣었습니다.· 4,200건 × 12속성 ★
· 약 9만 토큰 ★
· "검색이 안 맞을까 봐" 통째로 ★문제· 비용이 감당이 안 됐습니다 ★
· 응답 12초 ★
· 그리고 정확도가 낮았습니다 ★
비슷한 품목을 헷갈렸습니다 ★도구로 내렸습니다 품목검색(키워드, 상한 10건) ★
→ 창에서 9만 토큰이 사라졌습니다 ★
→ 도구 설명 180 토큰이 들어왔습니다 ★ 토큰 9만 → 0.9만 ★
응답 12초 → 1.4초 ★
정확도 올랐습니다 ★그리고 「못 찾음」 을 세어 보니 첫 달 14% ★검색을 고쳤습니다· 순서 무시·부분 일치 ★
· 규격 정규화 (M8 = M-8 = m8) ★
· 동의어 (온톨로지 과정 결과를 그대로) ★ 못 찾음 14% → 3% ★9. ★ 순서가 중요합니다
"검색이 안 맞아서 통째로 넣는다" 는
거꾸로입니다. ★· 통째로 넣으면 검색을 안 고칩니다 ★
· 그리고 영원히 못 고칩니다 ★맞는 순서 ① 도구로 내립니다 ★
② 못 찾음을 셉니다 ★
③ 그 숫자를 보고 검색을 고칩니다 ★②가 있어야 ③을 합니다. ★10. 오늘 해 볼 것 (15분)
① 창에 있는 「표」 를 찾으세요
무엇 ____________ 토큰 ______ ★
실제로 쓰는 행 ___건 / ___건 ★② 도구로 내릴 수 있나
□ 이름·코드로 찾을 수 있나 ★
□ 조회 도구가 이미 있나
□ 없으면 만들 수 있나 ★③ 도구 응답을 점검하세요
□ 건수 상한이 있나 ★
□ 열을 골라 주나
□ "더 있음" 을 표시하나 ★
□ 없으면 빈 결과를 주나 ★11. 내일 할 것
이번 주를 마무리합니다.
예산과 우선순위를 한 장으로 확정합니다.
이 글은 컨텍스트 엔지니어링 과정의 3주차 4일차입니다. 과정 전체 보기
진도와 검색이 되는 판: AXPulse 기술따라가기
댓글
댓글 쓰기