[온톨로지 적용하기] 11주차 Day 2 — 셋 중 무엇을 언제 쓰나

주차 주제: LLM 에게 회사 말 가르치기 | 제조 사례: 자료 종류별로 나눈 회사

오늘의 목표: 자료 종류마다 어느 방식으로 줄지 표로 정한다.

소요 시간: 30분

---

1. 자료는 한 종류가 아니다

LLM 에게 줄 것들

· 온톨로지 (개념·속성·관계)                  ★
· 지표 정의 · 질의 정의                      ★
· 못 함 목록 · 모호어                        ★
· 기준정보 (품목·거래처 목록)                ★
· 업무 매뉴얼 · 작업표준서                   ★
· 과거 사례 · 클레임 이력                    ★
· 실제 데이터 (조회 결과)                    ★

전부 다르게 줘야 합니다.                  ★

---

2. ★ 종류별 방식

자료                크기      바뀜   방식     ★
─────────────────────────────────────────────
온톨로지            작음      가끔   ㉮      ★
지표·질의 정의       작음      가끔   ㉮      ★
못함목록·모호어      작음      가끔   ㉮      ★
기준정보 목록        큼       매일   조회    ★
매뉴얼·표준서       큼       가끔   ㉯      ★
과거 사례           큼       계속   ㉯      ★
실제 수치           —        실시간  조회    ★
말투·형식           —        거의없음 ㉰(선택) ★

---

3. 「조회」 가 따로 있다

㉮㉯㉰ 말고 네 번째가 있습니다.            ★

㉱ 조회 — 물어볼 때 실제로 가져오기        ★

· 기준정보 목록 (품목 4,200건)              ★
  → 프롬프트에 넣을 수 없습니다
  → 벡터 검색도 부정확합니다                ★
  → 이름으로 찾아서 가져옵니다           ★

· 실제 수치
  → 8주차 바인딩으로 조회                   ★

---

4. 기준정보를 넣으려 하지 마세요

흔한 실수

"품목 마스터를 벡터DB 에 넣읍시다"          ★

문제

  · 4,200건 × 속성 12개                     ★
  · 비슷한 이름이 많아 검색이 틀립니다       ★
    ("M8 볼트" 검색 → 20개가 다 비슷)       ★
  · 매일 바뀝니다                           ★

맞는 방법

  이름·코드로 조회하는 도구를 줍니다.      ★
    "품목 검색(키워드)" 같은 것            ★

그리고 그 검색이 잘 되려면
② 기준정보 과정이 돼 있어야 합니다.      ★

---

5. 온톨로지가 ㉮ 인 이유 — 셋

① 항상 필요합니다                          ★
   어떤 질문이든 개념 정의가 필요합니다

② 작습니다                                 ★
   2~3만 토큰

③ 빠뜨리면 치명적입니다                    ★
   검색이 빗나가면 틀린 답이 나옵니다      ★

③이 결정적입니다.

  매뉴얼이 안 딸려 오면 "모른다" 입니다.    ★
  개념이 안 딸려 오면 틀린 답입니다.      ★

---

6. 그래도 커지면

개념이 100개를 넘으면

· 항상 넣는 것과 찾아 넣는 것을 나눕니다  ★

  항상  모호어 · 못함목록 · 지표 이름 ·     ★
        개념 이름 목록                    ★

  찾아서  그 질문에 관련된 개념의 상세     ★

「개념 이름 목록」 을 항상 넣는 것이 요령.   ★

  20개 개념 이름 = 200자                   ★
  → 어느 개념이 있는지 알게 됩니다      ★
  → 그러면 정확히 찾아옵니다            ★

---

7. 제조 현장의 실제

어느 업체의 최종 구성.

㉮ 항상 넣는 것 (2.4만 토큰)                 ★

  · 개념 19개 (뜻·포함 안 됨·동의어)        ★
  · 속성 주의 문구
  · 관계 34개                               ★
  · 지표 12개 정의                          ★
  · 모호어 8개                              ★
  · 못 함 목록 21건                         ★

㉯ 검색으로 주는 것                          ★

  · 작업표준서 1,200건                      ★
  · 품질 매뉴얼                             ★
  · 과거 클레임 3,400건                     ★

㉱ 조회로 가져오는 것                        ★

  · 품목·거래처·설비 마스터 (이름 검색)     ★
  · 실제 수치 (정의된 질의 42개)            ★

㉰ 안 씀                                    ★

결과

  · 응답 2~4초                              ★
  · 요청당 비용 감당 가능                   ★
  · 정확도 (Day 4 에서)                     ★

---

8. 비용 감각

㉮ 2.4만 토큰을 매번 보내면

· 하루 500 질문                             ★
· 입력 1,200만 토큰/일                      ★

줄이는 법

  · 프롬프트 캐싱을 씁니다                 ★
    같은 앞부분은 캐시에서 읽습니다        ★
    → 비용이 크게 줄어듭니다               ★

캐싱이 되면

  ㉮ 의 비용 단점이 거의 사라집니다.       ★

---

9. 고칠 때의 차이

정의를 하나 고쳤을 때

㉮  즉시 반영                              ★
㉯  다시 색인 (분~시간)                      ★
㉰  다시 학습 (일~주)                        ★

온톨로지는 자주 고칩니다.                 ★
  (9주차 Day 5 — 20번 고쳤다는 회사)

그래서 ㉮ 가 맞습니다.

---

10. 오늘 해 볼 것 (15분)

① 자료를 종류별로 나누세요

  자료          크기   바뀜   방식           ★
  ____________  ____   ____   ㉮/㉯/㉰/㉱    ★
  ____________  ____   ____   ______
  ____________  ____   ____   ______        ★

② 조회로 줄 것을 고르세요

  □ 품목 검색                                ★
  □ 거래처 검색
  □ 실제 수치 (정의된 질의)                  ★
  → 이게 도구로 붙습니다                  ★

③ 캐싱을 확인하세요

  □ 쓰는 모델이 프롬프트 캐싱을 지원하나      ★
  □ 지금 쓰고 있나                           ★

---

11. 내일 할 것

온톨로지가 RAG 를 좋게 만드는 방식.

㉯ 를 쓰더라도 온톨로지가 있으면 검색이 달라집니다.

---

이 글은 온톨로지 적용하기 과정의 11주차 2일차입니다. 과정 전체 보기

진도와 검색이 되는 판: AXPulse 기술따라가기