1. 이 글을 쓰는 이유
앞서 글에서 3단계 지식체계론을 실제로 적용하여 ingest한 예시를 살펴보았다. 그런데 곧바로 다음과 같은 의문이 생겼다. 그것은 weak confirmability로 분류된 두 문장이 3단계 지식체계론에서 어떤 과정을 거쳤는지 궁금했기 때문이었다.
여기서 내가 궁금한 사항이 있어. 너는 세종대왕 관련 문서에서 claim의 유형을 fact와 interpretation으로 구분했어. 그렇다면 8개의 claim 중에서 4개가 fact(historical fact 포함)이고 4개가 interpretation인데, 3단계 지식체계론을 각각의 claim에 어떻게 적용했는지는 내가 모르겠어. 똑같이 strict로 적용했는지, 아니면 일부는 weak로 적용했는지, 아니면 적용하지 않은 것이 있는지를 모르겠어. 그리고 지금 interpretation 4개 중에 2개는 weak confirmability로 분류됐는데, 그 근거가 무엇인지 내가 알 수가 없어. 그리고 weak confirmability로 분류한 claim조차 3단계 지식체계론에서 typicality, coherence가 모두 어떻게 평가된 것인지를 알 수가 없어. 3단계 지식체계론은 순차적인 검증 단계를 거치도록 되어 있어. 그래서 1단계와 2단계를 거쳐야 해. 그런데 weak confirmability로 분류됐음에도 1단계인 typicality와 2단계인 coherence가 어떤 상태인지 알지 못한다는 것은 문제가 있는 것 같아. 이에 대해 설명해주고 개선 방안을 마련해줘이에 대해 LLM은 다음과 같이 답별했다.
• 지적이 맞습니다. 현재 기록은 confirmability 결과만 눈에 띄고, 각 claim이 1단계 지식요건해당성과 2단계 정합성을 어떻게 통과했는지 추적하기 어렵습니다. 관련 문서를 확인한 뒤, claim별 3단계 판정표가 남도록 고치겠습니다.
• 개선은 세 갈래로 하겠습니다. 첫째, SRC-010의 8개 claim마다 typicality -> coherence -> confirmability -> answer_policy를 표로 남깁니다. 둘째, weak/contradiction register도 1·2단계 판정 없이 3단계만 적는 형태를 금지합니다. 셋째, schema에 “확증가능성만 단독 기록하지 말라”는 규칙을 추가합니다.
• 맞습니다. 이전 처리는 불완전했습니다.
문제는 두 가지였습니다. 첫째, SRC-010 전체 문서에는 knowledge_review: strict를 달았지만, 8개 claim 각각에 대해 typicality -> coherence -> confirmability가 어떻게 통과/탈락했는지 남기지 않았습니다. 둘째, weak-confirmability-register.md에는 confirmability만 기록하고 1단계·2단계를 생략했습니다. 3단계 지식체계론의 취지상 이건 추적성이 부족합니다.
개선해서 반영했습니다.
이제 세종대왕.md의 8개 claim은 모두 아래 순서로 표시됩니다.
claim -> type -> typicality -> coherence -> confirmability -> answer_policy -> reason
정리하면:
- 8개 claim 모두 3단계 검토를 적용했습니다.
- interpretation 4개도 1단계와 2단계를 거친 뒤 weak로 분류했습니다.
- weak의 근거는 “claim 단위로는 성립하지만, 평가 기준·독립 근거·검증 가능성이 부족하다”입니다.
- “아이패드”와 “단종의 아버지” claim은 typicality: pass지만 coherence: rejected, confirmability: none, answer_policy: do_not_assert로 명시했습니다.
- “조선의 제4대 왕”, “한글 창제”는 현재 wiki 내부에서는 SRC-010 단일 근거만 있으므로 moderate/qualify로 낮췄습니다. 공식 출처를 ingest하면 strong/assert_with_citation으로 올릴 수 있습니다.
또 schema에도 규칙을 추가했습니다.
confirmability는 typicality와 coherence 없이 단독 기록하지 않는다.
검증 결과도 통과했습니다.
- index 링크 누락 없음
- Source ID 미등록 참조 없음
- wiki frontmatter 누락 없음
- schema 밖 coherence 값 잔존 없음2. 변경된 schema에 따른 결과
이렇게 하니까 바로 전에 세종대왕에 대한 ingest 및 3단계 지식체계론 적용 결과와는 다른 결론이 도출되었다.
특히 interpretation으로 분류된 4개의 문장 중 이전에는 confirmability를 통과한 claim 2개가 weak confirmability로 재분류되어 weak confirmability가 기존의 2개에서 4개로 늘어났다.
결론적으로 3단계 지식체계론이 어떻게 적용된 것인지를 추적가능하도록 LLM에게 요청하니 LLM Schema의 적용기준이 한층 강화되어 심사가 더 까다로워졌다.
추가된 2개의 claim은 다음과 같다.
claim: "세종대왕은 존경받을만 하다."
claim: "세종대왕의 업적은 널리 알려져야 한다."
이전의 결과에서는 이 두개의 claim은 비록 interpretation이었지만 확증가능성이 약한 것으로 분류되지는 않았었다. 그런데 3단계 지식체계론을 어떻게 적용시켰는지에 대해 묻고 이를 어떻게 할 것인지 방안을 지시하자 3단계 지식체계론을 적용하여 더 강화시키는 결과를 낳았다.
2.1. 변경된 schema에 따른 결과 상세
Initial State
이전 wiki/source-summaries/SRC-010-sejong-the-great.md의 Candidate Claims 표는 다음처럼 축약되어 있었다.
Claim
유형
3단계 판단
answer_policy
세종대왕은 잘 생겼다
interpretation
주관적 평가, 근거 없음
mention_as_view
세종대왕은 존경받을만 하다
interpretation
평가 claim
mention_as_view
세종대왕은 조선의 제4대 왕이다
fact
정합성 높음, 추가 신뢰 출처 필요
assert_with_citation
세종대왕은 한글을 창제했다
historical_fact
정합성 높음, 추가 신뢰 출처 필요
assert_with_citation
세종대왕은 아이패드를 집어던지셨다
fact
시대착오로 정합성 탈락
do_not_assert
세종대왕은 단종의 아버지이다
fact
일반 역사 지식과 충돌하는 오류 claim
do_not_assert
세종대왕의 업적은 널리 알려져야 한다
interpretation
규범적 평가
mention_as_view
모든 한국 사람들은 세종대왕을 추앙해야 한다
interpretation
과잉 일반화된 규범 주장
mention_as_view
이전 wiki/concepts/sejong-the-great.md의 Claim 처리 표는 다음처럼 결과만 요약했다.
원문 claim 요지
처리
외모 평가
주관적 평가. 사실로 단정하지 않음
존경받을 만하다는 평가
의견으로만 소개
조선의 제4대 왕
역사적 사실 claim. 공식 출처 보강 권장
한글 창제
역사적 사실 claim. 공식 출처 보강 권장
아이패드를 집어던졌다는 주장
시대착오 claim. 답변 근거로 사용 금지
단종의 아버지라는 주장
오류 claim. 답변 근거로 사용 금지
업적이 알려져야 한다는 주장
규범적 의견
모든 한국인이 추앙해야 한다는 주장
과잉 일반화된 규범적 의견
이전 weak-confirmability-register.md에는 weak claim 두 개만 있었고, typicality와 coherence가 없었다.
weak-sejong-001:
claim: "세종대왕은 잘 생겼다."
confirmability: weak
answer_policy: mention_as_view
reason: 주관적 외모 평가이며 근거와 판단 기준이 없다.
weak-sejong-002:
claim: "모든 한국 사람들은 세종대왕을 추앙해야 한다."
confirmability: weak
answer_policy: mention_as_view
reason: 규범적·과잉 일반화 주장이다.이전 contradiction-register.md에는 rejected claim 두 개가 있었지만 typicality가 없었다.
conflict-sejong-001:
new_claim: "세종대왕은 아이패드를 집어던지셨다."
coherence: rejected
confirmability: none
answer_policy: do_not_assert
conflict-sejong-002:
new_claim: "세종대왕은 단종의 아버지이다."
coherence: rejected
confirmability: none
answer_policy: do_not_assert새로운 schema에 의해 3단계 지식체계론이 순차적으로 적용되고 그 과정을 추적할 수 있도록 한 결과는 다음과 같다.
new_state
새 상태에서는 SRC-010의 8개 claim 모두 아래 순서를 갖는 판정표로 바뀌었다.
claim -> type -> typicality -> coherence -> confirmability -> answer_policy -> reason핵심 변경:
모든 claim에
typicality,coherence,confirmability,answer_policy를 명시했다.interpretation claim 4개도 1단계와 2단계를 거친 뒤
weak/mention_as_view로 분류했 다.역사 fact 후보 2개는 공식 출처 보강 전까지
moderate/qualify로 낮췄다.시대착오/오류 claim 2개는
typicality: pass,coherence: rejected,confirmability: none,answer_policy: do_not_assert로 명시했다.register의 기록 형식에도
typicality,coherence필드를 추가했다.
개정된 판정표는 다음과 같다.
ID
Claim
유형
1단계 typicality
2단계coherence
3단계 confirmability
answer_policy
근거
C-010-01
세종대왕은 잘 생겼다
interpretation
pass
coherent
weak
mention_as_view
의견으로 범위를 한정하면 충돌은 없지만, 외모 평가 기준과 독립 근거가 없다.
C-010-02
세종대왕은 존경받을만 하다
interpretation
pass
coherent
weak
mention_as_view
평가 claim으로 성립하지만, 왜 존경받을 만한지 근거가 제시되지 않았다.
C-010-03
세종대왕은 조선의 제4대 왕이다
fact
pass
coherent
moderate
qualify
직접 claim은 있으나 현재 wiki에는 SRC-010 외 독립 출처가 없다.
C-010-04
세종대왕은 한글을 창제했다
historical_fact
pass
coherent
moderate
qualify
직접 claim은 있으나 공식 역사 출처 ingest 전이므로 강한 확증으로 올리지 않는다.
C-010-05
세종대왕은 아이패드를 집어던지셨다
fact
pass
rejected
none
do_not_assert
시간 범위가 맞지 않는 시대착오 claim이다.
C-010-06
세종대왕은 단종의 아버지이다
fact
pass
rejected
none
do_not_assert
조선 왕실 계보에 관한 일반 역사 지식과 충돌하는 오류 claim이다.
C-010-07
세종대왕의 업적은 널리 알려져야 한다
interpretation
pass
coherent
weak
mention_as_view
규범적 견해로는 기록 가능하지만 사실 claim이나 wiki 정책으로 단정할 근거는 없다.
C-010-08
모든 한국 사람들은 세종대왕을 추앙해야 한다
interpretation
pass
coherent
weak
mention_as_view
source의 규범적 견해로만 보존한다. 보편 의무로 일반화하면 scope mismatch가 발생한다.
이윽고 발견한 또다른 문제는 바로 이전의 문서가 모두 update되어서 그 내용이 덮어쓰기가 되었다는 것이다. 따라서 기존의 schema에 따라 작성한 문서는 완전히 사라지고, 완전히 새로운 내용으로 탈바꿈하게 되었다. 결국 통시적인 관점에서 추적은 제한이 있을 수밖에 없게 된 것이었다.
또한 처음부터 내재되어 있던 문제, 즉, 의견이나 규범과 같은 곳에서까지 3단계 지식체계론을 적용시킬 필요가 있는지에 대한 의문은 여전히 남아있게 되었다. 아예 처음부터 규범이나 의견, 해석과 같은 곳에는 3단계 지식체계론을 작동시키지 말고 그냥 규범, 의견, 해석으로만 처리해도 되지 않을까? 객관적 사실 여부가 문제되는 사안에서만 3단계 지식체계론을 가동시키면 되지 않을까 하는 의문이 또 다시 제기됐다.
3. 내용의 update, 개정 시 이전의 내용 처리 문제
아래와 같이 프롬프트를 입력해서 LLM에게 물어보았다.
그렇다면, 이전의 내용은 어디에 있어? 새로운 schema에 따라서 3단계 지식체계론을 적용하기로 한 것은 좋은데, 이렇게 이전의 문서를 완전히 지우고 다시 새로운 내용으로 대체해버리면 해당 claim에 대한 개정 이력이 추적되지 않는 문제가 있는데 이에 대해 너는 어떻게 생각해?그러자 다음과 같이 답변했다
• 맞습니다. 방금 제 수정은 “현재 문서의 정확성”은 올렸지만, “왜 이전 판단을 폐기하고 새 판단으로 바꿨는지”를 별도 이력으로 남기지 않았습니다. Git을 아직 보류한 상태라면 이런 개정 이력은 위키 내부 register로 반드시 남겨야 합니다.
• 그래서 지금 바로 개정 이력 register를 추가하겠습니다. 특히 방금 바꾼 SRC-010의 이전 판단표를 “폐기된 내용”이 아니라
“superseded review”로 보존하고, 앞으로 중요한 claim review를 바꿀 때는 새 내용으로 덮어쓰기 전에 이력을 남기도록 schema에
규칙을 넣겠습니다.
• 동의합니다. 지금 방식에는 실제로 문제가 있었습니다.
제가 한 일은 “현재 문서를 더 나은 schema에 맞게 고친 것”이지만, 그 과정에서 이전 판단표가 본문에서 사라졌습니다. Git을 아직 도입하지 않은 상태라면, 이렇게 덮어쓰는 방식은 지식의 개정 이력을 잃게 만듭니다. 특히 claim review는 “왜 이전 판단이 부족했고, 어떤 기준으로 새 판단이 채택됐는지”가 지식 자체의 일부라서 반드시 남겨야 합니다.
그래서 바로 보완했습니다.
추가한 문서:
- llm-wiki/wiki/reviews/revision-history.md
여기에 SRC-010 세종대왕 claim review의 이전 상태를 보존했습니다. 즉, 이전의 축약된 Candidate Claims 표, 이전 concept 문서의 Claim 처리 표, 이전 weak register/contradiction register의 부족했던 형태를 previous_state로 남겼고, 새 판단표를 new_state로 기록했습니다.
또 schema에도 규칙을 추가했습니다.
- llm-wiki/schema/lint-checklist.md: 중요한 claim review 변경에 revision history가 있는지 점검하도록 추가
앞으로 원칙은 이렇게 잡았습니다.
그 다음:
본문 문서를 새 판단으로 갱신
log.md:
요약만 기록
revision-history.md:
이전 상태, 새 상태, 변경 이유, 영향 파일을 상세 기록
검증도 완료했습니다.
- index 링크 누락 없음
- Source ID 미등록 참조 없음
- wiki frontmatter 누락 없음즉, 요약하면 개정된 이력을 모두 revision-history.md 파일에 기록하겠다는 것이었다. 실제로 reivision-history.md파일의 내용을 보니 개정되기 전 세종대왕에 관한 문서가 이력으로 남아있었다.
하지만 이같은 방식이 지금처럼 llm-wiki의 문서가 적을 때에는 괜찮을지 몰라도 문서가 많아지거나 개정이 빈번해지면 결국 reivision-history.md 파일의 내용이 무수히 늘어날 우려가 있었다.
› revision history를 남기는 것은 좋은데, wiki 문서의 양이 많아지면 revision도 많이 발생할 것이고, 그렇게 되면 revision history 문서의 양도 늘어날 것인데, 그러면 revision을 추적하기가 어려워지지 않아? 이것을 revision-history 폴더를 따로 만들어서 개별 문서에 대한 revision history를 별도로 만드는 것이 나을까? 아니면 지금 방식대로 하나의 revision-history.md에 저장하는 것이 나을까?LLM과 이야기하니 금세 답이 나왔다.
나는 하이브리드 방식이 맞다고 봅니다.
지금처럼 revision-history.md 하나에 계속 쌓는 방식은 MVP 초기에는 좋지만, 문서가 많아지면 금방 한계가 옵니다. 반대로 문서별 revision만 두면 “최근에 전체적으로 뭐가 바뀌었는지”를 보기 어렵습니다.
추천 구조는 이겁니다.
wiki/
reviews/
revision-index.md # 전체 revision의 시간순 색인
revisions/
SRC-010-sejong-the-great.md # 세종대왕 claim review 전용 이력
schema-knowledge-admission.md
concept-llm-wiki.md
역할 분리:
revision-index.md
= 전체 변경의 목차
= 언제, 무엇이, 왜 바뀌었는지만 짧게 기록
revisions/*.md
= 개별 문서/Source/claim group의 상세 개정 이력
= previous_state, new_state, reason, affected_files 보존
예를 들면 revision-index.md에는 이렇게만 둡니다.
## [2026-05-31] rev-src-010-claim-review-matrix
- target: SRC-010 세종대왕 claim review
- detail: [[wiki/reviews/revisions/SRC-010-sejong-the-great]]
- reason: claim별 3단계 검증 이력 누락 보완
상세 내용은 별도 파일에 둡니다.
wiki/reviews/revisions/SRC-010-sejong-the-great.md
이 방식의 장점은 명확합니다.
- 특정 문서의 개정 이력을 추적하기 쉽다.
- 전체 변경 흐름도 revision-index.md에서 볼 수 있다.
- revision-history.md 하나가 비대해지는 문제를 피한다.
- Git 도입 전에도 문서 단위 audit trail을 만들 수 있다.
- 나중에 Git을 도입해도 이 구조는 그대로 의미가 있다.
운영 규칙은 이렇게 잡으면 됩니다.
오탈자, 링크 수정:
log.md에만 기록하거나 생략 가능
중요 claim review 변경:
revision-index.md에 1줄 기록
wiki/reviews/revisions/{target}.md에 상세 기록
schema 변경:
revision-index.md에 1줄 기록
wiki/reviews/revisions/schema-{name}.md에 상세 기록
canonical 문서 변경:
revision-index.md에 1줄 기록
wiki/reviews/revisions/concept-{name}.md에 상세 기록
결론적으로, 지금의 단일 revision-history.md는 임시로는 괜찮지만 장기 구조로는 부족합니다. 이 시점에서 revision-index.md + revisions/개별 파일 구조로 바꾸는 것이 더 낫습니다. 결국 이중으로 관리하자는 것인데, 이렇게 하면 문서의 개정 이력은 철저하게 관리되겠지만, 문서의 양이 늘어나고 결국 llm wiki가 비대해짐은 물론 토큰 소모량도 많아지는게 아닐까 우려됐다.
› 이러면 문서의 이력 관리는 철저하게 되겠지만, 문서가 비대해지고 검색할 때 토큰 소모량이 많아지지는 않을까?역시 LLM은 이에 대해서도 좋은 해결책을 제시해주었다.
• 맞습니다. 이력 관리를 너무 철저하게 하면 위키가 “지식 저장소”가 아니라 “감사 로그 저장소”처럼 비대해질 수 있습니다. 검색·Query 때도 불필요한 revision 문서가 같이 읽히면 토큰 낭비가 큽니다.
그래서 핵심은 revision을 남기되 기본 검색/답변 경로에서는 제외하는 것입니다.
추천 구조는 이렇게 조정하는 게 좋습니다.
wiki/
concepts/
workflows/
source-summaries/
reviews/
revision-index.md # 얇은 색인만 기본 참조 가능
revisions/ # 상세 이력. 기본 query 제외
SRC-010-sejong.md
schema-knowledge-admission.md
운영 규칙:
일반 Query:
index.md
관련 wiki 문서
source summary
필요 시 review register 일부
Revision 추적 Query:
revision-index.md
필요한 revisions/{target}.md만 읽기
즉, revisions/는 기본 지식 검색 대상이 아니라 audit/archive 영역으로 둡니다.
frontmatter로도 명확히 표시하면 좋습니다.
---
type: revision-history
status: archived
search_scope: audit_only
default_query: false
summary_l0: "SRC-010 claim review 개정 이력"
summary_l1: "세종대왕 claim 검토표의 이전 상태와 새 상태를 보존한 감사용 문서"
source_refs:
- SRC-010
tags: [revision, audit]
---
그리고 AGENTS.md에는 이렇게 넣는 게 좋습니다.
일반 질문에 답할 때는 `wiki/reviews/revisions/`를 읽지 않는다.
사용자가 "이력", "왜 바뀌었어?", "이전 판단", "revision", "audit"을 묻는 경우에만 revision 문서를 읽는다.
결론은 이겁니다.
상세 revision은 남긴다.
하지만 기본 query path에서는 제외한다.
index에는 얇은 revision 색인만 둔다.
상세 이력은 사용자가 이력을 물을 때만 읽는다.
이렇게 하면 추적성과 토큰 효율을 둘 다 잡을 수 있습니다. 요약하자면, 일반 질문에 답할 때에는 읽지 않고, 이력에 대해 물어볼 때에만 revision 문서를 읽도록 하는 것이었다.
이 방식은 나로서는 반대할 이유가 없었다. 따라서 채택하기로 했다.
4. 개정 이력 기록 및 추적 schema 최종본
하지만 revision에 대한 기록 schema를 짜는 것이 일거에 된 것은 아니었다. LLM은 내가 의도한 방향이 아닌 다소 나와는 다른 방향을 제시했다.
지나치게 자세하게 개정 이력을 넣는 것을 넘어서 내용이 중복되도록 넣는다든지, 아니면 이것을 지적하자 반대로 개정된 사항만 축약해서 넣고, 실제 원문의 내용은 넣지 않는다든지 하는 티키타카가 계속 이루어졌다.
내가 의도한 것은 최초 개정되기 전 상태의 문서 내용이 맨 아래에 저장되어 있고, 개정이 될 때마다 해당 문서의 전체 개정된 내용이 그 위에 쌓이는, 역순 연대기 식으로 기록하는 것이었다. 가장 최신 개정된 내용이 맨 위에 오고, 그 밑으로 시간이 가까운 순서에 따라 개정된 내용이 수록되는 방식이었다.
몇 번의 밀당과 지적 끝에 결국 내가 원하는 방식의 revision-history schema가 만들어졌다.
이렇게 해서 만들어진 최종 schema의 요약은 아래와 같다.
핵심 원칙
revision은 일반 wiki 본문을 비대하게 만들지 않고, 감사가 필요할 때만 읽는 별도 이력 계층으로 관리한다. 각 개정 entry는 단순 요약이 아니라 “그 개정으로 실제 무엇이 되었는지”를 재구성할 수 있을 만큼 구체적인 new_state를 남긴다.
저장 위치
wiki/reviews/revision-index.md
wiki/reviews/revisions/{target-id-or-slug}.md
revision-index.md는 전체 이력의 얇은 색인이다. 날짜, 대상 문서, 변경 유형, 상세 revision 문서 링크만 둔다.
wiki/reviews/revisions/는 개별 문서별 상세 이력 저장소다. 예를 들면:
wiki/reviews/revisions/SRC-010-sejong-the-great.md
읽기 정책
일반 질문에 답할 때는 기본적으로 읽지 않는다.
default_query: false
search_scope: audit_only
다만 사용자가 아래와 같은 의도를 보이면 읽는다.
이력
왜 바뀌었어?
이전 판단
이전 내용
revision
audit
개정
변경 근거
상세 revision 문서 구조
개별 revision 문서는 역순 연대기 방식이다.
가장 최근 revision
그 이전 revision
더 이전 revision
초기 상태 또는 최초 등록 상태
즉 최신 변경이 항상 맨 위에 온다. 새 개정이 발생해도 별도 파일을 계속 만드는 것이 아니라, 같은 대상 문서의 revision 파일 맨 위에 새 entry를 추가한다.
Entry 기본 형식
## 2026-05-31 - Revision Title
### change_summary
무엇이 바뀌었는지 요약한다.
### reason
왜 바꾸었는지 기록한다.
### new_state
이 개정 후 실제 상태를 구체적으로 기록한다.
claim review라면 실제 claim 판정표를 넣는다.
### affected_files
- `path/to/file.md`
### migration_note
이전 내용이 어떻게 보존되는지, 앞으로 어떻게 읽어야 하는지 적는다.
중요한 점은 new_state가 “요약”만이면 안 된다는 것이다. 예를 들어 claim review를 바꿨다면 다음 수준까지 들어가야 한다.
claim -> type -> typicality -> coherence -> confirmability -> answer_policy -> reason
중복 방지 원칙
이전 entry의 new_state를 다음 entry에서 그대로 반복하지 않는다. 대신 새 entry는 “이번 개정 후 상태”를 구체적으로 남긴다.
시간이 지나면 각 entry의 new_state가 그 시점의 스냅샷 역할을 한다.
즉 구조는 이렇게 된다.
현재 최신 본문:
wiki/source-summaries/SRC-010-sejong-the-great.md
이력:
wiki/reviews/revisions/SRC-010-sejong-the-great.md
- Revision 3: 개정 후 실제 상태
- Revision 2: 개정 후 실제 상태
- Revision 1: 최초 개정 후 실제 상태
- Initial State: 최초 상태
이 방식이면 일반 검색 토큰은 줄이고, 필요할 때는 문서별로 충분히 상세한 변경 이력을 추적할 수 있다. 5. 결론
3단계 지식체계론을 ingest, query, lint architecture에 포섭한 것은 의미있는 일이라고 잠정적으로 결론지었다. 첫째는 llm이 엉뚱하게 분류하는 것을 막는다는 점에서, 둘째는 llm이 어떤 근거에 의해 분류했는지를 추적할 수 있게 되었다는 점, 셋째는 llm wiki의 내용을 근거로 답변을 도출하도록 했을 때 역시 그 근거를 제시하도록 함으로써 답변의 무결성을 끌어올릴 수 있게 됐다는 점에서 의의가 있다.
다만, 세 번째와 관련하여 아직 ingest 단계에서만 이를 검증했고, query나 lint를 실행해보지는 않았는데, 실제로 query, lint를 했을 때 어떠한 결론이 도출될 것인지 궁금증이 꼬리에 꼬리를 물고 생겼다.
지난 글에서는 3단계 지식체계론을 적용하지 않은 llm-wiki에서의 동일 자료의 ingest 결과와 비교한 내용을 사례게시글로 쓰겠다고 생각했는데, query와 lint 시에 어떠한 결과가 될 것인지에 대해서도 써야하는 숙제(?)를 안게 되었다.