본문으로 건너뛰기

LLM Wiki 기반 기업 지식관리 플랫폼 구축기

Diane

2026.06.08

LLM Wiki 기반 기업 지식관리 플랫폼 구축기 본문 이미지

소개

LLM Wiki를 사내 지식베이스에 반영하여, 스스로 업데이트되는 기업 지식관리 플랫폼을 만들고있습니다.
KMS(Knowledge Management System)의 가장 큰 문제중 하나는 운영/관리입니다. KMS와 연동하여 RAG 솔루션 기반의 CS챗봇을 도입할 경우, 기반 데이터가 업데이트되지 않으면 CS챗봇의 답변 품질 또한 저하됩니다. 기존에는 일일이 관리자가 지식을 포맷에 맞추어 업데이트해야했다면, LLM Wiki와 Hermes Agent 개념을 도입하여 기업이 활용하는 여러 채널의 대화를 검증하고 지식으로 전환하고자 했습니다.

진행 방법

"한 번 답하면 챗봇이 기억한다" 컨셉으로 가상의 시나리오를 반영하여 PoC를 구현했습니다.
Wiki User는 HR부서, 신규입사자가 챗봇으로 온보딩 시 답변하지 못하는 대화 내역이 Slack으로 전송되고, Slack에 담당자가 댓글로 답변하면 해당 지식이 Wiki에 업데이트 됩니다. 업데이트된 사내 규정은 다시 챗봇에 반영되어 향후 타 입사자가 동일한 질문을 할 경우 답변이 가능합니다.

  • 신규 입사자용 챗봇이 답하지 못한 질문을 슬랙으로 전송

  • HR 담당자가 슬랙에서 답변

  • 답변이 자동으로 지식베이스에 페이지로 누적 → 챗봇이 알아서 답변

한국어로 된 웹사이트의 홈페이지

결과와 배운 점

지식 반영 자동화 과정에서, 검토/승인 기준과 최소화 프로세스를 정립하는 것이 중요했습니다.
발신자/채널 신뢰도와 내용의 특성, 시간 등 여러 요인을 종합하여 자동화 정책을 세웠고, 사용자가 설정할 수 있도록 구성했습니다. 하지만 여전히 검토 비중을 줄이는 방법과 Human-in-the-loop의 절대적 양이 비대할 경우 이를 효율화하기 위한 고민을 하고 있습니다.

한국 모바일 앱 스크린샷
4

함께 이야기해요 4

로그인하고 댓글을 남겨 주세요

눈오지 프로필 이미지
눈오지2026.06.08

이제 반쯤 개발자처럼 일하고 계시는군요

Diane 프로필 이미지
Diane2026.06.08

ㅋㅋㅋㅋㅋㅋ

Giacomo 프로필 이미지
Giacomo2026.06.08

Diane님, 이번 글은 단순히 사내 챗봇이나 KMS를 만든 기록이라기보다, “기업 안에서 새로 생기는 대화를 어떻게 검증된 지식으로 바꿀 것인가”를 다룬 실험처럼 읽혔습니다. 이전 글에서 개인/업무/회사/채널별 memory와 Knowledge Object를 나누는 구조를 고민하셨던 흐름이, 이번에는 HR 온보딩 챗봇과 Slack 검토, Wiki 업데이트라는 더 구체적인 업무 시나리오로 이어진 것 같았습니다.

좋았던 부분은 KMS의 문제를 단순히 검색 기능 부족으로 보지 않고, 운영과 관리의 문제로 잡으신 점이었습니다. RAG 기반 챗봇은 겉으로는 답변 생성 시스템처럼 보이지만, 실제 품질은 뒤에 있는 지식베이스가 얼마나 최신으로 유지되는지에 크게 좌우되니까요. “한 번 답하면 챗봇이 기억한다”는 컨셉도 그래서 좋았습니다. 챗봇이 모르는 질문을 끝으로 버리는 게 아니라, 다음에 같은 질문이 왔을 때 조직의 지식으로 다시 쓰이게 만드는 루프가 핵심으로 보였습니다.

특히 신규입사자가 답을 못 받은 질문을 Slack으로 보내고, HR 담당자의 답변을 다시 Wiki에 쌓아 챗봇에 반영하는 흐름이 인상적이었습니다. 이 구조는 단순 자동 업데이트가 아니라, 현업 담당자의 판단을 지식 전환 과정에 넣는 방식이라 더 현실적으로 느껴졌습니다. 기업 지식은 틀리면 비용이 큰 경우가 많아서, 사람이 한 번 확인하는 지점을 어디에 둘지 설계하는 게 중요하다고 생각합니다.

또 발신자, 채널 신뢰도, 내용의 특성, 시간 같은 요인을 기준으로 자동화 정책을 세우고 사용자가 조정할 수 있게 구성하신 점도 좋았습니다. 이 부분은 앞으로 꽤 중요해질 것 같습니다. 모든 답변을 같은 무게로 Wiki에 넣는 것이 아니라, 어떤 것은 바로 후보 지식으로 쌓고, 어떤 것은 승인 후 반영하고, 어떤 것은 보류하거나 반영하지 않는 식으로 지식의 위험도를 나눌 수 있기 때문입니다.

마지막에 Human-in-the-loop의 양이 커졌을 때 어떻게 효율화할지 고민하고 있다고 적어두신 부분도 좋았습니다. 자동화를 한다고 해서 사람 검토를 없애는 방향으로만 가면 위험할 수 있는데, Diane님은 검토/승인 기준을 먼저 세우고 그 비중을 줄이는 방법을 고민하고 계신 것처럼 보였습니다. 이 균형이 기업 지식관리에서는 특히 중요해 보입니다.

다음 단계로는 지식 반영 상태를 작게 나눠서 기록해보셔도 좋을 것 같습니다. 예를 들면 미답변 질문, 담당자 답변 완료, Wiki 반영 후보, 승인 후 반영, 보류, 반영 제외 같은 상태를 두고, 각 단계마다 왜 그렇게 처리했는지 한 줄 사유를 남기는 방식입니다. 그렇게 하면 “질문 → Slack 답변 → Wiki 업데이트 → 다음 사용자에게 답변 성공”까지 이어지는 지식 전환 루프가 더 명확해지고, 나중에 검토량을 줄일 때도 어떤 유형부터 자동화해도 안전한지 판단하기 쉬워질 것 같습니다.

Diane 프로필 이미지
Diane2026.06.08

와 Giacomo님 꼼꼼한 피드백에 놀라는 중입니다😳 하나씩 다듬어 나가는데 도움이 많이 될것같아요. 감사합니다!

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기