일단 시작하고 부딪히며 배운 LLMWiki 구축기

# 일단 시작하고 부딪히며 배운 LLMWiki 구축기 — Karpathy 아이디어를 Hermes로 구현하기

## 📝 한줄 요약

LLMWiki를 Hermes + Telegram과 연결하여 AI가 자동으로 위키를 관리하는 구조를 만들었다. 완벽히 이해하고 시작한 게 아니라 일단 해보면서 막히는 부분을 해결하는 방식이었고, 그 과정에서 Hermes와 LLMWiki의 개념을 배울 수 있었다.

**바쁘시면 이것만 읽어도 돼요:**
- Hermes(AI 에이전트)에 뉴스레터를 넣으면 AI가 알아서 경쟁사·시장·개념 페이지로 분류해 위키를 만들어 줌
- Claude Code로 시작할지 Hermes로 시작할지 초반에 방향을 못 잡아 시간을 꽤 썼음 — 목적에 맞는 도구를 먼저 정하고 시작하는 게 중요
- Telegram 봇까지 연결하면 폰에서 위키에 질문할 수 있어 체감 활용도가 달라짐
- 개념을 완전히 이해하고 시작하려 하면 영원히 시작 못할 것 같아서 일단 해보면서 각개전파하듯 진행하는 것도 방법

---

## 🎯 이런 분들께 도움돼요

- LLMWiki와 Hermes가 아직 낯선 분
- Hermes를 설치하거나 들어봤는데 실제로 어떻게 활용하는지 감이 안 오는 분
- AI로 지식 정리를 자동화하고 싶은데 어디서 시작해야 할지 모르는 분
- Hermes에 이미 익숙하지만 LLMWiki + Telegram 연결 경험이 궁금한 분

---

## 😫 문제 상황 (Before)

막연하게 시작한 LLMWiki 구축이었고, Karpathy의 아이디어가 흥미롭긴 했지만 구체적으로 뭘 만들어야 하는지 감이 없었다.

LLMWiki가 RAG와 다르다, AI가 위키를 점진적으로 쌓아간다는 설명은 읽었는데 — 그래서 내가 뭘 하면 되는 거지? 라는 질문에 답이 없었다.

게다가 "Hermes 또는 Claude Code로 진행" 가능하다고 해서 어떤 걸로 해야 맞는 건지도 불명확했다.

---

## 🛠️ 사용한 도구

- **주요 에이전트**: Hermes Agent (NousResearch) — `claude-haiku-4-5-20251001` 모델
- **보조 도구**: Claude Code (초기 구조 설계, 문서 작업)
- **노트 앱**: Obsidian (위키 시각화)
- **게이트웨이**: Telegram Bot (`lizzywiki_bot`)
- **버전 관리**: Git + GitHub

---

## 🔧 작업 과정

### 일단 Claude Code로 시작해봤다

먼저 Claude Code에서 시작했다.

```

Claude Code가 파일을 읽고 단계별로 설명해줬다. 그 다음, 직접 만들어둔 `llm-wiki.md` 원문을 분석시켰다.

```
llm-wiki.md 파일을 읽고, 어떤 주제들로 구성되어 있는지 정리해 줘.
1. 큰 주제 목록 / 2. 각 주제의 한 줄 요약 / 3. 추천 폴더 구조
주의: 원문에 없는 내용을 지어내지 마.
```

AI가 원문에서 개념·도구·활용·철학·경쟁사·시장·제품 7개 카테고리를 뽑아냈다. 그리고 바로 실행까지 시켰다.

```
wiki 폴더에, 위에서 제안한 구조대로 주제별 .md 파일과 index.md를 만들어 줘.
각 문서 상단에는 제목, 3줄 요약, 관련 문서 링크, 출처를 넣어 줘.
```

순식간에 wiki/ 폴더와 9개 페이지, index.md가 생겼다. 처음엔 "다 된 건가?" 싶었다.

---
하지만 hermes를 통해 구축해보고 싶어서 다시 시작해보았다.
Claude Code로 구축한 wiki 구조 자체는 그대로 두고, 이후 운영은 Hermes에서 하기로 방향을 잡았다. Claude Code로 만든 파일들이 wiki 경로에 있고, Hermes도 같은 경로를 바라보면 되는 구조라 사실 다시 만들 필요가 없었다.

---

### 뉴스레터를 넣었더니 AI가 알아서 위키를 만들었다

Hermes 프로필을 설정하고, 실제 ingest를 돌려봤다. 뉴스레터 파일을 소스 폴더에 넣고 명령어를 입력하는 것만으로 진행된다.

결과가 꽤 인상적이었다. 뉴스레터 6개를 넣었더니 Hermes가 알아서 내용을 분석하고:

- 경쟁사(Google Gemini, Anthropic, OpenAI, Microsoft, IBM 등) 페이지를 각각 생성
- 시장 트렌드(한국 공공IT, 중동 AI) 페이지를 따로 분류
- AI 개념(AIOps, 에이전틱AI, AI 거버넌스 등) 페이지를 별도로 정리

하나의 뉴스레터 파일이 7~10개의 wiki 페이지로 쪼개져서 정리됐다. "자연어로 요청했더니 AI가 알아서 분류한다"는 개념이 이때 실감됐다.

```
wiki에서 보강이 필요한 페이지 3개를 추천해줘.
```

이렇게 입력하면 Hermes가 wiki/index.md를 읽고 어떤 페이지가 내용이 부족한지 스스로 파악해서 알려준다. "건강검진 해줘"라고 해도 Lint 작업으로 알아서 인식한다.

---
### wiki 홈을 obsidian vault로 변경

obsidain과 연동하면 여러가지 효율적인 측면이 많을 것 같아서 wiki 홈을 obsidian vault로 변경했다. 

이 과정에서 기존에 구축해서 설정해 놓은 값들이 계속 사용되는 현상이 반복발생하였고 이를 수정해가면서 새로운 것을 많이 배우게 되었다.

### Telegram 봇까지 연결하니 체감이 달라졌다

wiki가 만들어졌는데 접근하려면 항상 터미널을 열어야 한다는 게 불편했다. Hermes Gateway를 통해 Telegram 봇으로 연결하면 폰에서도 wiki에 질문할 수 있다는 걸 알고 바로 시도했다.

BotFather에서 `lizzywiki_bot`을 만들고, Hermes에 연결하는 설정을 진행했다. 이 과정에서 에러가 여러 번 났는데:

- 처음엔 봇이 응답하지 않다가 에러 메시지가 떴고
- 인증 방식 충돌(OAuth vs API Key)이 있었고
- 두 개의 봇 토큰이 뒤바뀐 것도 있었다

에러가 날 때마다 메시지를 그대로 AI에게 붙여넣으면 원인을 짚어줬다. 한 번에 해결되는 경우도 있었고, 여러 번 주고받으며 해결되는 경우도 있었다.

결국 Telegram에서 `lizzywiki_bot`에게 메시지를 보내면 wiki를 기반으로 답변이 오는 구조가 완성됐다. wiki 봇과 기존에 만들었던 봇이 완전히 독립적으로 동작하는 구조로 정리됐다.

---

### SCHEMA.md 분리

작업을 마무리하면서 다시 봤더니 `SCHEMA.md`가 없었다. Agents.md에 모든 폴더구조 들이 들어가 있었는데 이를 분리해서 관리하는 것이 더 안정적인 것 같아서 분리하게 되었다.
```
AI가 현재 wiki 구조를 보고 `wiki/SCHEMA.md`를 작성해줬다. 폴더 구조, 파일명 규칙, 페이지 템플릿, Promotion State(draft/review_needed/verified) 등 wiki 운영 규칙을 정의하는 문서다.

---

## ✅ 결과 (After)

### Before vs After

| 항목 | Before | After |
|------|--------|-------|
| 뉴스레터 처리 | 읽고 기억에 의존 | 소스 폴더에 넣으면 AI가 wiki로 정리 |
| 지식 접근 | 매번 원문 찾아야 함 | wiki/index.md 또는 Telegram으로 질문 |
| Hermes 이해도 | 들어봤으나 막막함 | 프로필·게이트웨이·다중 봇 구조 직접 구현 |
| 위키 관리 | 없음 | SCHEMA.md + log.md + 자동 ingest 구조 |

### 결과물

- `wiki/` 폴더: 개념·경쟁사·시장·도구·활용·철학·제품 7개 카테고리, 30개 이상 페이지
- `lizzywiki_bot`: Telegram에서 언제든 wiki 질문 가능
- `SCHEMA.md`: wiki 운영 규칙 문서
- GitHub: 전체 구조 버전 관리 + hermes-profile 백업

---

## 💬 이 과정에서 배운 AI 활용 팁

### 효과적이었던 것

1. **먼저 답을 물어보고, 실행은 그다음** — 처음엔 실행 전에 어떻게 작동하는지 설명해달라고 요청하는 습관을 들였더니 삽질이 줄었다
2. **에러 메시지는 그대로 붙여넣기** — 원인 분석과 해결 방법을 바로 알려줬다
3. **하나씩 확인하며 진행** — 한꺼번에 너무 많이 요청하면 어디서 문제가 생겼는지 파악이 어려웠다

### 이렇게 하면 안 돼요

1. **도구 선택을 나중으로 미루기** — Claude Code냐 Hermes냐를 처음에 정하지 않아서 중간에 방향을 바꾸는 데 시간을 썼다. 
2. **완전히 이해하고 시작하려 하기** — 개념을 100% 이해한 뒤 시작하려 하면 영원히 못할 것 같아서 일단 해보면서 막히는 부분을 해결하는 게 오히려 이해가 빨랐던 거 같다.

---

## 🌍 다른 업무에 적용한다면?

LLMWiki 구조 자체는 어떤 도메인에도 적용할 수 있다. 소스 폴더에 원본을 넣으면 AI가 위키로 정리하는 흐름은 동일하다.

- **업무 회의록 정리**: 회의록을 소스 폴더에 넣으면 → 의사결정·할일·인물 페이지로 자동 분류
- **논문·리포트 관리**: PDF에서 추출한 텍스트를 ingest → 개념·저자·방법론 페이지로 정리
- **고객 피드백 분석**: 피드백 원문을 넣으면 → 기능별·감성별 wiki 페이지로 누적

---

## 🚀 앞으로의 계획

- 뉴스레터·제품지식 자료가 쌓일수록 wiki의 가치가 높아질 것으로 기대
- Telegram에서 "오늘 ingest할 자료가 있어"라고 말하면 바로 처리되는 워크플로우를 더 다듬을 예정
- Ontology 설계를 통해 wiki 구조를 더 정교하게 만들 계획