소개
처음에는 막연히 Dify를 활용하면 좋겠다는 생각만 있었습니다. 그러나 당초 구상은 CC(Claude Code)만으로 각 고객사별 전담 서브에이전트를 만들어, 마치 실제 전담 직원처럼 고객사의 모든 상황을 파악하고 문제 해결책을 제시하는 방식이었습니다.
하지만 점차 확장해 보니, 단순히 답변만 주는 것에서 그치지 않고 시스템 로그를 자동 수집·분석해 장애를 예측하고 사전에 개선안을 제안할 수 있 다면 훨씬 강력한 차별화가 될 수 있다는 결론에 이르렀습니다. 그래서 “고객사별 전담 AI Agent를 통한 예방·대응·보고 자동화”라는 아이디어로 구체적인 요청을 던져보게 되었습니다.
진행 방법
사용 도구
ChatGPT : Claude Code(
이하 CC)에 제공할 프롬프트 작성을 위한 긴 대화Claude Code(w/VSCode) : 프롬프트에 기반한 전체 설계서 작성 및 그 설계서 기반한 실제 구동 코드 작성
CC Agents : 기술전문가, 영업전문가, 기획전문가등 CC가 추천해준 분야별 서브에이전트 생성 및 해당 프로젝트내에서는 필요한 에이전트가 자동으로 나와서 일을 함
Dify : On-Premise 환경의 AI 오케스트레이터 구축
이런 프롬프트로 시작을 했구요.
전산유지보수 전문 엔지니어 1인기업입니다.
고객 확대를 위해 타 업체와 차별점을 만들어서 고객 어필을 하고자 합니다.
아래 내용을 참조하여 단계별로 해야만 하는 일을 순서대로 하나씩 나열해주세요.
claude code 에 각 고객사별 전담 sub agent를 생성해서 해당 고객사의 모든것을 담는 지식베이스폴더를 만들어서 그 내용을 기반으로 문제발생시 해결방안 제시, 내부 시스템로그를 참조할 수 있도록 하여 장애 예지 및 문제점 개선 제안, 보고서 생성등의 업무를 전담하는 고객사별 전담 AI Agent 로 키워감
이를 전산통합 유지보수 업체로서의 차별점으로 어필하여 고객 모집
쳇지피티와 계속 긴 대화를 해가면서 Dify가 더 나은 선택이라는점, n8n과는 용도가 다르다는 점 등을 파악할 수 있었고, 지금까지의 대화를 모두 반영하여 제대로된 답변을 얻을 수 있는 전문 프롬프트를 작성해 달라는 요청으로 아래와 같은 최종 프롬프트를 받았습니다.
당신은 전산유지보수 MSP 고문 컨설턴트다. 나는 1인기업이다.
전제: 각 고객사 내부에 Dify On-Prem Appliance(NUC, Docker)를 설치한다.
LLM 호출은 OpenAI API를 사용한다. 내부 문서·로그는 고객사 장비 내 Dify KB에 저장한다.
외부 전송은 프롬프트·문맥 최소화 원칙을 따른다.
다음 목표에 맞춰 단계별로 해야만 하는 일을 순서대로 나열하라.
각 단계는 1줄로 간결히 쓰고, 괄호에 산출물·책임자·도구·예상기간을 표기하라.
목표
- 고객사별 전담 AI Agent로 예방·대응·보고 자동화 구축
- 보안 분리와 운영 단순화 유지
- 영업 차별화 메시지와 패키지 상품화
반드시 포함할 범위
1) 포지셔닝·목표 KPI 정의
2) 서비스 카탈로그(Lite/Standard/Pro)
3) 보안·거버넌스(고객사별 분리, 데이터 최소 전송, 로그·KB 보존정책)
4) 기술스택(Dify On-Prem, OpenAI API, 로그 수집기, 저장소, 대시보드)
5) 폴더·메타 스키마
…
25) 확장 가이드(템플릿화, 자동 업데이트 배포)
출력 형식
- 번호 목록만 출력. 불릿 금지. 서론·결론 금지.
- 각 단계 형식 예:
`1) 포지셔닝 확정 (산출물: 1페이지 가치제안, 책임:대표, 도구:문서, 기간:1일)`이 내용 그대로 진행해달라고 해서 아래와 같은 결과물을 받았고요.
1. 포지셔닝 확정 (산출물: 1페이지 가치제안, 책임:대표, 도구:문서, 기간:1일)
2. KPI 정의(MTTR↓·알림정확도↑·리포트채택률↑) (산출물: KPI표, 책임:대표, 도구:스프레드시트, 기간:1일)
3. 서비스 카탈로그(Lite/Standard/Pro) (산출물: 요금·기능표, 책임:대표, 도구:문서, 기간:1일)
4. 보안·거버넌스 원칙(고객별 분리·보존·파기) (산출물: 정책문서, 책임:대표, 도구:문서, 기간:1일)
5. 외부전송 고지(OpenAI 사용시 프롬프트 최소화·민감정보 비전송) (산출물: 고지문, 책임:대표, 도구:문서, 기간:0.5일)
6. 기술스택 결정(Dify On-Prem, OpenAI API, Docker, 로그수집기) (산출물: 아키텍처도, 책임:대표, 도구:다이어그램, 기간:1일)
7. 폴더·메타 스키마 설계(`/clients/{id}/{kb|logs|reports|configs|workflows}`) (산출물: 스키마정의, 책임:대표, 도구:문서, 기간:0.5일)
8. 온보딩 체크리스트(NDA/DPA·권한·시스템목록·에스컬레이션) (산출물: 체크리스트, 책임:대표, 도구:스프레드시트, 기간:0.5일)
9. Dify 어플라이언스 표준 이미지(Docker Compose) (산출물: 설치가이드·env, 책임:대표, 도구:Git, 기간:1일)
10. 고객사별 Dify 배포(NUC) (산출물: 가동중 컨테이너, 책임:대표, 도구:Docker, 기간:고객사당 0.5일)
11. Dify 에이전트 생성·역할 프롬프트(고객 전용·출처강제) (산출물: 시스템프롬프트, 책임:대표, 도구:Dify, 기간:0.5일)
12. KB 구축 정책(청크·태깅·PII필터·갱신주기) (산출물: 운영가이드, 책임:대표, 도구:Dify KB, 기간:1일)
13. 과거 티켓/매뉴얼 수집·정제(OCR·중복제거) (산출물: 정제된 KB, 책임:대표, 도구:문서도구, 기간:2일)
14. 로그 파이프라인 배포(Windows Event/ESXi/FW/NAS/백업) (산출물: 수집 규칙, 책임:대표, 도구:Fluent Bit/WEF, 기간:2일)
15. 로그 정규화(타임스탬프·호스트명·심각도) (산출물: 매핑표, 책임:대표, 도구:파서, 기간:1일)
16. 룰베이스 작성(오류코드→원인→조치→검증) (산출물: 룰테이블, 책임:대표, 도구:스프레드시트, 기간:2일)
17. 간단 예지 로직(SLI·임계값·Z-score) (산출물: 임계표·알림조건, 책임:대표, 도구:Dify Workflow, 기간:1일)
18. 워크플로우(스케줄/이벤트→분석→알림→보고서) (산출물: Dify JSON, 책임:대표, 도구:Dify Builder, 기간:1일)
19. 보고서 템플릿(주간/월간: MTTR·백업성공률·개선안) (산출물: MD/Doc 템플릿, 책임:대표, 도구:Dify Doc, 기간:0.5일)
20. 대시보드(MTTA/MTTR·용량·패치·백업) (산출물: 대시보드, 책임:대표, 도구:Grafana/내장통계, 기간:1일)
21. 품질통제(환각 방지·출처 인용 강제·휴먼승인 게이트) (산출물: 가드레일 규칙, 책임:대표, 도구:Dify Guard, 기간:0.5일)
22. 평가세트·회귀테스트(티켓 20~50건 라벨링) (산출물: eval 세트, 책임:대표, 도구:JSONL, 기간:2일)
23. SLA·운영수칙·DR/백업(임베딩·KB 스냅샷) (산출물: 운영문서, 책임:대표, 도구:문서, 기간:1일)
24. 파일럿 실행·KPI 측정·튜닝(프롬프트 최소화 점검) (산출물: 파일럿 리포트, 책임:대표, 도구:Dify, 기간:2주)
25. 요금·성과보장·세일즈팩·SNS 메시지(전후비교 포함) (산출물: 가격표·1pager·포스트, 책임:대표, 도구:문서·웹, 기간:2일)CC에는 지난 대화 내용을 확인할 수 있는 방법이 없어 정확한 과정을 모두 기억하기는 어렵습니다. 다만 위의 프롬프트를 출발점으로 삼아 며칠간 여러 차례 수정보완을 거쳤고, 이후에는 전체 프로젝트를 리뷰하고 반영해 달라는 요청까지 이어갔습니다. 그 결과 현재는 실제 미니PC에 Ubuntu를 설치한 상태에서 직접 구축하고, 필요한 부분을 수정·보완해 나가면 되는 단계까지 도달했습니다.
CC에게 이 프로젝트를 효율적으로 활용할 수 있는 가이드를 요청하니, 각 전문 분야별 서브 에이전트 목록과 그에 맞는 시스템 프롬프트까지 제안해 주었습니다. 이를 기반으로 실제로 서브 에이전트들을 생성하도록 요청을 했고, 아래와 같이 4개의 에이전트들이 잘 생성된 것을 볼수 있었고, 프로젝트 내에서 특정 업무가 발생하면 자동으로 해당 분야의 전문 서브 에이전트가 호출되어 작업을 수행하는 모습까지 확인할 수 있었습니다.
배운 점
Dify 단독으로도 전산유지보수를 위한 고객사 전담 AI Agent를 충분히 구축할 수 있음.
OpenAI API 사용 시 데이터 외부 전송은 불가피 → 반드시 민감정보 제외, 프롬프트 최소화 정책 필요.
CC에 요청을 하니 뭔가 답변을 주는것이 아니고 군말없이 실제 작업에 착수해서 결과물을 만들어내는것이 인상적이었음
시행착오
처음에는 Claude Code Sub-Agent와 Dify Agent의 개념이 혼동됨.
“큰 그림” 단계(1~25)를 받아도 실제 해야 할 행동이 모호했음 → CC에 넣으니 알아서 디테일한 부분까지 잘 만들어 줌
n8n과 Dify의 용도가 혼란스러웠으나 Dify(AI 오케스트레이터), n8n(워크플로우 자동화 툴) 이라는 인사이트를 얻음
앞으로의 계획
자체 테스트베드 미니PC에서 실제 검증
고객사 1곳에 미니PC + Dify 설치를 파일럿 적용.
KPI(알림 정확도, MTTR 단축, 리포트 활용도) 측정 후 세일즈 자료화.
n8n을 결합해 알림·보고서 배포 자동화 확장.
도움 받은 글
참고한 지피터스 글이나 외부 사례를 알려주세요.
18기 Dify 박준 스터디장님 발표를 들으며 실제 적용화면을 구경할 수 있었고, 다양한 상상을 해보게 됨
18기 클로드코드 단톡방에 올려주신 '이림'님의 '
비개발자가 Claude Code로 자신만의 AI 시스템을 만드는 법' 글에서 서브 에이전트에 대한 글을 읽다가 각 고객사별 전문 에이전트를 만들어서 해당 고객사의 일을 전담하게 하면 여러모로 편하겠다라는 생각을 하게 됨