소개
수면 건강 관련 모바일 플랫폼을 준비하면서, 챗봇 기능이 꼭 필요했습니다. 하지만 건강 정보라는 특성상 잘못된 답변(할루시네이션)은 절대 용납될 수 없었고, 사용자 개별 데이터를 바탕으로 맞춤형 상담이 가능한 챗봇이 필요했죠.
이런 고민 끝에 자연스럽게 RAG(Retrieval-Augmented Generation) 기반 챗봇에 관심을 갖게 되었고, 마침 스터디에서 "Dify"라는 도구를 소개하는 글을 보게 되었습니다. n8n처럼 템플릿 기반의 자동화 워크플로우를 제공한다는 설명에 바로 신청하게 되었죠.
진행 방법
사용한 도구 및 환경
Dify: 챗봇 구축 및 Knowledge 업로드
LLM API: Gemini, OpenAI, Claude API Key 연동
Perplexity: 실시간 Q&A를 위한 검색 도구로 적극 활용
시행한 작업
Dify의 '탐색' 기능에서 'Knowledge Retrieval + Chatbot' 템플릿 선택 → '작업 공간에 추가' → Knowledge Retrieval 클릭 후 우측 화면의 '지식'에서 '참조할 지식 선택'해 추가 ('지식'은 홈 화면에서 '지식' 탭 클릭 후 '지식 생성' 클릭해 자료 업로드) → LLM 클릭해, 다른 LLM 사용 시 API 연동 및 System prompt와 기타 User 지시 사항 입력 → '미리보기'를 이용해 미리 시행해보기
다양한 Knowledge 파일을 업로드해 테스트 진행 (md, docx, pdf)
에러 이슈: Google Docs에서 다운로드한 PDF 파일 업로드 시 오류 발생
해결: Perplexity에 질문해보니, '인쇄-PDF로 저장'한 뒤 그 PDF 파일을 업로드하면 호환성이 높아진다는 팁을 얻고 해결 완료 ✅
사용자 친화적이고 공감형 말투로 응답하도록 프롬프트 조정 ✅
결과와 배운 점
RAG 개념을 처음으로 명확히 이해하게 된 계기
여러 번 읽어도 감이 안 오던 개념이, 박준 박준_JoonLab 스터디장님의 설명 덕분에 단~번에 이해가 됨. 눈높이를 딱 맞춰주시고, 딕션/음성/스피치 속도까지 완벽! 👍
Dify가 제공하는 다양한 템플릿을 사용하면 생각보다 쉽~게 MVP 구현 가능
복잡할 거라는 예상과 달리, 몇 번 클릭과 설정만으로 챗봇의 뼈대가 완성됨
MVP 수준 챗봇은 정말 빠르게 구현 가능함
LLM의 한계를 RAG와 HITL(Human-in-the-loop)로 보완 가능할 것이라는 기대감↑
RAG+HITL 그리고 (AI가 준 답변에 근거하면) "정렬된 검색, 생성 제약, 자동 검증기, 루프형 학습"까지 겹겹이 쌓으면 Chatbot의 정확성과 신뢰도를 원하는 수준까지 끌어올릴 수 있을 것이라는 기대감↑
작은 성공 경험(Small Win)의 중요성
새로운 도구를 배울 땐 늘 두려움이 앞서는데, 작게라도 성공하면 금방 재미있어짐
결국 "잘 가르쳐주는 환경 + 바로 실습해보는 구조"가 가장 좋은 학습 환경이라는 것을 다시 실감함
퀴즈앱으로 복습하며 학습 확장 중!
요즘은 새로운 내용을 배우고 나면, 정말 잘 이해했는지 확인하려고 Claude 등 LLM을 이용해 퀴즈앱을 만들어 셀프 검증 중
이번 스터디 OT 내용도 퀴즈앱으로 만들어봤으니, 관심 있는 분들은 한 번 풀어보세요! https://claude.ai/public/artifacts/89605f12-0c98-474f-9b4b-f41acd7deca4
도움 받은 강의:
명불허전 '테디노트'님의 유튜브 영상:
새해 시작은 NO코드 #RAG #Agent #Workflow 구축해보기!
#dify 커스텀 도구 제작하기 (#upstage 파서)
