1. Dify 첫 만남 - "생각보다 쉬운 AI 챗봇 구성"
지난 목요일(9/18), 스터디장님이 소개해주신 Dify라는 노코드 AI 툴을 처음 접했다.
가이드 영상을 보니 "어? 이거 생각보다 난이도가 높지 않네?"라는 생각이 들었다.
물론 RAG(Retrieval-Augmented Generation)나 청킹, 임베딩 같은 개념들이 쉬운 개념은 아니지만, 우리가 가지고 있는 Reference 정보를 기반으로 해서 AI가 답을 찾아주는 기능이다. 라는 방향으로 감만 잡고 간다면 크게 어렵게 느껴지지는 않았다.
RAG를 실제 구현하려면 꽤 공부를 많이 해야 하는데, 복잡한 기술 지식 없이도 실용적인 챗봇 서비스를 만들 수 있다는 게 신기했다.
그런데 정작 중요한 건 '무엇을 만들 것인가'였다. 지금의 나에게 가장 잘 활용할 수 있는 주제가 뭘까 고민하다가, 문득 떠오른 게 있었다.
2. 중국 주재원의 현실 - "우리만의 사투리" 문제 발견
남경에서 주재원 생활을 하다 보면 한 가지 깨닫게 되는 사실이 있다.
우리는 사실상 '외노자'라는 것. 현지 문화 속에서 살아가면서, 한국인들끼리만 통하는 독특한 "사투리"를 쓰며 소통한다.
주재원들만 아는 "사투리" 사례들
예를 들어, 우리끼리는 회사를 'ESNJ'라고 부른다. 하지만 현지 중국인들에게 "ESNJ 가는 길 아세요?"라고 물어보면 "???"라는 표정을 짓는다. 어느 공장인지, 위치가 어디인지 전혀 알아듣지 못한다. (당연하다 우리 회사에서만 쓰는 진짜 진짜 우리 회사만의 용어니.. 누가 알겠는가?)
또 다른 예시로는 내가 사는 아파트 '동방천군(东方天郡)'이 있다. 이건 중국어를 한국식으로 읽은 것으로, 실제 중국어 발음은 "똥팡티엔쥔" 같은 식이다. 우리끼리는 "동방천군 앞에서 만나자"라고 자연스럽게 말하지만, 택시 앱에 목적지를 입력할 때는 완전히 다른 중국어를 쳐야 한다.
'황소곱창(雅比斯烤肉)' 같은 한국 식당도 마찬가지다. 한글 간판에는 '황소곱창'이라고 되어 있지만, 실제 중국어 상호명은 전혀 다른 의미와 발음을 가지고 있다. 우리끼리는 "황소곱창에서 저녁 먹을까?"라고 말하지만, 실제 중국 배달 앱이나 택시 앱에서 찾으려면 중국어 상호를 알아야 한다.
특히 중국에서는 택시를 부를 때 100이면 100 앱을 통해서 목적지를 설정하는데, 여기서 진짜 문제가 발생한다. 앱에 목적지를 입력하기 위해서는 우리가 가고 싶은 곳을 정확한 중국어로 입력해야 하는데, "동방천군" "황소곱창" 같은 우리만의 이름으로는 절대 찾을 수 없기 때문이다.
3. RAG 활용한 사투리 사전 챗봇 아이디어 탄생
이런 경험들이 쌓이다 보니 아이디어가 떠올랐다. 우리만의 "사투리"와 현지명을 연결해주는 번역 사전이 있다면 어떨까? 특히 새로 오는 출장자들에게는 정말 유용할 것 같았다.
그래서 결정했다. Dify를 활용한 남경 주재원 생활팁 챗봇을 만들어보자!
4. 챗봇 구성 과정 - TXT 파일에서 Notion 연동까지
처음엔 단순하게 TXT 파일로 시작했다. 회사 명칭, 주거지 이름, 식당 이름 등을 정리해서 Dify에 업로드했더니, RAG 시스템이 생각보다 잘 작동했다.
하지만 곧 한계를 느꼈다.
혼자서 모든 정보를 업데이트하기엔 너무 방대했고, 지극히 내 취향의 식당만 추가될 터이니 공정한(?) 자료가 되기 어렵다는 생각이 들었다. 다른 주재원분들의 경험과 지식도 함께 모으면 진짜 유용한 데이터베이스가 될 것 같았다.
그래서 데이터 소스를 Notion으로 바꿔 연결했다. 여러 사람이 함께 수정하고 추가할 수 있게 만든 것이다.
현재는 약 25개의 핵심 정보가 들어있고, 다른 주재원분들을 통해 인기 식당 주소들이 계속 추가되고 있다.
그리고, 카톡봇은 정보가 부족할지언정 동작은 정상적으로 너무나 잘 해주고 있다.
5. 실전 테스트 예정 - 10월 출장자들을 위한 준비
지금은 갓 만들어진 상태라 많이 사용하지는 않았지만, 곧 진짜 테스트 시기가 온다. 10월 1일에 대대적으로 출장자들이 남경에 올 예정이다.
"ESNJ가 어디예요?", "동방천군 택시 앱에 어떻게 입력해요?", "황소곱창 중국어 이름이 뭐예요?" 같은 질문들에 챗봇이 정확한 현지 주소와 중국어 명칭을 제공할 수 있을 것이다.
6. Dify 챗봇 구성 경험 정리 - 기술보다 중요한 것
결국 이 Dify 챗봇 구성 프로젝트는 복잡한 AI 기술을 활용한 거창한 것이 아니라, 일상의 소소하지만 현실적인 문제에서 출발했다.
"우리만 아는 이름을 현지인도 알 수 있게 만들자"
단순한 아이디어였지만, Dify의 RAG 기능 덕분에 큰 어려움 없이 실제 작동하는 AI 챗봇 서비스로 만들 수 있었다. 가장 시간이 많이 걸리고 중요한 건 역시 '지식 콘텐츠를 만드는 일'이었다. 기술은 도구일 뿐, 진짜 가치는 우리가 쌓아온 경험과 지식에서 나온다는 걸 새삼 깨달았다.
10월 출장자들의 반응이 벌써 기대된다. 우리의 작은 "사투리 사전"이 누군가에게 실질적인 도움이 되길 바라며! 📱✨
