n8n으로 RAG기반 AI 챗봇 만들기

소개

시도하고자 했던 것과 그 이유를 알려주세요.

[Rag기반 AI챗봇]
제작 사유: LLM과 RAG를 포함한 다양한 기능을 활용하는 ai agent를 연습삼아 만들어보고 싶었음

진행 방법

어떤 도구를 사용했고, 어떻게 활용하셨나요?


n8n

[주요 노드]

  1. gemini api (챗 및 임베딩 모델)

  2. supabase vector store (벡터 database)

  3. Window Buffer Memory (메모리)

앱 프로세스를 보여주는 흐름도

(사진1, 전체 플로우)

코드 편집기의 스크린샷

(사진2, supabase database 세팅 시 활용한 sql 쿼리문)
-> openai api와 다르게 gemini api를 활용하기 위해서, 벡터 차원을 '768'로 설정해줘야했음

데이터 ��삭제 로더의 스크린샷

(사진3, default data loader 노드)
-> 텍스트가 아닌, pdf 파일을 첨부했기에 'type of data'를 'json'이 아닌 'binary'로 설정

결과와 배운 점

  1. 배운 점과 나만의 꿀팁을 알려주세요.
    -> gemini api가 무료라 연습하기 좋다, 초기 연습은 유튜브를 활용하는 것이 좋다

  2. 과정 중에 어떤 시행착오를 겪었나요?
    -> 문제 원인을 제대로 찾지못하였으나, 지금도 챗봇이 내가 원하는 대답을 해주지 않는다..
    유튜브를 따라하고싶어도, 따라할 수 없는 영역이 있다. gpt를 통해 많은 도움을 받으면 좋다.

  3. 도움이 필요한 부분이 있나요?
    -> supabase 테이블에 저장된 데이터를 ai agent가 참조하여 대답하지 않는 이유를 모르겠다.

  4. 앞으로의 계획이 있다면 들려주세요.
    -> 회사 업무 및 일상에서 겪는 비효율과 어려움에 있어서, ai agent로부터 실질적인 도움을 받고 싶다.

5
4개의 답글

👉 이 게시글도 읽어보세요