로컬에서 RAG 구축하기 (껍질만있고 기능구현 안된거라 그닥 참고할건 없습니다...)

소개

로컬에서 RAG를 구축하고 A2A를 해보려고 준비중입니다. 다만 다른게시글에도 썼듯이 요즘은 카톡봇 개발에 집중하는 중이라 껍질은 만들어놓고 연결된건 없습니다. 껍질밖에 없어도 이걸로 게시글을 써달라고 하셔서 쓰긴 하는데... 껍질이라 도움드릴건 없으니 가볍게 이런거 하는구나 하고 봐주시면 될 것 같아요.

진행 방법

게시글을 못쓰는 이유가 바로 이부분 때문인데요... 전 PRD, MRD, Rules 이런걸 만들지 않았습니다. 어떤게 바이브코딩으로 가능하고 어떤걸 제가 하고 싶어하는지 모르기 때문입니다. 그래서 프롬프트가 없어요. 그냥 100% 대화로 합니다. 처음엔 위스퍼 gpu 모델로 쓰게해줘. 로 시작했구요. 오 이것도 할 수 있구나? 그럼 이것도 해볼래? 이런식으로 하나씩 시켰습니다. 하다보면 오 이것도 되면 이것도 하면 좋겠다 이런식으로 늘려나갔습니다. 그러다가 덕지덕지 붙어있으면 이거 좀 덕지덕지붙어있는것같은데 정리좀해줘. 이렇게 했습니다. 개발 용어 이런건 몰라서 안썼구요. 안되면 될때까지 시키고 있습니다. 덕분에 200불 짜리 클로드 맥스 쿨타임을 하루 4번은 만나는 기분입니다. 지금도 쿨타임에 글을 쓰는 중이구요. 클로드 코드에 에이전트 만들어서 쓰는것도 있다는데 그런거 안했구요. 모니터링도 안하고 있습니다. 그냥 무식하게 하는중입니다. 그래도 결과가 나와서요. 다만 다른사람한테 추천하는 방법은 아니라 따라안하셨으면 해서 게시글을 남기지 않았습니다. 전 요즘 병가라 시간이 많아서 가능하지만 정말 비효율적입니다. 킬링타임용으로 하는중이라 효율적인 방법들로 하시길 추천드립니다.

결과와 배운 점

아래는 껍질들입니다. 현재상태는 모델들 선택, 벡터디비 설계까지 되어있구요. 연결해서 RAG와 Agent들 만드는건 아직 시작 안한상태입니다. 원래는 노션과 카카오톡 대화들을 여기서 같이 벡터 디비로 넣을려고 했는데 카톡봇으로 놀다보니 카톡으로도 어느정도 가능할 것 같아서 일단 되는데까지 해보고 넘어갈 예정입니다.

검은 색 화면이있는 컴퓨터 화면의 스크린 샷

바이브코딩으로 할수있는게 많구나.를 느끼고 있습니다. 마음 같아선 클로드 계정 몇개 사서 쿨타임없이 쭉 쓰고 싶습니다...(조만간 계정하나를 더 할지도 모르겠어요...) 그래서 배운 점은 클로드 코드 짱이다. 다만 아래 스샷처럼 정말 대화로 모든걸해서 과정이 없다 정도가 문제입니다. 아직도 쿨타임이 한시간이나 남았네요....

어두운 배경에 한국어 텍스트

도움 받은 글 (옵션)

16기 에창패 스터디에서 처음 RAG라는걸 들었습니다. 아직 껍질 뿐이지만 그래도 덕분에 시작할 수 있었습니다. 특별한 감사를 남깁니다.

사례글은 썼지만 지난주에 보여드린거라 발표는 지난주 내용으로 대신하도록 하겠습니다.

2
3개의 답글

뉴스레터 무료 구독

👉 이 게시글도 읽어보세요