스터디 3기 김길원입니다.
Langchain과 LLM을 접목한 사례가 요즘 핫해서 저도 해보았습니다.
노션으로 제작된 사내 매뉴얼을 DB에 넣고 질문하면 관련된 답변해줍니다.
참고한 깃허브: https://github.com/hwchase17/notion-qa
(Langchain, LLM, Faiss 사용)
대화 내용:
인사이트:
1. [step by step] 프롬프트를 넣으면 더 자세히 답변을 해줍니다.
-> 같은 질문도 더 디테일하게 답변을 해줍니다. (위 그림)
-> 실제 노션 매뉴얼에 있는 '퀵 부르는 법'과 비교해보면 얼추 비슷합니다.
2. 숫자 정보가 들어간 데이터엔 환각이 생기는듯 합니다.
-> 올해 계약 종료될 고객을 물어봤는데 틀린 답변을 주었습니다.
3. 주어진 노션 데이터 이외의 질문을 하면 답을 못합니다.
-> 노션 DB에 없는 '태양은 어디서 뜨지?'라는 질문을 하면 'I don't know'라는 답변이 돌아옵니다.
편리성을 높이기 위해 챗봇 형태로 웹으로 옮겨 사용해볼 예정입니다!
감사합니다.
Langchain과 LLM을 접목한 사례가 요즘 핫해서 저도 해보았습니다.
노션으로 제작된 사내 매뉴얼을 DB에 넣고 질문하면 관련된 답변해줍니다.
참고한 깃허브: https://github.com/hwchase17/notion-qa
(Langchain, LLM, Faiss 사용)
대화 내용:
인사이트:
1. [step by step] 프롬프트를 넣으면 더 자세히 답변을 해줍니다.
-> 같은 질문도 더 디테일하게 답변을 해줍니다. (위 그림)
-> 실제 노션 매뉴얼에 있는 '퀵 부르는 법'과 비교해보면 얼추 비슷합니다.
2. 숫자 정보가 들어간 데이터엔 환각이 생기는듯 합니다.
-> 올해 계약 종료될 고객을 물어봤는데 틀린 답변을 주었습니다.
3. 주어진 노션 데이터 이외의 질문을 하면 답을 못합니다.
-> 노션 DB에 없는 '태양은 어디서 뜨지?'라는 질문을 하면 'I don't know'라는 답변이 돌아옵니다.
편리성을 높이기 위해 챗봇 형태로 웹으로 옮겨 사용해볼 예정입니다!
감사합니다.