🦜🔗랭체인 활용툴 101 _ 7기 랭체인

안녕하세요! AI학대전문가 입니다. 항상 말하는 거지만 학대는 제가 당합니다...

저는 중간고사와 대입 컨설팅 일부 과정 자동화를 진행 중에 있습니다.

그래서 GPT-4를 프롬프트 엔지니어링으로 많이 학대하다보니 발견한 몇가지 불편한 점이 있었습니다.

1. “입력 토큰량”과 “출력 토큰량”이 많을 시 기존의 대화 내용을 잊어버림

2. ADA를 활용하여 20p.의 FILE을 제대로 읽지 못함 → 낮은 확률로 정확히 읽음

3. 여러가지 데이터 입력하여 종합적으로 활용하지 못함

이를 해결하기 위해 알아보던 중 아래의 3개가 삼대장인 것을 알게 되었습니다.

• 프롬프트 엔지니어링

• 랭체인

• 파인 튜닝

아닛! 프롬프트 엔지니어링을 제외하고는 모두 코딩 실력을 필요로 했습니다.

저는 코린이인데..

제가 직접 한땀한땀 정성스럽게 코드를 작성하여 만드는 것보다,

다른 훌륭한 분들이 만들어주신 오픈소스 툴들을 잘 활용하는 것이 서비스 제공자에게 더 맞는다는 생각을 했습니다.

그렇게 발견한 여러가지 랭체인 툴들을 공유하려 합니다!!

1. 시켜줘요, 너의 명예 랭체인 튜터 : 랭체인에 대한 질문-답변 챗봇

“랭체인을 잘 모르겠어! 그것에 대해 알려주는 나만의 개인 튜터가 필요해!”

위와 같은 생각을 평소에 하셨다면 추천합니다!

소제목을 클릭하면 위의 페이지로 연결됩니다.

이렇게 모두 7가지 세션으로 구분되어 있어서 질문을 하실 수 있습니다!!

레슨의 타입은 크게 2가지로 구성되어 있습니다.

위와 같이 ‘Lesson 2: Prompts’로 설정을 한 후, 올바른 프롬프트 작성 방법에 대해 물었더니 잘 답변을 해줬습니다.

무엇보다 무료라는 점이 매력적!

우리의 소중한 OpenAI API key를 입력하지 않아도 동작됩니다.

2. Hey, GPT!

여러가지 데이터를 학습시킬 수 있는 오픈소스 입니다.

더 강력하고 많은 기능을 원하면 유료 결제가 필요합니다.

유료 결제를 하면 위와 같은 기능을 사용이 가능하다고 합니다.

우리의 소중한 OpenAI API key를 사용해야 합니다..

아래의 HeyGPT License Key는 유료 사용자는 따로 발급받아 사용하는 것입니다.

저는 시험삼아 지피터스 유튜브 채널의 한 영상으로 테스트 해보았습니다.

조회수가 가장 많은 영상인 “프롬프트 지니: ChatGPT 자동 번역기 - 사용법 (v2.0.1)”로 진행했습니다.

위와 같이 CHUNK SIZE도 조정이 가능합니다.

Embed 3 chunk(s)를 누른 후 , 우측 하단의 Apply 버튼을 누르면 됩니다.

바로 이렇게!!

그런다음, 플러그인에서 USE 버튼을 눌러야 사용가능합니다.

아래처럼 말이죠.

그래서 아래와 같이 결과를 얻을 수 있었습니다.

3. 세컨드 브레인,, 누가 이미 만들었는데요? _ Quivr

Quivr의 Github 자료와 정보는 여기에 있습니다!

Quivr에서 Brain 관리에 들어가면 윈도우 정품 인증 메시지와 함께 다음과 같은 설정 화면이 나옵니다.

마찬가지로 OpenAI API key를 입력해야 합니다.

하지만 재미있는 점은 OpenSource인 Mistral-7B 모델도 사용이 가능하다는 점이었습니다.

미리 작성하는 프롬프트는 Chat GPT에서 Custom Instruction으로 보면 될 것 같습니다.

역시 2번 HeyGPT와 마찬가지로 지피터스의 영상을 테스트 해보겠습니다.

쉽지 않습니다. 유튜브 영상을 읽어오지 못합니다.

그래서 지피터스의 8기 파트너 신청 게시글을 입력하여 대화를 시도하였습니다.

질문은 잘라먹고, 답변도 이상합니다.

질문은 잘라먹고, 답변도 이상합니다.(2)

결론 : 브레인은 위대하다.

다음 발표에는 더 다양한 신선하고 따끈한 랭체인 툴들을 가져오겠습니다!

🥹