여러 LLM을 동시에 사용하는 GodMode

Youtube에서 보고 신기하다고😆생각하다가, 캠프에 참여하는 이번 기회에 설치와 사용에 도전해보았습니다. Git 바보라서😭 비스무레한 것만 나오면 긴장하는데, 한 스텝씩 천천히 해보았어요.
(실은 코딩도 아닙니다아~)

목표

• Git을 이용해 윈도우즈용 GodMode를 설치합니다.

• 다양한 LLM을 대상으로 동일한 프롬프트를 실행하고 비교합니다.

개요

• GodMode란

• 필요한 환경을 설치하기

• Windows용 GodMode 설치하기

• GodMode 사용하기

GodMode란

• 오픈소스 AI 챗 브라우저로 API 키 없이 웹 기반으로 사용합니다.

  

  ALT

  한국어 버전 포고 스크린샷

• ChatGPT, Bing, Claude, Perplexity 등 12개의 LLM 모델을 동시에 사용 가능합니다.

  

  ALT

  지원 LML 공급자 페이지의 스크린샷

필요한 환경을 설치하기

• Git(https://git-scm.com/), Python(https://www.python.org/downloads/), Node.js와 npm (https://docs.npmjs.com/downloading-and-installing-node-js-and-npm)을 설치합니다.

  

  ALT

  gtg 웹사이트의 컴퓨터 스크린샷

  (윈도우즈용 Git을 다운로드 받고 실행한 후 열심히 next를 클릭합니다🤐)

  

  (Node.js와 npm이 뭔지 몰라도 시키는대로 해봅니다. Python이 설치되어 있는 줄 알았는데, 주피터 노트북이어서 다른 건지 Node 인스톨러가 같이 깔아줍니다🤪)

  

  ALT

  Windows 10 명령 프롬프트의 스크린샷

  (제대로 설치되었는지 확인합니다😱)

Windows용 GodMode 설치하기

• GodMode Repository(https://github.com/smol-ai/GodMode/?tab=readme-ov-file)를 이용합니다.

  

  

  ALT

  검정색 배경의 컴퓨터 화면 스크린샷

• Visual Studio Code의 터미널에서 다음을 실행합니다.

  사본

  git clone https://github.com/smol-ai/GodMode.git
  cd GodMode
  npm install --force
  npm run start # to run in development, locally

  Repository를 로컬 컴퓨터에 복사하고, 설치 후 실행하는 명령입니다.

  

  사본

  npm run package

  /release/build 폴더에 애플리케이션 생성하는 명령입니다.

GodMode 사용하기

• 처음 실행하면 4개의 LLM이 화면에 보이고, 각 LLM에 자신의 계정으로 로그인하여 사용합니다.

• 여러 LLM과 동시에 채팅이 가능한 하단의 프롬프트에서는 영어만 사용할 수 있고, 각 LLM 화면 안에서는 기존과 동일하게 한글을 사용할 수 있습니다.

• 오른쪽 하단의 Setting 메뉴로 LLM 모델을 추가, 삭제 및 순서 조정할 수 있습니다.

  

• 동일한 질문 “What will it take for Earth to continue to be a habitable planet? Give me the five most important things. Answer in korean.”을 입력하여 LLM의 답변 비교합니다.

  

  ALT

  아이패드의 한국어 앱 스크린샷

정리

• 여러 난관을 헤치고🤣 결국 설치하여 사용해볼 수 있어서 좋았습니다.

• 각기 다른 데이터셋을 갖고 훈련한 여러 LLM 모델의 답변을 분석하고 비교하기에 좋은 방법이라고 생각합니다.

• ChatGPT 4와 Claude Opus의 성능 차이를 체감하긴 하였으나 계속 비교하기는 번거로웠는데, 필요할 때 GodMode를 이용할 계획입니다!

#10기AiAtoZ