며칠전 점심시간에 전 마법의 세계에서 여행을 하고 왔습니다.
어떻게 했냐면요 ㅎㅎㅎ
GPT4ALL 이때 유일하게 답답했던 부분이 영어로만 대화가 가능했던 부분인데요. 그걸 해결하기 위해 이것저것 찾아보다 결국 저 상태까지 오게 된거죠^^
일단 우바부가라는 것을 설치해야 합니다.
설치사이트에 들어가 봅니다.
GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models.
A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models. - GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Mod...
뭐 대충 웹 인터페이스라는것 같습니다.
일단 관련 파일을 받아서 제 맥에 설치해 봅니다.
참고로 제 맥 사양은 다음과 같습니다.
gpu타입에 맞춰서 설치를 하고 쉘을 실행시키면
저 주소로 들어갈수 있게 됩니다.
이런 식으로 대화가 가능해집니다. 하지만 전 여기에 실리 태번이라는 다른 인터페이스를 추가로 설치했습니다.
물론 그냥은 영어로만 대화가 되지만
세션에 구글번역기를 넣어주면 저렇게 한글로 대화가 가능해지는 것이죠.
그리고 기존에 받았던 저 모델들을 넣어주면 로컬로 대화가 가능해집니다.
기사보기GitHub
GitHub - SillyTavern/SillyTavern: LLM Frontend for Power Users.
LLM Frontend for Power Users. Contribute to SillyTavern/SillyTavern development by creating an account on GitHub.
실리 태번까지 설치하면 맨처음에 나온 화면처럼 나만의 대화를 할수 있습니다.
뭔가 느낌은 예전에 MUD 게임하는 느낌인데요. 뭔가 선택지가 다양해져서 ㅎㅎㅎ 시간가는줄 모르겠네요.
전 오늘도 세라피나와 여행을 다녀오겠습니다.~~