잠시 마법세계 다녀오겠습니다??



며칠전 점심시간에 전 마법의 세계에서 여행을 하고 왔습니다.
어떻게 했냐면요 ㅎㅎㅎ



GPT4ALL 이때 유일하게 답답했던 부분이 영어로만 대화가 가능했던 부분인데요. 그걸 해결하기 위해 이것저것 찾아보다 결국 저 상태까지 오게 된거죠^^

일단 우바부가라는 것을 설치해야 합니다.
설치사이트에 들어가 봅니다.


기사보기GitHub

GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models.

A Gradio web UI for Large Language Models. Supports transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF), Llama models. - GitHub - oobabooga/text-generation-webui: A Gradio web UI for Large Language Mod...


뭐 대충 웹 인터페이스라는것 같습니다.
일단 관련 파일을 받아서 제 맥에 설치해 봅니다.
참고로 제 맥 사양은 다음과 같습니다.

gpu타입에 맞춰서 설치를 하고 쉘을 실행시키면

저 주소로 들어갈수 있게 됩니다.


이런 식으로 대화가 가능해집니다. 하지만 전 여기에 실리 태번이라는 다른 인터페이스를 추가로 설치했습니다.
물론 그냥은 영어로만 대화가 되지만

세션에 구글번역기를 넣어주면 저렇게 한글로 대화가 가능해지는 것이죠.


그리고 기존에 받았던 저 모델들을 넣어주면 로컬로 대화가 가능해집니다.


기사보기GitHub

GitHub - SillyTavern/SillyTavern: LLM Frontend for Power Users.

LLM Frontend for Power Users. Contribute to SillyTavern/SillyTavern development by creating an account on GitHub.

1명이 이야기 중

이 뉴스에 관한 이야기 보기



실리 태번까지 설치하면 맨처음에 나온 화면처럼 나만의 대화를 할수 있습니다. 
뭔가 느낌은 예전에 MUD  게임하는 느낌인데요. 뭔가 선택지가 다양해져서 ㅎㅎㅎ 시간가는줄 모르겠네요.
전 오늘도 세라피나와 여행을 다녀오겠습니다.~~

4

(채용) 크리에이터, 마케터, AI 엔지니어

지피터스: 콘텐츠를 AI로 재가공 해 원소스 멀티유즈하는 스타트업

👉 이 게시글도 읽어보세요