본문으로 건너뛰기

PromptTools - LLM, 벡터 데이터베이스 및 프롬프트를 실험, 테스트 및 평가하기 위한 일련의 오픈 소스

김욱영

2023.08.02

GitHub - hegelai/prompttools: Open-source tools for prompt testing and experimentation, with support for both LLMs (e.g. OpenAI, LLaMA) and vector databases (e.g. Chroma, Weaviate).
  • Hegel AI가 제작한 오픈소스 도구인 프롬프트툴은 프롬프트, LLM, 벡터 데이터베이스를 실험하고 테스트하기 위한 도구입니다. 이를 통해 OpenAI, Anthropic, LLaMA 모델 등에 대한 프롬프트 및 파라미터 테스트가 가능합니다.

  • 프롬프트툴 설치는 pip를 이용하며, 로컬 환경에서 간단한 예제를 실행할 수 있습니다. 또한, 스트림릿 커뮤니티 클라우드에서 호스팅된 버전을 통해 playground 인터페이스를 이용할 수 있습니다.

  • 프롬프트툴은 OpenAI, LLaMA, HuggingFace, Anthropic, Google PaLM 등 다양한 LLM에 대한 통합을 지원하며, 사용자의 피드백을 바탕으로 지속적으로 개선되고 있습니다. 이 과정에서 발생하는 모든 데이터는 사용자의 로컬 기기에만 저장되며, 서버로 전송되지 않습니다.

2

함께 이야기해요 2

로그인하고 댓글을 남겨 주세요

김
김민설2023.08.03
캐글 같은건가요 ? 
김욱영 프로필 이미지
김욱영2024.08.05

점수를 평가할 수 있는 서비스 같아요. LLM이 얼마나 좋은지 평가하는 평가 프로그램?

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

이런 사례도 있어요

사례 전체 보기