PromptTools - LLM, 벡터 데이터베이스 및 프롬프트를 실험, 테스트 및 평가하기 위한 일련의 오픈 소스

GitHub - hegelai/prompttools: Open-source tools for prompt testing and experimentation, with support for both LLMs (e.g. OpenAI, LLaMA) and vector databases (e.g. Chroma, Weaviate).
  • Hegel AI가 제작한 오픈소스 도구인 프롬프트툴은 프롬프트, LLM, 벡터 데이터베이스를 실험하고 테스트하기 위한 도구입니다. 이를 통해 OpenAI, Anthropic, LLaMA 모델 등에 대한 프롬프트 및 파라미터 테스트가 가능합니다.

  • 프롬프트툴 설치는 pip를 이용하며, 로컬 환경에서 간단한 예제를 실행할 수 있습니다. 또한, 스트림릿 커뮤니티 클라우드에서 호스팅된 버전을 통해 playground 인터페이스를 이용할 수 있습니다.

  • 프롬프트툴은 OpenAI, LLaMA, HuggingFace, Anthropic, Google PaLM 등 다양한 LLM에 대한 통합을 지원하며, 사용자의 피드백을 바탕으로 지속적으로 개선되고 있습니다. 이 과정에서 발생하는 모든 데이터는 사용자의 로컬 기기에만 저장되며, 서버로 전송되지 않습니다.

2
2개의 답글

👉 이 게시글도 읽어보세요