Outlines 〰️ 라이브러리

GitHub - normal-computing/outlines: Generative Model Programming
  • utlines 〰️는 신경 텍스트 생성을 위한 라이브러리로, transformers 라이브러리의 generate 메서드보다 유연한 대체품입니다. 정규 표현식, JSON 스키마를 따르는 생성 방법을 제공하며, 모든 모델과 호환됩니다.

  • 특징으로는 Jinja 템플릿 엔진을 기반으로 한 프롬프트, 다중 선택, 유형 제약 및 동적 중지를 포함한 안내 생성, 정규 표현식을 이용한 빠른 생성 등이 있으며, HuggingFace의 transformers 모델과 통합됩니다.

  • 설치와 가이드 생성에 대한 예시 코드를 통해 시스템의 신뢰성을 높이는 첫걸음으로, 언어 모델의 출력을 보다 예측 가능하게 만드는 방법을 제공합니다.

1