GitHub - normal-computing/outlines: Generative Model Programming
utlines 〰️는 신경 텍스트 생성을 위한 라이브러리로, transformers 라이브러리의 generate 메서드보다 유연한 대체품입니다. 정규 표현식, JSON 스키마를 따르는 생성 방법을 제공하며, 모든 모델과 호환됩니다.
특징으로는 Jinja 템플릿 엔진을 기반으로 한 프롬프트, 다중 선택, 유형 제약 및 동적 중지를 포함한 안내 생성, 정규 표현식을 이용한 빠른 생성 등이 있으며, HuggingFace의 transformers 모델과 통합됩니다.
설치와 가이드 생성에 대한 예시 코드를 통해 시스템의 신뢰성을 높이는 첫걸음으로, 언어 모델의 출력을 보다 예측 가능하게 만드는 방법을 제공합니다.