저는 단지 프론트엔드 개발자입니다. AI 에 대해 자세히는 모른다는..
2주 전부터 ollama, open webui 를 알게 되어 돌려보고 있습니다.
RAG 성능 높이는데 reranker 를 사용한다는 것도 보게 되고요.
특히 한국어 특화해서 튜닝된 Dongjin-kr/ko-reranker 같은 reranker 를 사용하면 좋다는 내용도 보게되었습니다.
다행히 open webui 환경변수에 RAG_RERANKING_MODEL 라는 항목이 있더라고요.
계속 탐색 중에
huggingface 에서 탐색하다가 아래 reranker 를 보았는데요.
잘은 모르겠는데 이게 다른 모델보다 벤치마크 점수가 더 높은거 같아 보이는데 맞나요?
제일 성능 좋은 한국어 튜닝 reranker 알고 계시면 공유 좀 해주셔요.
huggingface 모델을 ollama 에서 돌리려면 모델 변환이 필요하다하여 아래 글 참고해서 해보려고 합니다.
https://grip.news/archives/3000/
https://huggingface.co/dragonkue/bge-reranker-v2-m3-ko