💡 Mac mini에 LLM 설치해서 나만의 지식 비서 만들기(2) 로컬에 설치한 LLM에게 한글을 장착해보자!

로컬에 설치한 LLM에게 한글을 장착해보자!

✅ 방법 1: 대화 시작할 때 시스템 프롬프트 넣기

예시: 터미널에서

ollama run llama3

실행

ollama run llama3

> 시스템: 앞으로 모든 대답은 한국어로 해줘.
> 사용자: 너는 어떤 모델이야?

처음 “한국어로 대답해줘”라고 한 번만 말해두면, 대체로 이후부터 계속 한국어로 대답

✅ 방법 2: 시스템 프롬프트로 설정한

Modelfile

만들기 (추천)

더 확실하게 항상 한국어로 응답하도록 하려면 Modelfile을 만들어서 새 모델 이름으로 등록

1.

Modelfile 생성

FROM llama3
SYSTEM 모든 응답은 반드시 한국어로 해주세요.

2. 모델 등록

ollama create llama3-ko -f Modelfile

3. 실행

ollama run llama3-ko

이제는 매번 “한국어로 해줘” 안 써도 기본적으로 한국어로 응답

ALT

파이썬 프로그램의 스크린 샷

ALT

텍스트가있는 검은 색 화면의 스크린 샷

ALT

한국어 문자 메시지의 스크린 샷

💡추가 팁

필요하면 llama3-ko 모델을 REST API로도 바로 호출 가능.