로컬LLM과 Hermes 로 생존신고하는 봇 연결

소개

시도하고자 했던 것과 그 이유를 알려주세요.

로컬LLM이 뭔가 적당한 일을 부여하면 잘 할 것으로 보이나 아직 발견하지 못한.

혹시 간단한 루틴을 진행했을 때 어떨지 확인하고자함

진행 방법

어떤 도구를 사용했고, 어떻게 활용하셨나요?

Tip: 사용한 프롬프트 전문을 꼭 포함하고, 내용을 짧게 소개해 주세요.

Tip: 활용 이미지나 캡처 화면을 꼭 남겨주세요.

Tip: 코드 전문은 코드블록에 감싸서 작성해주세요. ( / 을 눌러 '코드 블록'을 선택)

LM Studio + Gemma 4 E4B, Hermes, Telegram

LM Studio를 설치하여 로컬 모델로 Gemma를 다운받아 로드시킴

우분투 서버 설정 스크린샷

그리고 Hermes의 채널로 텔레그램을 선정한 다음.

텔레그램에서 Bot Father에게 분양신청( 이건 그냥 검색하면 다 방법 나오므로 쉬움)

생성된 bot의 정보를 Hermes에 연결하였습니다.

이후 텔레그램을 통해 여러가지를 시도해 보았으나 딱히 성공적으로 하는 것이 없음.

그래서 루틴한 업무를 할당할 계획으로 매시간 메세지를 넣으라고 명령.

cronjob은 잘 설정한 것 같은데. 제대로 안옴.

로컬모델은 쓸데가 없구나라고 생각하고 잊고 있었는데. 필요에 의해 돌리고 있던 머신을 리부팅할 일이 생겼습니다. 그 이후로 계속 메시지가 오고 있습니다.

그런데 매시간 오지는 않았습니다.

결과와 배운 점

배운 점과 나만의 꿀팁을 알려주세요.

과정 중에 어떤 시행착오를 겪었나요?

도움이 필요한 부분이 있나요?

앞으로의 계획이 있다면 들려주세요.

스킬을 만들어두는 것은 유료 모델로 해두고 나중에 루틴화되었을 때 로컬모델로 교체하는 것이 좋다는 것을 배우게 되었습니다. 그런데 루틴한거 시키는 거는 유료모델도 별로 안비싸서 이게 효용인지는 좀 더 두고봐야합니다.

도움 받은 글 (옵션)

참고한 지피터스 글이나 외부 사례를 알려주세요.

(내용 입력)

2
2개의 답글
밀어주고 끌어주는

온·오프라인 AI 스터디

AI로 어디까지 할 수 있는지
직접 확인하실 분만 신청하세요.