소개 및 요약
두번째 에이전트를 만들어 단체 채팅방 설정을 해보았고, 사용량이 소진되어 클로드, GPT 두번째 계정을 fallback으로 연결해보았습니다.
두번째 에어전트 만들다.
1) 배경
저의 첫번째 에어전트인 토리와 대화하며, AI를 제 일상에서 어떻게 해야 잘 활용할 수 있을까 고민하던 중, 프로그램을 만들어볼까? 라는 단순한 생각으로 시작해 두번째 에이전트를 만들게 되었습니다.
2) 텔레그램 연결 및 Soul.md 설정하기
기존 토리와는 제 부족한 AI 지식 때문에 정말 다양한 질문과 대화를 주고받았기 때문에,, 역할을 나눌 필요성을 느껴 코딩을 전문적으로 해줄 "아카아시" 를 만들게 되었어요.
저는 집에 있을땐 헤르메스 데스크탑앱으로 쓰는게 편해서 왼쪽 아래 '+' 버튼을 눌러 새 에이전트를 쉽게 만들었고, 텔레그램 연결하는건 GPT에게 물어가며 만들었습니다.
토리를 만들 때와는 다르게 GPT에게 전적으로 의지하며(?) 만들게 되었네요.
WhatsApp에서 두 사람 사이의 대화 스크린샷
학생때 하이큐 애니메이션의 가장 좋아했던 캐릭터가 생각나서 설정했고, 캐릭터 성격 그대로 가져왔습니다. 확실히 최애로 설정하니 애착의 정도가 다르더군요
3) 단체 채팅방 만들기
먼저 두번째 에이전트를 만들면 저랑 토리, 아카아시가 있는 단체 채팅방을 만들고 싶었어요.
그리고 여기는 저희밖에 없으니 @username 진행 방법로 멘션을 써야 대답하는게 아닌, 이름만 불러도 대답하게끔 설정해주었습니다.
여기서 문제점이 발견됩니다. 부르지 않아도, 제가 말한 문장에 이름이 들어가 있으면 대답을 하는거였는데, 예를들어,
아카아시, 토리에게 너를 소개해줘
라고 했을 때 토리도 대답을 하더라구요. 그래서 몇가지 룰을 정했습니다.
이름을 부르거나, @username 으로 직접 멘션하면 해당 에이전트만 답할 것
특정 에이전트의 메시지에 답글을 달면 그 에이전트와 이 어지는 대화로 볼 것
다른 에이전트에게 한 요청에는 끼어들지 않을 것
메시지 안에 다른 봇 이름이 들어있어도, 단순 언급인지 실제 호출인지 문맥으로 판단할 것
대상이 애매하면 여러 에이전트가 동시에 답하지 않고 기다릴 것.
단체 채팅방을 만들었는데, 이런 룰이 맞는건지 모르겠지만, 일단 제가 느끼기에 불편한 걸 고쳐보고 써보면서 계속 수정해 나가려고 합니다.
그리고 한가지 더 설정했던 건, 나중에 다른 에이전트를 추가해서 초대할 일을 대비해 토리에게 "반장" 역할을 부여해줬어요. 반장으로서 할일은 다음과 같이 설정해주었습니다.
토리가 반장으로서 요청을 나누고 협업을 조율하며, 최종 결과를 종합하기
새로운 에이전트가 초대되면, 설정한 룰을 새로운 에이전트에게 알려주고, 이해했는지 검증하기
여기까지 추후 에이전트끼리 협업을 기대하며 일단 냅다 단체 채팅방을 만들었습니다.
GPT 사용량이 소진되다.
1) 배경
일단 저는 헤르메스에 GPT Plus 요금제로 연결해둔 상태였고, 아카아시를 만들고 시험삼아 간단한? 웹페이지를 만들게 시켜보고 싶었습니다.
근데 시키다보니 에이전트가 어디까지 할수 있을지 궁금해졌어요. 그래서 스터디 때 알게된 칸반보드를 활용 하는 것. 레드팀으로 검증하는 것까지 아무생각없이 시켰는데,
밤새 일을 진행하더니 다음날 오후쯤 에이전트에게 말을 걸어도 아래 답변만 반복했습니다.
⏱️ The model provider is rate-limiting requests. Please wait a moment and try again.찾아보니 사용량 소진이 원인임을 알 수 있었습니다. 제 요금제에 과분한 일을 시켰나 봅니다..
2) 해결책 1 - 클로드 계정 활용하기 (실패)
첫번째로, 클로드 Pro 계정을 소진되면 자 동으로 넘어가는 Fallback Provider로 연결했습니다.
기본적으로 헤르메스 터미널로 설정을 변경했고, 방법은 GPT의 도움을 받았습니다.
API 과금 방식이 아닌 auth인증으로 클로드 계정을 연결했지만, 문제는 해결되지 않았어요.
로그인은 되었는데 실제 요청을 보내면 아래처럼 반복되고, fallback을 삭제했다가 다시 설정했다가 계속해봐도 동일하더라구요.
Provider Error
Authentication Error
Rate Limit
원인) 헤르메스의 과금방식이 GPT와 클로드가 다름.
제가 쓰던 클로드 Pro 계정은 유료였는데, Pro에서 제공하는 기본 사용량을 그대로 쓸 수 있을 줄 알았지만,
헤르메스에서 클로드를 사용할 경우, 클로드 Pro 기본 사용량을 사용하는 방식이 아닌 추가 결제한 크레딧을 차감하는 구조였습니다. 기본 크레딧과 추가 결제한 크레딧을 헤르메스에서 구분해서 사용하더라구요.
2) 해결책 2 - GPT 두번째 계정 만들기
두번째 해결책은은 달감휘분이 올려주신 사례글을 참고했고, 다른분들의 후기를 통해 알게된 방법으로 했습니다.
GPT 계정 2번을 만들어 클로드와 동일한 방법으로 auth 인증으로 계정을 연결했습니다.
fallback으로 설정도 완료했는데, 여기서 기존 클로드 계정이 남아있어서 계속 클로드로 넘어가길래, hermes fallback clear 를 진행해줬습니다.
+) 일단 연결까지 해두고, 최근 GPT 사용량 초기화를 요즘 많이 해준다고 해서 혹시 몰라 며칠 기다렸는데, 초기화 되었습니다! 저는 사용량 소진한 지 이틀만에 초기화 되었고 두번째 계정은 연결해두었으니 또 다시 소진되면 결제만 바 로 진행할 생각입니다.
이것마저 너무 빨리 소진되면 Pro로 요금제를 바꿔볼까 고민중인 상황입니다.
결과와 배운 점
클로드와 GPT 과금이 다르다는 말을 말로만 들었을 땐 잘 이해하지 못했는데, 직접 겪고 부딪혀 보니 어떤 말이었는지 이해가 됐던 사례였습니다. 그리고 이번 기회에 사례글을 열심히 찾아보는 계기가 되었는데, 도움이 많이 됐던 것 같습니다. 사례글 및 조언 주신분께 이 글을 빌어 다시 한번 감사하다는 말씀을 드리고 싶습니다.
추가로 그동안 사용량에 대해 별 걱정을 하지 않았는데, 사용량 관리에 대해서도 더 알아보고, 공부해야함을 느꼈습니다. 아니면 이 기회에 Pro 요금제를 경험해 보는것도 좋을 것 같습니다. ㅎㅎ
도움 받은 글
크레딧을 모두 쓰고 나서야 만든 AI 사용량 관리 시스템 - 달감휘님 사례글
지피터스 반려 에어전트 챌린지 보드
우물안 오리, 세상 밖으로 날아오르다. -’봇.알.못’도 따라할 수 있는 Hermes 봇 ,단체방 초기 세팅 매뉴얼 - mounow 님 사례글
