[23.04.25] "초거대AI 모델 경량화, 유지비·개발 문턱↓"

초거대 인공지능(AI) 모델을 경량화하는 사례가 늘고 있다. AI 스타트업은 주로 오픈AI 'GPT' 모델 크기를 줄여 AI 개발·유지비 문턱을 낮추는 추세다.
가장 대표적 GPT 경량화 버전은 'GPT4올'이다. 미국 스타트업 노믹AI가 이달 깃허브를 통해 공개했다. GPT4올은 GPT-3.5 터보와 메타 언어모델 '라마'로 데이터를 학습, 파인튜닝 했다.
노믹AI는 약 100만개에 달하는 문답을 GPT-3.5-터보로 수집했다. 개발팀은 이중 필요 없는 질문과 답을 지웠다. 대신 문답 주제 다양성은 높였다. 업체 측은 "학습 데이터가최대한 다양한 질문에 답변할 수 있도록 만들었다"고 밝혔다. 최종적으로 남은 문답은 43만7천605개였다. 노믹AI는 이를 파인튜닝 했다.
결과적으로 GPT4올은 노트북에서도 AI 모델 개발과 프로그램 실행을 할 수 있게 됐다. 전용 하드웨어 없이 일반 단말기에서 초거대AI 모델을 이용할 수 있는 셈이다.
노믹AI 측은 "모델 경량화까지 4일 걸렸고, 데이터 학습은 8시간 만에 끝났다"고 밝혔다. 또 "GPU 비용은 800달러(약 107만원), 오픈AI API 비용으로는 500달러(약 67만원) 들었다"며 "적은 비용으로도 모델을 효율적으로 개발할 수 있었다"고 말했다.