안녕하세요?
사단법인 한국인공지능데이터과학협회 (구 서울데이터연구회) 토요세미나 에서
<그록 LPU칩 기반 라마-3 70B 모델 코딩,
엘리스클라우드를 사용하는 우분투 리눅스 기반 ollama 서비스 설치 및 운영기법>
을 발표하게 되었습니다.
2024년 6월 1일 (토) 오후 3시 30분~4시경 2부 세션
이태희
UCA수퍼컴퓨팅아카데미 대표
엘리스클라우드(우분투리눅스 GPU서버)에서 ollama 서비스 설치 및 openAI 스타일의 코드 작성 기법
그록 LPU칩 기반 라마-3 70B모델 파이썬 API 코딩 기법,
오픈라우터 AI에서 라마3 모델 사용법
엘리스 클라우드에서 무료 플랜으로 nVidia A100 GPU 10기가 용량을 무료로 받아서 우분투용 ollama 서비스를 설치하고, llama3 8B 모델을 On-DeviceAI 형태를 경험해봅니다. 온디 바이스 모델과 파이썬으로 openAI 스타일로 연동 코딩도 해봅니다.
그록 LPU칩 기반의 초고속 라마3-70B 모델을 파이썬 코드로 다뤄보는 실습을 해봅니다.
실습에는 파이썬 코드가 제공됩니다.
PDF 발표자료 미리 다운로드 및 세미나 줌링크는 블로그 게시물을 참고해주세요
https://blog.naver.com/ulsancoding/223464234413
많은 참여바랍니다.