본문으로 건너뛰기
자유

한국인공지능데이터과학협회 6/1 Zoom 온라인 세미나

debian

2024.05.31

안녕하세요?

사단법인 한국인공지능데이터과학협회 (구 서울데이터연구회) 토요세미나 에서

<그록 LPU칩 기반 라마-3 70B 모델 코딩,

엘리스클라우드를 사용하는 우분투 리눅스 기반 ollama 서비스 설치 및 운영기법>

을 발표하게 되었습니다.


​2024년 6월 1일 (토) 오후 3시 30분~4시경 2부 세션

이태희

UCA수퍼컴퓨팅아카데미 대표


  • 엘리스클라우드(우분투리눅스 GPU서버)에서 ollama 서비스 설치 및 openAI 스타일의 코드 작성 기법

  • 그록 LPU칩 기반 라마-3 70B모델 파이썬 API 코딩 기법,

  • 오픈라우터 AI에서 라마3 모델 사용법

​

엘리스 클라우드에서 무료 플랜으로 nVidia A100 GPU 10기가 용량을 무료로 받아서 우분투용 ollama 서비스를 설치하고, llama3 8B 모델을 On-DeviceAI 형태를 경험해봅니다. 온디바이스 모델과 파이썬으로 openAI 스타일로 연동 코딩도 해봅니다.


그록 LPU칩 기반의 초고속 라마3-70B 모델을 파이썬 코드로 다뤄보는 실습을 해봅니다.

실습에는 파이썬 코드가 제공됩니다.

​

PDF 발표자료 미리 다운로드 및 세미나 줌링크는 블로그 게시물을 참고해주세요

https://blog.naver.com/ulsancoding/223464234413


많은 참여바랍니다.

함께 이야기해요 0

로그인하고 댓글을 남겨 주세요

필요한 AI 정보만
메일함에 쏙쏙 넣어드려요.

지금 핫한 AI 소식부터 직접 해 본 사례까지, 월요일마다 무료로 받아보세요

커뮤니티의 다른 글

커뮤니티 전체 보기