GenAI Tech Stack (거시적인 생태계)

  1. 하이퍼 스케일이란?
    Big data 또는 Cloud computing 용도로 Computing에서 이루어지는 대규모 확장에 관한 모든 것
    최대 수천 개의 서버로 확장할 수 있는 하드웨어 + 소프트웨어 조합
    확장성이 큰 서버 아키텍쳐 및 가상 네트워킹에 의존
    (출처: https://www.hpe.com/kr/ko/what-is/hyperscale.html)
  2. 하이퍼 스케일 데이터 센터란?
    연면적 2만2500㎡ 수준의 규모에 최소 10만대 이상의 서버를 갖춘 데이터센터로 정의
    클라우드, 인공지능(AI), 빅데이터, 사물인터넷(IoT) 등 신기술 확대로 인한 대용량의 데이터를 관리하는 데 필수적인 인프라
    (출처: https://www.ciokorea.com/news/216099, )
    현재 클라우드 3대장 AWS(아마존), Azure(마소), GCP(구글)가 선두
  3. 하이퍼스케일 데이터 센터가 인공지능 발달에 배경이 됨.
  4. 특히 인공지능 분야 > 정확한 연산을 요구 > 연산 반도체로 GPU 사용
  5. GPU인 이유? 딥러닝 알고리즘은 많은 양의 단순 사칙연산(행렬 곱셈 등) 수행
    GPU는 단순 사칙 연산에 특화되어있음.
    (출처: https://wooono.tistory.com/207)
  6. 이런 GPU 시장의 선구자 > NVIDIA : AI GPU 시장의 80-90% 독점.  (그 외 Graphcore, 구글의 TPU, AWS의 Inferentia 등 존재)
  7. 기존 AI 가속기 시장 독점 + GPU 프로그래밍 언어를 통한 개발자 락인 효과 발생
  8. 직접적인 경쟁보다는 세분화한 타겟 시장을 공략하는 것이 나을 수 있음
  9. 실제로 Graphcore는 전력 대비 성능 즉 가성비를 집중하여 인공지능 하드웨어에서 우위에 있다고 주장. (인공지능 하드웨어 입장에서 운영 비용 관점을 따지기 때문)
  10. 이런 GPU에 탑재되는 메모리 반도체 (HBM, PIM) 등에서 수혜 가능성 존재.
    삼성전자 - AMD 에 지능형 메모리 D랩 납품
    SK 하이닉스 - NVIDIA 에 고대역폭 매모리 (HBM) 납품
  11. 반도체 설계에서 또한 지각 변동이 일어나고 있음
  12. 기존 범용 반도체가 아닌, AI 전용 반도체에 대한 수요 증가
  13. AI 전동 반도체 또한 AI 활용하여 디자인 및 설계 - 인간 설계자가 수 개월 이상 걸리는 작업을 인공지능이 몇 시간 안에 해냄.
  14. 초기 설비 비용이 높아 진입이 어려운 생산 분야에 비해 설계 분야는 스타트업에게 기회가 있을 것으로 보임.  (실제로 많은 스타트업 진출)
  15. 다시 클라우드 컴퓨팅으로 돌아가, GPU 서버를 직접 운영하기 위해서는 별도 데이터 센터를 필요로 하는데, 부지 및 안정적인 전력 공급, 냉각 시스템 등 갖춰야 할 요건이 많음.
  16. 때문에 직접 하드웨어 설비를 구축하는 대신, 클라우드 서비스를 임대하여 사용
  17. 클라우드 서비스는 쉽게 말해 '토지' or '부동산'
  18. 유형에 따라 퍼블릭 클라우드, 프라이빗 클라우드, 하이브리드 클라우드로 나뉘어 짐.
  19. 3대장 AWS, Azure, GCP -> 70% 이상 독과점 (630조 원 시장)
  20. 인공지능 분야가 뜨면서 클라우드 컴퓨팅 또한 더욱 강조 되는 중.
  21. 인공 지능 App 의 매출의 20~40%가 모델 개발 스타트업(ChatGPT) 로 분배, 이중 절반이 클라우드 비용으로 지출. 즉 인공지능 생태계 매출 중 10~20%가 클라우드로 이동.
  22. ChatGPT의 경우 하루 최소 1억 3000만원씩 지출하는 것으로 추산 (Azure)
  23. 한편 클라우드 시장은 락인 현상이 존재 (한번 선택 시 다른 곳으로 이주하기 어려움, 플랫폼에 종속됨)
  24. 때문에 두 개 이상의 클라우드 서비스를 사용하는 '멀티 클라우드', 퍼블릭클라우드 + 프라이빗 클라우드 를 동시에 사용하는 '하이브리드 클라우드' 전략을 사용
  25. 클라우드 별 장점을 극대화 하는 효과를 가져오나 안정성, 운영 관리 및 구축 난이도 높음.
  26. 이런 환경을 쉽게 구축할 수 있도록 컨설팅하는 업체 MSP (Managed Service Provider) 존재
  27. 메가존클라우드, 베스핀 글로벌이 국내 1, 2위 업체
  28. 또한 이런 클라우드 시장에 버티컬로 특화된 클라우드 서비스 (니치 마켓 타겟) 이 등장할 것. (인공지능 특화 클라우드 등)
3
1개의 답글

(채용) 크리에이터, 마케터, AI 엔지니어

지피터스: 콘텐츠를 AI로 재가공 해 원소스 멀티유즈하는 스타트업

👉 이 게시글도 읽어보세요