- 하이퍼 스케일이란?
Big data 또는 Cloud computing 용도로 Computing에서 이루어지는 대규모 확장에 관한 모든 것
최대 수천 개의 서버로 확장할 수 있는 하드웨어 + 소프트웨어 조합
확장성이 큰 서버 아키텍쳐 및 가상 네트워킹에 의존
(출처: https://www.hpe.com/kr/ko/what-is/hyperscale.html) - 하이퍼 스케일 데이터 센터란?
연면적 2만2500㎡ 수준의 규모에 최소 10만대 이상의 서버를 갖춘 데이터센터로 정의
클라우드, 인공지능(AI), 빅데이터, 사물인터넷(IoT) 등 신기술 확대로 인한 대용량의 데이터를 관리하는 데 필수적인 인프라
(출처: https://www.ciokorea.com/news/216099, )
현재 클라우드 3대장 AWS(아마존), Azure(마소), GCP(구글)가 선두 - 하이퍼스케일 데이터 센터가 인공지능 발달에 배경이 됨.
- 특히 인공지능 분야 > 정확한 연산을 요구 > 연산 반도체로 GPU 사용
- GPU인 이유? 딥러닝 알고리즘은 많은 양의 단순 사칙연산(행렬 곱셈 등) 수행
GPU는 단순 사칙 연산에 특화되어있음.
(출처: https://wooono.tistory.com/207) - 이런 GPU 시장의 선구자 > NVIDIA : AI GPU 시장의 80-90% 독점. (그 외 Graphcore, 구글의 TPU, AWS의 Inferentia 등 존재)
- 기존 AI 가속기 시장 독점 + GPU 프로그래밍 언어를 통한 개발자 락인 효과 발생
- 직접적인 경쟁보다는 세분화한 타겟 시장을 공략하는 것이 나을 수 있음
- 실제로 Graphcore는 전력 대비 성능 즉 가성비를 집중하여 인공지능 하드웨어에서 우위에 있다고 주장. (인공지능 하드웨어 입장에서 운영 비용 관점을 따지기 때문)
- 이런 GPU에 탑재되는 메모리 반도체 (HBM, PIM) 등에서 수혜 가능성 존재.
삼성전자 - AMD 에 지능형 메모리 D랩 납품
SK 하이닉스 - NVIDIA 에 고대역폭 매모리 (HBM) 납품 - 반도체 설계에서 또한 지각 변동이 일어나고 있음
- 기존 범용 반도체가 아닌, AI 전용 반도체에 대한 수요 증가
- AI 전동 반도체 또한 AI 활용하여 디자인 및 설계 - 인간 설계자가 수 개월 이상 걸리는 작업을 인공지능이 몇 시간 안에 해냄.
- 초기 설비 비용이 높아 진입이 어려운 생산 분야에 비해 설계 분야는 스타트업에게 기회가 있을 것으로 보임. (실제로 많은 스타트업 진출)
- 다시 클라우드 컴퓨팅으로 돌 아가, GPU 서버를 직접 운영하기 위해서는 별도 데이터 센터를 필요로 하는데, 부지 및 안정적인 전력 공급, 냉각 시스템 등 갖춰야 할 요건이 많음.
- 때문에 직접 하드웨어 설비를 구축하는 대신, 클라우드 서비스를 임대하여 사용
- 클라우드 서비스는 쉽게 말해 '토지' or '부동산'
- 유형에 따라 퍼블릭 클라우드, 프라이빗 클라우드, 하이브리드 클라우드로 나뉘어 짐.
- 3대장 AWS, Azure, GCP -> 70% 이상 독과점 (630조 원 시장)
- 인공지능 분야가 뜨면서 클라우드 컴퓨팅 또한 더욱 강조 되는 중.
- 인공 지능 App 의 매출의 20~40%가 모델 개발 스타트업(ChatGPT) 로 분배, 이중 절반이 클라우드 비용으로 지출. 즉 인공지능 생태계 매출 중 10~20%가 클라우드로 이동.
- ChatGPT의 경우 하루 최소 1억 3000만원씩 지출하는 것으로 추산 (Azure)
- 한편 클라우드 시장은 락인 현상이 존재 (한번 선택 시 다른 곳으로 이주하기 어려움, 플랫폼에 종속됨)
- 때문에 두 개 이상의 클라우드 서비스를 사용하는 '멀티 클라우드', 퍼블릭클라우드 + 프라이빗 클라우드 를 동시에 사용하는 '하이브리드 클라우드' 전략을 사용
- 클라우드 별 장점을 극대화 하는 효과를 가져오나 안정성, 운영 관리 및 구축 난이도 높음.
- 이런 환경을 쉽게 구축할 수 있도록 컨설팅하는 업체 MSP (Managed Service Provider) 존재
- 메가존클라우드, 베스핀 글로벌이 국내 1, 2위 업체
- 또한 이런 클라우드 시장에 버티컬로 특화된 클라우드 서비스 (니치 마켓 타겟) 이 등장할 것. (인공지능 특화 클라우드 등)
GenAI Tech Stack (거시적인 생태계)
3
1개의 답글