CentML은 기계 학습 모델 배포의 비용을 줄이고 성능을 향상시키기 위한 도구 개발 회사로, Nvidia, Gradient Ventures, TR Ventures, Microsoft Azure AI VP Misha Bilenko 등으로부터 2,700만 달러를 투자 받았습니다.
CentML의 최적화 기술은 비용을 최대 80%까지 줄일 수 있으며, 플랫폼은 모델 교육 중 병목 현상을 파악하고 모델 배포의 전체 시간 및 비용을 예측합니다. 이는 기존 하드웨어에서 모델을 더 효율적으로 실행하기 위한 소프트웨어 출시의 중요성을 부각시킵니다.
가까운 미래에 CentML은 모델 교육뿐만 아니라 추론(즉, 모델이 교육된 후에 실행) 최적화에도 주목할 계획이며, GPU는 오늘날 추론에도 많이 사용되므로 회사의 성장 가능성으로 볼 수 있습니다.
