제공 방식 및 운영 경계
Azure는 대규모 학습용 ND 시리즈와 컴퓨팅 집약적 워크로드용 NC 시리즈를 포함한 GPU 가속 가상 머신 제품군을 제공하며, Azure Kubernetes Service와 Azure Machine Learning은 별도의 오케스트레이션/ML 서비스입니다.
GPU VM은 인프라 제어 기능을 제공합니다. Azure ML 관리형 온라인 엔드포인트와 AKS는 자체적인 서빙 또는 오케스트레이션 계층, 할당량 및 수명 주기 동작을 추가합니다. VM 크기 지원, 가용성 및 할당량은 지역과 구독에 따라 다릅니다.
Computraq는 출시 전 단계입니다. 여기서 이 공급자의 이름을 언급한다고 해서 Computraq가 해당 공급자에서 워크로드를 호스팅하거나, 통합을 테스트했거나, 상업적 관계를 맺고 있다는 의미는 아닙니다.
구매자 및 조달 준비
다음 질문을 사용하여 비교 가능한 워크로드별 평가를 준비하십시오. 제품 이름은 공급자가 공개한 제공 내용을 설명할 뿐, 특정 계정에 대한 가용성을 보장하지 않습니다.
- 시리즈를 워크로드 및 상호 연결 요구 사항에 맞추고, 약정 전에 할당량, 정확한 지역/영역 가용성, 예약 조건, 네트워킹 및 스토리지를 확인하십시오.
- VM 비용을 관리형 서비스, 디스크, 네트워크, 지원 및 라이선스 비용과 분리하고, 지속적 용량에 대해서는 서면 견적을 사용하십시오.
- 선택한 아키텍처에 대해 테넌트 ID, 프라이빗 네트워킹, 데이터 상주 및 모델 엔드포인트 액세스를 검토하십시오.
개발자 및 운영자 증거
용량을 선택하기 전에 모델 및 리비전, 입력 형태, 런타임, GPU 구성, 동시성, 목표 지연 시간 또는 작업 완료, 복구 기대치를 기록하는 소규모 수용 계획을 수립하십시오. 공급자 문서는 제품 설계의 증거일 뿐, 해당 워크로드가 테스트되었음을 입증하는 것은 아닙니다.
- VM SKU 사양과 지원되는 OS/드라이버 스택을 확인하고, 다중 GPU/다중 VM 학습에 대한 분산 통신 테스트를 실행하십시오.
- AKS 또는 Azure ML 엔드포인트의 경우 노드 풀, GPU 스케줄링, 자동 확장, 상태 확인 및 모델 롤아웃을 독립적으로 검증하십시오.
- 할당량/용량 확인을 자동화하고 지역 또는 SKU 제약에 대한 대체 계획을 포함하십시오.