제공 모드 및 운영 경계
Crusoe는 Infrastructure Cloud GPU/CPU VM, 스토리지 및 네트워킹을 관리형 Kubernetes(CMK) 또는 Slurm 오케스트레이션과 분리합니다. 해당 문서는 또한 서버리스 추론, 전용 셀프서비스 추론 배포 및 서버리스 파인튜닝을 위한 Managed AI 옵션을 설명합니다.
Infrastructure Cloud는 워크로드 구성을 고객에게 맡기고, CMK/Slurm은 오케스트레이션 요소를 관리하며, Managed AI 추론은 별개의 관리형 서빙 경로입니다. 용량이나 운영 노력을 비교하기 전에 서비스 경계를 선택하십시오.
Computraq는 출시 전 단계입니다. 여기서 이 공급자의 이름을 언급한다고 해서 Computraq가 해당 공급자에서 워크로드를 호스팅하거나, 통합을 테스트했거나, 상업적 관계를 맺고 있다는 의미는 아닙니다.
구매자 및 조달 준비
이 질문들을 사용하여 비교 가능한 워크로드별 평가를 준비하십시오. 제품 이름은 공급자가 게시한 제공 내용을 설명할 뿐, 특정 계정에 대한 가용성을 입증하지 않습니다.
- Infrastructure Cloud의 경우 노드 수, 인터커넥트, 스토리지 및 오케스트레이션 요구 사항을 정의하고, Managed AI의 경우 엔드포인트 동작, 트래픽 및 데이터 경계를 정의하십시오.
- 현재 위치, 가속기 용량, 예약, 지원, 서비스 수준 및 청구 조건을 견적에서 직접 요청하십시오.
- 선택한 서비스에 대해 누가 모델 아티팩트, 런타임 변경, 로그 및 스케일링 결정을 통제하는지 매핑하십시오.
개발자 및 운영자 증거
용량을 선택하기 전에 모델 및 리비전, 입력 형태, 런타임, GPU 구성, 동시성, 목표 지연 시간 또는 작업 완료, 복구 기대치를 기록하는 소규모 승인 계획을 작성하십시오. 공급자 문서는 제품 설계의 증거일 뿐, 이 워크로드가 테스트되었다는 증명이 아닙니다.
- Infrastructure Cloud 문서는 VM 및 오케스트레이션 구성 요소를 제공합니다. 자체 컨테이너에 대해 드라이버/런타임 호환성과 네트워크 동작을 검증하십시오.
- CMK 또는 Slurm의 경우 노드 등록, 작업 제출, 스토리지 마운트, 장애 처리 및 다중 노드 통신을 테스트하십시오.
- 관리형 추론의 경우 엔드포인트 콜드 스타트, 처리량, 요청 한도, 모델 버전 롤아웃 및 롤백을 테스트하십시오.