제공 방식과 운영 경계
Runpod은 지속적 또는 대화형 GPU 워크로드용 GPU Pod와 요청 기반 워커 배포용 Serverless 엔드포인트를 제공합니다. 문서에서 이 제품들을 구분하며 API와 템플릿을 제공합니다.
Pod는 사용자가 구성하는 프로비저닝된 컴퓨팅 환경이고, Serverless 엔드포인트는 워커 수명 주기와 요청 처리를 추가합니다. 프로덕션 설계를 매핑하기 전에 스토리지 지속성, 워커 확장 동작 및 서비스 등급을 확인하십시오.
Computraq는 출시 전 단계입니다. 여기서 이 공급자의 이름을 언급한다고 해서 Computraq가 해당 공급자에서 워크로드를 호스팅하거나, 통합을 테스트했거나, 상업적 관계를 맺고 있다는 의미는 아닙니다.
구매자 및 조달 준비
이 질문들을 사용하여 비교 가능한 워크로드별 평가를 준비하십시오. 제품 이름은 공급자가 공개한 제공 항목을 설명하며, 특정 계정에서의 가용성을 확립하지는 않습니다.
- 직접적인 환경 제어가 필요하면 Pod를, 요청이 관리형 워커를 트리거해야 하면 Serverless 엔드포인트를 선택하십시오. 지속성과 가용성 요구 사항을 비교하십시오.
- 현재 하드웨어/리전 제공 항목을 확인하고 날짜가 기재된 견적 또는 콘솔 추정치에서 컴퓨팅, 스토리지, 네트워킹 및 엔드포인트 비용을 분리하십시오.
- 민감한 워크로드의 경우 보안 제어, 접근 범위, 데이터 보존 및 선택한 제품에 대한 공급자의 약관을 검토하십시오.
개발자 및 운영자 증거
용량을 선택하기 전에 모델과 리비전, 입력 형태, 런타임, GPU 구성, 동시성, 목표 지연 시간 또는 작업 완료, 복구 기대치를 기록하는 소규모 승인 계획을 작성하십시오. 공급자 문서는 제품 설계의 증거이지 이 워크로드가 테스트되었다는 증명이 아닙니다.
- 컨테이너 이미지와 종속성을 고정하고 시작, 볼륨 마운트, 시크릿, 엔드포인트 인증, 요청 한도 및 워커 동시성을 테스트하십시오.
- Serverless의 경우 현실적인 페이로드로 콜드 스타트와 웜 워커 동작을 측정하고 재시도/멱등성 처리를 문서화하십시오.
- 내구성 있는 데이터셋과 모델 아티팩트는 일시적인 컨테이너 디스크에 의존하지 말고 명시적으로 관리되는 스토리지에 보관하십시오.