Compute Module 사용량 계산
Compute Module의 사용량은 해당 모듈에 귀속됩니다. 복제본이 시작 중이거나 실행 중인 동안 compute-seconds를 소비하며, 그런 복제본이 없으면 모듈 실행 사용량이 발생하지 않습니다.
요청이 없어도 최소 복제본이나 예측 확장 때문에 실행 중일 수 있으므로 쿼리 수만으로 사용량을 계산할 수 없습니다.
계산 요소
복제본 하나에는 여러 컨테이너가 들어갈 수 있습니다. 복제본당 vCPU, GiB 단위 메모리, GPU 수와 실행 복제본 수 및 시간으로 사용량을 계산합니다. 동적으로 바뀌는 복제본들은 같은 자원 구성을 사용합니다.
기본 사용 계수는 다음과 같습니다. 이는 통화 가격이 아니라 compute-second 계산의 계수이며 별도 기업 계약이 있으면 Palantir 담당자에게 계약 조건을 먼저 확인합니다.
| 자원 | 기본 계수 |
|---|---|
| vCPU | 0.2 |
| T4 GPU | 1.2 |
| V100 GPU | 3 |
| A100 GPU | 1.3 |
| A10G GPU | 1.5 |
| L4 GPU | 2.1 |
| H100 GPU | 4.7 |
vcpu_compute_seconds = max(vCPUs_per_replica, GiB_RAM_per_replica / 7.5)
× num_replicas × vcpu_usage_rate × time_active_in_seconds
gpu_compute_seconds = GPUs_per_replica × num_replicas
× gpu_usage_rate × time_active_in_seconds
가상 계산에서 복제본당 1 vCPU와 4 GiB, GPU 0개, 복제본 4개가 60초 실행되고 기본 vCPU 계수가 0.2이면 vCPU 항은 48 compute-seconds입니다. GPU 항은 0입니다. 실제 구성과 복제본 수가 시간에 따라 바뀌면 각 기간을 나눠 계산합니다.
확장 설정의 영향
Configure의 최소 및 최대 복제본 범위 안에서 자동 확장할 수 있습니다.
최소를 0보다 크게 두면 사용하지 않는 시간에도 비용이 생깁니다. 최소가 0이어도 요청 도착, 첫 배포 또는 과거 부하에 따른 예측으로 0에서 다시 늘 수 있습니다. 예측이 틀리면 비교적 빨리 줄일 수 있지만 실제 확장 이력을 확인하여 설정을 조정해야 합니다.
동시성 한도가 낮으면 같은 부하에서 더 많은 복제본이 필요할 수 있습니다. 확장 임계값 및 지연을 함께 확인합니다.
자원 요청과 제한
컨테이너별 CPU, 메모리와 GPU 요청 및 제한을 복제본 구성에 지정할 수 있습니다.
설정하지 않으면 기본은 1 vCPU, 4 GB 메모리와 GPU 없음입니다. 네 복제본이면 기본 요청 규모는 4 vCPU와 16 GB입니다. 제한이 없는 실제 사용량은 요청 부하에 따라 다를 수 있으므로 기본 요청을 실제 측정 사용량과 동일하게 간주하지 않습니다.
이력에서 복제본별 로그 및 지표를 보고 언제 실행되었는지 확인할 수 있습니다.