Live Deployment의 응답 구조
LiveDeployment는 현재 배포한 모델 버전, 실행 구성과 상태를 반환합니다. 직접 배포의 branch는 따라가는 모델 브랜치이고, modelVersion.modelVersionRid는 현재 배포한 구체적인 버전입니다.
상태는 ACTIVE, STARTING, DEGRADED, DISABLED, FAILED 중 하나입니다. 추론 준비 여부인 isReady도 함께 확인합니다. 복제본이 0으로 자동 축소되면 ACTIVE 상태에서도 준비되지 않을 수 있습니다.
반환된 LiveDeployment입니다.
| 이름 | 자료형 | 필수 여부 | 의미와 조건 | 예시 값 |
|---|---|---|---|---|
rid | string | 필수 | Live Deployment의 RID입니다. | ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9 |
modelVersion | object | 필수 | 현재 배포한 모델 버전입니다. | 응답 예시 참조 |
branch | string | 선택 | 배포가 따라가는 모델 브랜치입니다. 브랜치의 최신 버전을 따르는 직접 배포에는 있고 브랜치 범위가 아닌 유형에는 없습니다. | master |
runtimeConfiguration | object | 필수 | 배포의 연산 자원 구성입니다. | 응답 예시 참조 |
status | object | 필수 | 배포의 현재 운영 상태입니다. | 응답 예시 참조 |
modelVersion의 구조
| 이름 | 자료형 | 필수 여부 | 의미와 조건 | 예시 값 |
|---|---|---|---|---|
modelRid | string | 필수 | 모델의 RID입니다. | ri.models.main.model.f351c142-0e4c-4b12-adc2-6e1539737ae9 |
modelVersionRid | string | 필수 | 모델 버전의 RID입니다. | ri.models.main.model-version.adf94926-c3ac-41ea-beb2-4946699d08ee |
runtimeConfiguration의 구조
자원, 자동 확장과 연결 소스의 전체 필드는 실행 구성을 따릅니다.
status의 구조
| 이름 | 자료형 | 필수 여부 | 의미와 조건 | 예시 값 |
|---|---|---|---|---|
state | enum | 필수 | 배포의 현재 상태입니다. 허용값: ACTIVE, STARTING, DEGRADED, DISABLED, FAILED. | ACTIVE |
isReady | boolean | 필수 | 추론 요청을 처리할 준비가 되었는지 나타냅니다. 복제본 수가 0으로 자동 축소되면 ACTIVE 상태여도 준비되지 않을 수 있습니다. |
응답 예시
추론 요청을 처리할 준비가 된 배포의 응답 예시입니다.
{
"runtimeConfiguration": {
"minReplicas": 1,
"maxReplicas": 3,
"cpu": 1.0,
"memory": "256MiB",
"threadCount": 32,
"environmentVariables": {
"LOG_LEVEL": "INFO"
}
},
"modelVersion": {
"modelRid": "ri.models.main.model.f351c142-0e4c-4b12-adc2-6e1539737ae9",
"modelVersionRid": "ri.models.main.model-version.adf94926-c3ac-41ea-beb2-4946699d08ee"
},
"rid": "ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9",
"branch": "master",
"status": {
"state": "ACTIVE",
"isReady": true
}
}