온라인 배포 실행 구성 교체(Replace Live Deployment) (V2)

Live Deployment의 실행 구성을 바꾸며 실행 중인 복제본에 새 구성을 적용합니다. 교체 후 사용할 runtimeConfiguration을 준비합니다.

연결 소스 목록은 배포가 비활성화된 상태에서만 바꿀 수 있습니다. 소스를 변경하려면 비활성화 후 상태를 확인하고 구성 교체를 진행합니다. 각 소스는 프로젝트, 보안 표지의 내보내기와 Compute Modules 사용 조건을 충족해야 합니다.

이 엔드포인트는 미리보기 기능이며 언제든 변경되거나 제거될 수 있습니다. 사용하려면 preview=true를 지정합니다.

HTTP 요청

PUT /api/v2/models/liveDeployments/{liveDeploymentRid}

작업 식별자는 v2.replaceLiveDeployment입니다. OAuth2로 호출하는 타사 애플리케이션에는 api:models-write 권한 범위가 필요합니다. 각 요청에 Authorization: Bearer <접근 토큰>을 전달합니다.

경로 매개변수

쿼리 매개변수

요청 본문

본문 형식은 ReplaceLiveDeploymentRequest이며 필수입니다.

runtimeConfiguration의 구조

복제본, 자원, 자동 확장과 연결 소스의 모든 필드는 실행 구성을 따릅니다.

요청 본문 예시입니다.

{
  "runtimeConfiguration": {
    "minReplicas": 1,
    "maxReplicas": 3,
    "cpu": 1.0,
    "memory": "256MiB",
    "threadCount": 32,
    "environmentVariables": {
      "LOG_LEVEL": "INFO"
    }
  }
}

응답

응답 형식은 LiveDeployment입니다.

구성을 바꾼 LiveDeployment입니다.

전체 모델 버전, 실행 구성과 상태 필드는 배포 응답 구조를 따릅니다.

실행 구성을 바꾼 배포의 응답 예시입니다.

{
  "runtimeConfiguration": {
    "minReplicas": 1,
    "maxReplicas": 3,
    "cpu": 1.0,
    "memory": "256MiB",
    "threadCount": 32,
    "environmentVariables": {
      "LOG_LEVEL": "INFO"
    }
  },
  "modelVersion": {
    "modelRid": "ri.models.main.model.f351c142-0e4c-4b12-adc2-6e1539737ae9",
    "modelVersionRid": "ri.models.main.model-version.adf94926-c3ac-41ea-beb2-4946699d08ee"
  },
  "rid": "ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9",
  "branch": "master",
  "status": {
    "state": "ACTIVE",
    "isReady": true
  }
}

개별 오류

요청 예제

FOUNDRY_HOST에는 https://를 제외한 Foundry 호스트를, FOUNDRY_TOKEN에는 유효한 토큰을 환경 변수로 제공합니다. 예시 식별자와 매개변수 값은 실제 작업 대상에 맞게 바꿉니다.

배포의 자원 설정을 바꾸는 예제입니다. 현재 사용 중인 설정과 교체할 값을 확인합니다. 연결 소스를 바꾸는 요청이면 먼저 배포를 비활성화합니다.

cURL

curl -X PUT \
	-H "Content-type: application/json" \
	-H "Authorization: Bearer ${FOUNDRY_TOKEN}" \
	"https://${FOUNDRY_HOST}/api/v2/models/liveDeployments/ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9?preview=true" \
	-d '{"runtimeConfiguration":{"minReplicas":1,"maxReplicas":3,"cpu":1.0,"memory":"256MiB","threadCount":32,"environmentVariables":{"LOG_LEVEL":"INFO"}}}'

Python

Requests 라이브러리가 설치된 Python 환경에서 사용합니다.

import os
import requests

HOSTNAME = os.environ["FOUNDRY_HOST"]
TOKEN = os.environ["FOUNDRY_TOKEN"]
headers = {
    "content-type": "application/json",
    "authorization": "Bearer {}".format(TOKEN)
}
request_body = {
    "runtimeConfiguration": {
        "minReplicas": 1,
        "maxReplicas": 3,
        "cpu": 1,
        "memory": "256MiB",
        "threadCount": 32,
        "environmentVariables": {
            "LOG_LEVEL": "INFO"
        }
    }
}

response = requests.put('https://{}/api/v2/models/liveDeployments/ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9?preview=true'.format(HOSTNAME), headers=headers, json=request_body)
print(response)

Java

Apache HttpClient 4.5 API와 try-with-resources를 사용합니다. 클래스 이름에 맞는 ReplaceLiveDeploymentExample.java 파일에서 사용합니다.

import org.apache.http.client.methods.CloseableHttpResponse;
import org.apache.http.client.methods.HttpPut;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClientBuilder;
import org.apache.http.entity.ContentType;
import org.apache.http.entity.StringEntity;

public class ReplaceLiveDeploymentExample {
    public static void main(String[] args) throws Exception {
        String HOSTNAME = System.getenv("FOUNDRY_HOST");
        String TOKEN = System.getenv("FOUNDRY_TOKEN");

        try (CloseableHttpClient httpClient = HttpClientBuilder.create().build()) {
            HttpPut request = new HttpPut("https://" + HOSTNAME + "/api/v2/models/liveDeployments/ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9?preview=true");
            request.addHeader("content-type", "application/json");
            request.addHeader("authorization", String.format("Bearer %s", TOKEN));
            request.setEntity(new StringEntity("{\"runtimeConfiguration\":{\"minReplicas\":1,\"maxReplicas\":3,\"cpu\":1.0,\"memory\":\"256MiB\",\"threadCount\":32,\"environmentVariables\":{\"LOG_LEVEL\":\"INFO\"}}}", ContentType.APPLICATION_JSON));
            try (CloseableHttpResponse response = httpClient.execute(request)) {
                System.out.println(response);
            }
        }
    }
}

JavaScript

fetch를 제공하는 Node.js 환경에서 사용합니다. 서비스 사용자 토큰을 브라우저로 전달하지 않습니다.

const HOSTNAME = process.env.FOUNDRY_HOST;
const TOKEN = process.env.FOUNDRY_TOKEN;

fetch(`https://${HOSTNAME}/api/v2/models/liveDeployments/ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9?preview=true`, {
    method: 'PUT',
    headers: {
        'Content-Type': 'application/json',
        'Authorization': `Bearer ${TOKEN}`,
    },
    body: '{"runtimeConfiguration":{"minReplicas":1,"maxReplicas":3,"cpu":1.0,"memory":"256MiB","threadCount":32,"environmentVariables":{"LOG_LEVEL":"INFO"}}}'
}).then((response) => {
    console.log(response)
});

PowerShell

$ErrorActionPreference = 'Stop'
$TOKEN = $env:FOUNDRY_TOKEN
$HOSTNAME = $env:FOUNDRY_HOST

$headers = @{
    "authorization" = "Bearer $TOKEN"
}

$response = Invoke-WebRequest -Uri "https://$HOSTNAME/api/v2/models/liveDeployments/ri.foundry-ml-live.main.live-deployment.f351c142-0e4c-4b12-adc2-6e1539737ae9?preview=true" `
	-Method Put `
	-Headers $headers `
	-ContentType application/json `
	-Body "{`"runtimeConfiguration`":{`"minReplicas`":1,`"maxReplicas`":3,`"cpu`":1.0,`"memory`":`"256MiB`",`"threadCount`":32,`"environmentVariables`":{`"LOG_LEVEL`":`"INFO`"}}}"

$response.content