컨테이너 모델의 운영 제약

이미지와 취약점은 어디에서 관리하나요?

Foundry 관리자는 Control Panel에서 플랫폼에 푸시한 이미지를 확인하고 이미지에 있는 취약점을 조회하거나 사용을 회수할 수 있습니다.

온라인 및 배치 배포에 사용할 수 있나요?

컨테이너 기반 모델은 온라인 배포와 배치 배포에서 사용할 수 있습니다. 다만 아래의 컨테이너 로그 수집 범위는 배포 가능 범위와 다릅니다.

정해진 기본 이미지나 HTTP API가 있나요?

필수 표준 기본 이미지는 없습니다. 이미지 요구 조건을 만족해야 합니다. 표준 HTTP API도 없으며 어댑터가 이미지와 통신하는 방식을 정의합니다. 특정 포트의 서버에 POST 요청을 보내는 예제가 일반적인 연결 방식입니다.

크기 제한은 어떻게 적용되나요?

전체 이미지가 22 GB보다 크면 Docker push가 시간 초과되는 경우가 많습니다. 더 큰 이미지가 필요하면 Palantir 담당자에게 문의합니다. 전체 크기와 별도로 각 레이어도 약 10 GB 미만을 강력히 권장합니다.

Windows 컨테이너를 실행할 수 있나요?

실행할 수 없습니다. Foundry Kubernetes 클러스터는 Linux 노드를 사용하며 업로드 이미지는 linux/amd64로 빌드해야 합니다.

여러 이미지를 함께 사용할 수 있나요?

모델 버전에 여러 이미지를 포함할 수 있지만 오케스트레이션은 지원하지 않습니다. 실행 시 모든 컨테이너를 동시에 시작하므로 시작 순서를 보장할 수 없습니다.

모든 Foundry 환경에서 사용할 수 있나요?

사용자 제공 컨테이너 작업에는 Rubix 기반 인프라가 필요합니다. Control Panel에서도 컨테이너 워크플로를 활성화해야 합니다. 활성화하지 않으면 가져온 컨테이너에 의존하는 작업과 배포가 실패합니다.

컨테이너 텔레메트리를 어떻게 켜나요?

새 모델 버전 생성의 세 번째 단계에서 Enable telemetry를 켭니다. 이미지에는 /bin/sh 실행 파일이 있어야 하며 set과 tee 셸 명령을 지원해야 합니다.

컨테이너 로그는 Python 변환과 온라인 배포에서 수집할 수 있습니다. 배치 배포에서는 컨테이너 로그를 내보내지 않습니다.

이미지의 텔레메트리 조건을 어떻게 확인하나요?

MODEL_IMAGE에 검사할 이미지의 고정 태그 또는 다이제스트를 외부에서 지정한 뒤 다음 명령을 실행할 수 있습니다. 실제 컨테이너의 셸과 두 명령이 성공해야 Telemetry compatible을 출력합니다.

: "${MODEL_IMAGE:?Set the image name with a fixed tag or digest}"
docker run --entrypoint /bin/sh "$MODEL_IMAGE" -c 'set -a && tee -a' && echo "Telemetry compatible"

Python 모델 어댑터의 사용자 정의 로그 및 구간 추적은 모델 계측에서 설명합니다.