컨테이너 기반 모델

컨테이너 이미지와 모델 어댑터를 함께 묶어 Foundry 모델을 만들 수 있습니다. 이미 컨테이너로 배포한 모델, 크기가 큰 사전 학습 모델 또는 Foundry에서 직접 실행하지 않는 언어의 모델을 연결할 때 사용합니다. 예를 들어 R로 작성한 실행 환경도 이미지 안에 둘 수 있습니다.

컨테이너 모델을 사용하려면 Rubix 기반 실행 인프라와 Control Panel의 컨테이너 사용 설정이 필요합니다. 이 설정을 켜지 않으면 가져온 컨테이너에 의존하는 Foundry 작업과 배포가 실패합니다. 관리자는 Control Panel에서 업로드한 이미지와 취약점을 관리하고 취약 이미지의 사용을 회수할 수 있습니다.

작성 순서

모델 리소스와 이미지 업로드에서 권한을 가진 모델을 만든 뒤 이미지를 푸시하고 실행 설정 및 어댑터를 선택하여 모델 버전을 생성합니다. 어댑터 예제는 컨테이너의 HTTP 서비스와 표 입력 및 출력을 연결합니다.

운영 제약에는 이미지 크기, 다중 컨테이너의 시작 순서와 텔레메트리 조건이 있습니다. 컨테이너 이미지, 태그와 레지스트리 개념을 이해하고 진행해야 합니다.