REST API 소스로 모델 등록하기
표준 제공자 API를 가진 외부 모델이나 고객 계정은 Data Connection의 REST API 소스로 AIP에 연결할 수 있습니다. 등록하려면 플랫폼 인스턴스 관리자(Enrollment administrator)여야 하며, 사용할 소스에 Owner 또는 Editor 권한이 있어야 합니다.
REST API 소스 생성
- Data Connection → New source → REST API를 선택합니다.
- Name과 Source location을 지정합니다. 등록 관리자가 소스의
Owner또는Editor권한을 유지할 수 있는 위치를 사용합니다. - 모델 제공자의 Domain base URL, Authentication, Port를 구성합니다.
- Export configuration에서 다음 두 항목을 활성화합니다.
- Enable exports to this source
- Enable exports to this source without markings validations
- REST API 소스 구성을 완료합니다.
두 번째 항목은 소스 내보내기의 보안 표지 검증 없이 데이터를 내보내도록 허용합니다. 모델에 전송할 수 있는 데이터의 범위는 등록 모델에 적용되는 Data access 정책에서 확인해야 합니다.
Control Panel에서 등록
- Control Panel → AIP settings → Registered models를 엽니다.
- Register a model을 선택합니다.
- Source configuration → Select source rid에서 REST API 소스의 RID를 선택합니다.
- Configure source API, Model API configuration에 모델 제공자 이름, 모델 이름과 API 엔드포인트 경로 등 연결 정보를 입력합니다.
- 엔드포인트별 모델 기능을 지정합니다.
- 필요한 경우 Data access 정책을 설정합니다.
- 인스턴스와 사용자별 처리량 한도를 설정합니다.
- AIP settings로 돌아가 인스턴스 전체 또는 특정 사용자 그룹에 등록 모델 접근을 활성화합니다.
기능 선언
선언한 기능은 모델을 사용할 수 있는 AIP 기능을 결정합니다. Reasoning, Structured outputs, Tool calling을 지원하고 해당 기능을 활성화하면 AI FDE와 AIP Analyst에서 사용할 수 있습니다.
모델과 엔드포인트가 실제로 지원하는 기능만 선언합니다.
데이터 접근 정책
Data access는 선택 사항입니다. 설정하지 않으면 플랫폼 인스턴스 정책을 사용하고, 모델별 정책을 지정하면 그 정책이 인스턴스 정책을 완전히 대체합니다. 구체적인 표지 검사 방식은 LLM 데이터 접근 정책을 따릅니다.
처리량 한도
| 한도 | 역할 |
|---|---|
| Enrollment rate limits | 인스턴스가 사용할 수 있는 분당 요청 수와 토큰 수의 기준. 프로젝트 한도는 이 값의 비율로 계산 |
| User rate limits | AI FDE, AIP Analyst 등 사용자 귀속 요청의 사용자별 한도 |
이 값을 설정해야 Resource Management의 용량 관리와 사용량 관측 기능을 사용할 수 있습니다.
사용
등록하고 접근을 활성화한 모델은 지원되는 AIP 애플리케이션 모델 선택기의 Registered models 탭에 표시됩니다. 사용 범위는 등록 모델의 활성화 설정으로 관리하며, 사용자에게 기반 소스의 권한을 따로 부여할 필요는 없습니다.
지원되는 애플리케이션과 지원하지 않는 내장 보조 기능은 자체 모델 연결의 지원 범위에서 구분합니다.