Python 변환의 언어 모델 입력 클래스
palantir_models는 변환의 입력 선언에 사용하는 클래스와 실제 호출 클라이언트를 제공합니다. 입력 클래스에 모델 RID를 지정하면 변환 함수에 대응하는 클라이언트가 전달됩니다. 모델의 이름을 요청 객체에 넣는 방식과 구분해야 합니다.
입력 선언
다음 클래스는 palantir_models.transforms에서 가져옵니다. 모두 rid 인자를 받으며 해당 리소스에 접근할 권한이 필요합니다.
| 클래스 | 연결하는 API와 인자 |
|---|---|
| OpenAiGptChatLanguageModelInput(rid) | 언어 모델 서비스의 OpenAiGptChatLanguageModel API를 변환 입력에 연결합니다. rid는 언어 모델 리소스 식별자입니다. |
| GenericChatCompletionLanguageModelInput(rid) | 텍스트 대화의 공통 채팅 API에 연결합니다. 해당하는 경우 등록 모델의 전체 RID도 사용할 수 있습니다. |
| GenericCompletionLanguageModelInput(rid) | 언어 모델 서비스의 GenericCompletionLanguageModel API를 연결합니다. rid는 언어 모델 식별자입니다. |
| GenericEmbeddingModelInput(rid) | GenericEmbeddingsModel API를 연결합니다. rid는 임베딩 모델 식별자입니다. |
공통 채팅 예제에 실제 변환 입력 선언과 요청 구성이 있습니다.
호출 클라이언트
다음 클래스는 palantir_models.models에서 가져옵니다. completion 및 embedding 요청 객체는 language-model-service-api의 Python 타입을 사용합니다.
OpenAiGptChatLanguageModel
create_chat_completion(completion_request)는 OpenAI 형식의 채팅 요청을 실행합니다.
- 요청: language_model_service_api.languagemodelservice_api_completion_v3.GptChatCompletionRequest
- 반환: language_model_service_api.languagemodelservice_api_completion_v3.GptChatCompletionResponse
이 응답은 choices 목록을 사용하는 형식입니다.
GenericChatCompletionLanguageModel
create_chat_completion(completion_request)는 공통 텍스트 대화를 실행합니다.
- 요청: language_model_service_api.languagemodelservice_api_completion_v3.GenericChatCompletionRequest
- 반환: language_model_service_api.languagemodelservice_api_completion_v3.GenericChatCompletionResponse
응답 텍스트는 completion에서 읽습니다. 역할 순서, 생성 매개변수와 토큰 사용량의 의미는 공통 채팅 요청에 있습니다.
GenericCompletionLanguageModel
create_completion(completion_request)는 AIP에서 제공하는 모델의 일반 완료 요청을 실행합니다.
- 요청: language_model_service_api.languagemodelservice_api_completion_v3.GenericCompletionRequest
- 반환: language_model_service_api.languagemodelservice_api_completion_v3.GenericCompletionResponse
이 클라이언트의 create_completion과 앞의 create_chat_completion은 서로 다른 요청 타입을 받습니다.
GenericEmbeddingModel
create_embeddings(embeddings_request)는 요청에 포함한 모든 입력의 임베딩을 계산합니다.
- 요청: language_model_service_api.languagemodelservice_api_embeddings_v3.GenericEmbeddingsRequest
- 반환: language_model_service_api.languagemodelservice_api_embeddings_v3.GenericEmbeddingsResponse
일반 완료, 채팅과 임베딩은 각각의 입력 클래스 및 요청/응답 타입을 맞춰 사용합니다.