챗봇 도구와 호출 방식
도구는 LLM이 외부 기능을 호출하여 정보를 조회하거나 변경을 수행하게 합니다. 모델이 실행 순서와 입력을 정해야 하는 작업에 사용할 수 있습니다.
도구 종류
| 도구 | 동작과 조건 |
|---|---|
| Action | 온톨로지 편집을 실행합니다. 자동 실행 또는 사용자 확인 후 실행하도록 구성합니다. |
| Object query | 접근 가능한 객체 유형과 속성을 지정합니다. 필터, 집계, 객체 조사와 구성한 링크 탐색을 지원합니다. 필요한 속성만 제공하면 토큰을 줄일 수 있습니다. |
| Function | 게시된 AIP Logic 함수를 포함한 Foundry 함수를 호출합니다. 기본적으로 최신 버전을 사용하며 특정 게시 버전으로 고정할 수 있습니다. |
| Update application variable | 애플리케이션 상태에 구성한 변수 값을 갱신합니다. |
| Command | 하나 이상의 명령으로 다른 Palantir 앱의 동작을 실행합니다. |
| Request clarification | 실행을 멈추고 사용자에게 필요한 정보를 요청합니다. |
| Ontology semantic search (Legacy) | 벡터 속성으로 관련 온톨로지 문맥을 검색합니다. 인용과 입출력 변수를 지원하지 않으며 결과 객체 집합을 LLM에 반환하지 않습니다. 새 구성에는 온톨로지 검색 문맥이 권장됩니다. |
Legacy 도구도 남아 있는 기능이므로 기존 구성을 이해할 때 위 제한을 적용해야 합니다.
호출 모드
Prompted tool calling은 프롬프트에 도구 사용 지시를 넣습니다. 모든 도구 유형과 사용 가능한 모델을 지원하지만 한 번에 도구 하나만 호출할 수 있어 여러 단계 질문은 오래 걸릴 수 있습니다.
Native tool calling은 지원 모델의 자체 도구 API를 사용합니다. 토큰 효율과 병렬 호출을 통해 더 빠르게 처리할 수 있습니다. 현재 일부 Palantir 제공 모델과 Action, Object query, Function, Update application variable만 지원합니다. 필요한 모델이나 도구가 지원되지 않으면 Prompted 모드를 사용합니다.
실행 과정 조사
편집 모드, View 모드, Workshop 또는 AIP Threads의 응답 아래 View reasoning을 선택하면 응답을 생성한 실행 과정을 살펴볼 수 있습니다. 도구 입력, 출력과 사용자에게 제공된 결과를 연결하여 조사합니다.