AIP 애플리케이션과 플랫폼 내 AI 기능
AIP는 언어 모델을 사용하는 업무 흐름, 챗봇과 애플리케이션을 만들 수 있도록 Foundry의 데이터와 온톨로지 기능에 연결됩니다. 전용 AI 도구를 사용할 수도 있고, Pipeline Builder나 Workshop 같은 애플리케이션 안에서 AI 기능을 사용할 수도 있습니다.
기능에 사용할 LLM은 플랫폼이 지원하는 모델 가운데 선택합니다. 사용할 수 있는 기능과 모델은 플랫폼 설정과 사용자의 권한에 따라 달라집니다. 관리자는 Control Panel의 AIP settings에서 관련 기능의 사용을 관리할 수 있습니다.
AI 기능을 구성하는 여러 경로
| 구성 경로 | 활용 방식 |
|---|---|
| AIP Chatbot Studio | 조직의 문맥과 도구를 사용하는 대화형 챗봇 제작 |
| AIP Logic | 블록을 연결하여 LLM 기반 함수 구성 |
| Pipeline Builder | 데이터 처리 파이프라인에 LLM 호출과 임베딩 등의 기능 추가 |
| Workshop | 업무 화면에 챗봇과 AI 기능을 연결 |
| Functions와 Transforms | 코드에서 언어 모델을 사용 |
| Code Workspaces | Jupyter 등의 작업 환경에서 모델을 활용 |
| 자체 모델 연결 | 조직의 모델이나 모델 제공자 연결을 사용 |
모델을 호출하는 위치가 달라도 입력 데이터와 실행 권한, 결과를 어디에 사용할지는 함께 정해야 합니다. 모델의 결과를 화면에 보여 주는 것과 그 결과로 온톨로지 변경을 제출하는 것은 다른 작업입니다.
전용 AIP 애플리케이션
| 애플리케이션 | 기능과 용도 |
|---|---|
| AIP Assist | 현재 작업 중인 플랫폼 애플리케이션에 맞춰 자연어로 사용 도움을 제공한다. 여러 언어로 질문할 수 있다. |
| AIP Logic | 화면에서 블록과 프롬프트를 구성하여 AI 함수를 만들고 시험하며 게시한다. 정형 및 비정형 온톨로지 데이터를 처리하고 자동화에 연결할 수 있다. |
| AIP Chatbot Studio | 기업의 데이터와 도구를 활용하는 대화형 챗봇을 만든다. 조회, 온톨로지 변경과 다른 업무 기능을 대화에 연결할 수 있다. |
| AIP Evals | 평가 사례와 기준을 구성하여 함수 및 프롬프트를 개선하고, 모델과 실행 간 차이를 비교한다. |
| AIP Threads | 문서나 기존 리소스 및 챗봇을 선택해 자연어로 질문하고 임시 분석과 작업을 수행한다. |
| Palantir MCP | 외부 AI 개발 도구에 온톨로지와 플랫폼 도구의 맥락을 제공하여 개발 작업을 지원한다. |
AIP Threads에서는 문서를 끌어 놓거나 사용할 리소스와 챗봇을 선택한 뒤 요청을 입력할 수 있습니다. 챗봇 자체의 동작과 도구를 새로 정의하려면 AIP Chatbot Studio를 사용합니다. AI 로직을 다른 기능에서 호출할 함수로 구성하려면 AIP Logic이 적합한 선택이 될 수 있습니다.
자세한 구성 개념은 AIP Logic, AIP 챗봇, AIP Evals에서 설명합니다.
개발 도구와 AIP 연결
Ontology SDK(OSDK)를 사용하면 Python, Java나 TypeScript 등의 애플리케이션에서 온톨로지 데이터와 액션 및 함수를 활용할 수 있습니다. AIP Logic 함수도 애플리케이션의 처리 과정에 연결할 수 있습니다.
Palantir MCP는 온톨로지와 개발 기능에 관한 정보를 외부 AI 개발 도구에 제공하여 애플리케이션 개발을 지원합니다. 연결 후에도 데이터 조회와 변경에 필요한 권한을 충족해야 합니다.
모델 통합 기능으로 자체 대규모 언어 모델을 연결하고 업무를 구성할 수도 있습니다. 모델의 제공 방식과 플랫폼 안의 데이터 및 기능을 연결하는 방식은 각각 설정합니다.
AIP Assist 사이드바
플랫폼 애플리케이션을 사용하는 중에 작업 공간의 탐색 막대에서 AIP Assist를 열 수 있습니다. 현재 활성화된 애플리케이션이 답변의 맥락에 반영될 수 있으므로, 어느 기능을 사용하고 있는지에 맞춘 도움을 받을 수 있습니다.
플랫폼에 대한 사용 도움을 받는 기능과 업무 데이터를 대상으로 직접 AI 로직을 실행하는 기능은 구분됩니다. Pipeline Builder에서 데이터에 모델을 실행하거나 AIP Logic에서 함수를 구성하는 작업은 별도의 입력과 권한 및 실행 구성을 사용합니다.
Pipeline Builder에서 LLM을 데이터에 적용하기
Use LLM 노드
Use LLM 노드는 입력 데이터에 언어 모델을 적용하는 처리 단계입니다. 프롬프트를 구성하고 모델에 전달할 값을 지정하여 데이터 규모에 맞게 LLM 처리를 실행할 수 있습니다.
전체 데이터셋에 실행하기 전에 일부 행으로 시험 실행(trial run)을 할 수 있습니다. 작은 입력을 사용해 프롬프트와 반환 결과를 살펴보고 필요한 부분을 조정합니다.
전체 데이터셋에서 나타날 수 있는 입력의 변형과 경계 조건을 고려하여 프롬프트를 구성해야 합니다.
Text to embeddings
Text to embeddings 표현식은 지원되는 임베딩 모델을 사용하여 텍스트를 의미 기반 벡터로 변환합니다. 생성한 벡터는 텍스트 사이의 의미 유사성을 비교하거나 검색과 분석에 사용할 수 있습니다.
필요한 출력이 벡터인지, 구조화된 값인지, 자연어 답변인지에 따라 처리 단계를 선택합니다.
파이프라인 작성 도움
| 기능 | 용도 |
|---|---|
Explain | 파이프라인의 단계와 관계를 이해하고 이름이나 설명을 정하는 데 도움 |
Regex Helper | 필요한 조건에 맞는 정규식 작성 지원 |
Transform Assist | 정규식 생성 및 편집, 문자열을 특정 타임스탬프 형식으로 변환하는 작업 지원 |
작성 도움으로 제안받은 로직이 실제 데이터와 의도한 변환 조건에 맞는지 확인해야 합니다.
Automate와 Logic 함수 연결
Automate는 조건을 감시하고 조건을 충족하면 효과를 실행합니다. AIP Logic과 연결하면 Logic 파일에서 자동화를 구성하고, 온톨로지 편집을 바로 적용하거나 사람의 검토를 위해 적용 대기 상태로 준비할 수 있습니다.
사람의 검토를 거치도록 설정한 워크플로에서는 조건이 충족되어도 제안된 변경과 처리 로직을 검토하고 승인해야 온톨로지 변경이 적용됩니다.
Notepad의 AI 편집 기능
Notepad에서는 LLM을 사용하여 텍스트의 철자를 확인하고, 내용을 줄이거나 수정하고, 다른 언어로 번역할 수 있습니다. 이러한 편집은 기존 문서의 서식을 유지하면서 텍스트를 다루는 데 사용합니다.
Notepad의 AI 편집은 문서 텍스트를 수정하며, 연결된 데이터셋이나 온톨로지 객체의 값은 변경하지 않습니다.
Scheduler의 시간 조건 구성
Scheduler에서는 데이터셋 빌드 스케줄을 만들 때 자연어로 시간 조건을 설명하여 스케줄 구성을 생성할 수 있습니다. New schedule view 사이드 패널에 트리거 조건을 입력하면 복잡한 시간 조건에 맞는 cron 형식을 구성하는 데 도움을 받을 수 있습니다.
생성된 시간 표현이 운영에 필요한 시간대와 실행 조건에 맞는지 확인한 뒤, 스케줄을 저장하여 실행에 사용합니다.
사용 범위 관리
AIP 기능은 전용 앱과 여러 기존 애플리케이션에 걸쳐 제공됩니다. 관리자는 AIP 설정에서 사용 범위를 관리하고, 제작자는 자신의 업무에서 사용할 모델과 데이터 및 도구를 구성합니다.
기능을 사용할 권한과 실행 중 읽거나 변경할 데이터 및 액션의 접근 조건을 각각 확인하고 구성해야 합니다.