AIP의 운영 AI 아키텍처
AIP는 생성형 AI를 업무 데이터와 실행 과정에 연결합니다. Foundry와 서비스 기반을 공유하고 Apollo가 전달 및 갱신을 관리하며 Rubix에서 실행합니다. 모델 연결부터 문맥 구성, 에이전트 개발, 운영 평가와 제품 배포까지 이어지는 구조입니다.
AIP의 제공 기능은 고객과 플랫폼 인스턴스에 따라 달라질 수 있습니다. 모델 접근과 도구 사용 권한을 구성한 뒤 필요한 개발 및 운영 경로를 선택합니다.
1. LLM 연결과 접근
GPT, Gemini, Claude와 Grok 같은 상용 모델 및 Llama 같은 개방형 모델을 연결합니다. Palantir가 관리하는 모델 제공 경로는 전송 데이터를 외부 제공자가 보관하거나 재학습에 사용하지 않도록 구성합니다. 기존 모델 구독, 미세 조정 모델과 분야별 모델을 등록하는 경로도 지원합니다.
모델 종류와 제공 경로에 맞춰 접근 조건, 사용 정책과 용량을 관리합니다.
2. 전체 실행의 관측
온톨로지에 데이터를 공급하는 흐름, 사람 및 에이전트의 액션과 연쇄 호출을 관측합니다. 실행 로그와 추적 정보는 어느 단계에서 오류나 지연이 생겼는지 조사하는 데 사용합니다. 토큰 소비를 비롯한 리소스 사용량도 관측 대상입니다.
3. 문맥 구성
화면 중심 또는 코드 중심 도구로 AI가 사용할 데이터, 로직과 액션을 연결합니다. 배치, 스트리밍과 CDC에 의한 실시간 복제를 업무에 맞춰 선택하고 Spark, Flink, DataFusion 및 Polars 같은 엔진을 사용합니다. 이 과정에서 보안, 거버넌스와 출처를 유지합니다.
4. 온톨로지 시스템
온톨로지 언어는 업무 대상과 동작을 사람 및 에이전트가 사용할 수 있는 형태로 정의합니다. 엔진은 수십억 객체를 다루는 조회와 수만 액션의 조율 및 지속적인 피드백 반영을 포괄합니다. 도구 체계는 같은 기반 위에서 여러 종류의 AI 앱을 만들도록 지원합니다. 개별 API 요청의 한도는 별도 인터페이스 계약을 따릅니다.
5. 벡터, 연산과 도구 서비스
벡터화 서비스는 임베딩의 생성과 관리를 제공합니다. 연산에는 Spark 및 Flink 같은 다중 노드 엔진, DuckDB 및 Polars 같은 단일 노드 엔진과 자체 컨테이너 런타임을 사용할 수 있습니다. 온톨로지에 연결한 도구를 조합하고 모델 및 인터페이스가 바뀌어도 필요한 부분을 확장할 수 있도록 구성합니다.
6. 보안과 거버넌스
사람과 에이전트의 작업에 역할, 마킹과 목적 기반 제어를 적용합니다. 인프라, 플랫폼과 기업의 통제가 함께 작동하며, 접근 상태를 조회하고 감사 로그로 확인할 수 있습니다. 화면을 통한 작업과 API 및 SDK를 통한 작업에도 해당 권한 체계를 적용합니다.
7. 에이전트 수명주기
에이전트의 제작, 실행 조율과 평가를 연결합니다. AIP Logic 같은 화면 중심 도구와 Code Workspaces 같은 코드 환경에서 지속적인 실행을 구성할 수 있습니다. AIP Evals에서는 테스트 사례를 만들고 에이전트 정의를 수정하며 모델별 성능과 실행 간 변동을 비교합니다.
8. 업무 자동화
일정에 따른 실행, 스트리밍을 처리하는 준실시간 이벤트 실행과 API로 시작하는 실행을 지원합니다. 각 방식은 온톨로지의 데이터, 로직과 액션을 사용하며 실행 및 알림 조건을 함께 구성합니다.
9. 개발 환경
VS Code와 JupyterLab 등의 통합 환경에서 온톨로지 앱, 테스트 및 평가 도구를 연결할 수 있습니다. Platform SDK, OSDK와 Palantir VS Code 확장을 사용하면 기존 개발 환경에서도 플랫폼 기능에 접근합니다. Palantir MCP는 외부 AI 개발 도구의 문맥 조회와 온톨로지 제작을 연결합니다.
10. 사람과 AI의 업무 애플리케이션
업무 담당자, 준법팀, 엔지니어와 분석가는 객체 기반 분석, 실시간 앱, 멀티모달 검토와 플랫폼 관리 기능을 사용합니다. 제공된 앱을 쓰거나 필요한 앱을 새로 만들 수 있습니다. AI가 보조하는 단계와 자동 실행하는 단계를 정하고 그 영향을 관찰합니다.
11. 패키징, 릴리스와 배포
데이터 파이프라인, 온톨로지 정의, 자동화와 애플리케이션을 하나의 AI 제품으로 패키징할 수 있습니다. 서로 다른 대상 환경에 배포하고, 설치 환경에서 허용할 맞춤화 범위를 지정합니다. 변경을 검토해 릴리스 채널로 승격하면 하위 설치본이 갱신을 받을 수 있습니다.
12. 기업 업무의 제작 자동화
AI FDE와 AIP Analyst 같은 특화 에이전트는 데이터 파이프라인, 업무 로직, 모델, 온톨로지, 분석과 애플리케이션을 만드는 데 사용합니다. 이 에이전트도 사람이 사용하는 Global Branching 등의 변경 관리 체계를 따릅니다. 검토가 필요한 단계에서는 사람이 참여하고, 허용된 범위에서는 자동 실행하도록 구성합니다.
이 기능을 실제 업무에 조합할 때는 데이터, 로직과 액션의 연결 및 온톨로지의 실행 구조를 함께 고려합니다.