AIP 보안과 개인정보 보호
AIP에는 Foundry의 접근 제어, 암호화, 감사, 데이터 계보 및 거버넌스 기능이 적용됩니다. LLM을 업무에 연결할 때도 데이터 접근 권한, 모델에 보낼 수 있는 데이터, 모델 제공자의 처리 조건을 함께 관리해야 합니다.
모델 처리와 지역
AIP는 Palantir 플랫폼 안에서 타사 모델 서비스를 사용할 수 있도록 제공합니다. 일부 모델에는 미국, 영국, 유럽연합의 지역별 엔드포인트가 제공되며, 가능한 경우 지역별 처리를 지원합니다. 실제 사용할 수 있는 지역과 모델 조합에는 기술 및 계약 제약이 있을 수 있습니다.
모델군 활성화와 해당 인스턴스에서 사용할 수 있는 모델 및 지역을 확인합니다.
타사 호스팅 모델의 데이터 처리 조건
Palantir는 AIP를 통해 새로운 모델을 제공하기 전에 기술적 보호 조치와 계약상 보호 조건을 확보합니다. 다음 조건은 Palantir가 AIP 계약 체계로 제공하는 타사 호스팅 모델 서비스에 적용됩니다. 고객이 별도로 등록한 외부 모델 엔드포인트의 보호 조건은 해당 모델과 계약에서 확인해야 합니다.
- 타사 모델 제공자는 고객의 프롬프트와 완성 응답 데이터를 보관하지 않습니다.
- 고객 데이터는 타사 모델을 재학습하는 데 사용되지 않습니다.
- 모델 제공자의 인력은 고객의 프롬프트와 완성 응답에 접근할 수 없습니다.
- 모델 서비스에 전송한 데이터는 응답 처리가 끝난 뒤 즉시 폐기됩니다.
입력은 추론을 위해 모델 서비스로 전송됩니다. 제공사 인력의 접근 금지와 처리 후 데이터 폐기 조건은 이렇게 전송한 데이터에 적용됩니다.
이 조건은 타사 모델 제공자의 데이터 처리에 관한 것이며, Foundry 안의 감사 기록이나 워크플로 실행 이력과는 구분합니다. 플랫폼에서 어떤 운영 정보를 기록하고 누가 볼 수 있게 할지는 별도로 관리해야 합니다.
서비스 로그에는 프롬프트, 응답이나 객체 속성이 들어갈 수 있지만, 원래 데이터의 보안 표지가 자동으로 전파되지는 않습니다. 관리자는 로그 접근 정책에 워크플로가 다룰 수 있는 데이터의 민감도에 맞는 표지를 직접 지정해야 합니다.
고객 전용 모델의 학습
고객은 별도로 통제하는 워크플로에서 자신의 비공개 모델을 재학습할 수 있습니다. 이때 학습과 평가, 모니터링 및 감사 가능성을 함께 관리합니다.
인프라와 계약
AIP는 AWS, Azure, Google 등의 클라우드 인프라에서 서비스를 제공합니다. 별도 계약에 다른 조건이 없다면, 관련 제공자는 ISO 27017, SOC 1, 2, 3, CSA STAR 또는 그 밖의 보안 인증과 검증 체계를 갖춥니다. 인증 보유 범위는 제공자별로 확인해야 합니다.
Palantir는 개인정보 처리 전에 데이터 보호 계약 또는 실질적으로 유사한 계약을 체결합니다. 해당되는 경우 Business Associate Agreement(BAA)도 포함하며, 이러한 계약은 일반적으로 AIP 서비스에도 적용됩니다. 실제 의무와 적용 범위는 고객에게 적용되는 계약 조건에 따라 확인해야 합니다.
책임 있는 AI 운영 원칙
- 모델, 데이터, 사용자 인터페이스, 업무 절차와 결과가 사용되는 환경을 함께 평가합니다.
- 모델이 할 수 있는 일과 신뢰할 수 없는 일을 구분하여 기술의 한계를 파악합니다.
- AI가 해당 문제를 해결하는 데 필요한지, 결과에 따르는 위험을 감당할 수 있는지 판단합니다.
- 건전한 데이터 과학 원칙에 따라 데이터 품질과 대표성, 평가 방법과 성능 한계를 검증합니다.
- 의사결정의 권한과 책임은 사람과 조직이 맡습니다.
- 기술 담당자와 업무 전문가, 영향을 받는 사람 등 여러 이해관계자가 참여하도록 하고 그 관점을 고려합니다.
- 기술과 거버넌스, 조직 문화를 함께 관리합니다. 설정과 모델 선택, 운영 규칙과 조직의 이해 수준도 검토합니다.
이 원칙을 플랫폼의 평가, 추적, 승인 및 운영 기능에 연결하는 방법은 AI 윤리와 거버넌스에서 설명합니다.