API 요청 빈도와 동시 처리 한도

Foundry API는 한 사용자가 처리 자원을 과도하게 점유하지 않도록 요청 빈도와 동시 처리 수를 제한합니다. 다음 한도는 사용자별로 모든 Foundry API 엔드포인트에 걸쳐 적용합니다.

한도를 넘는 요청은 제한되며 HTTP 429 또는 503 응답을 받을 수 있습니다. 애플리케이션은 이러한 제한에 대응하여 지수 백오프를 적용한 재시도를 구현합니다. 개별 엔드포인트는 더 엄격한 추가 한도를 둘 수 있습니다.

액션처럼 데이터를 변경하는 요청은 재시도 전에 실행 결과와 해당 엔드포인트의 재시도 조건을 확인합니다. 같은 작업을 다시 적용해도 되는지 판단한 뒤 요청합니다.

동시 처리 수의 기준

동시 처리 한도는 서버에서 실제로 처리하는 시간을 기준으로 계산합니다. 요청을 보낸 뒤 응답을 받을 때까지의 전체 시간을 모두 동시 처리 시간으로 세지는 않습니다.

예를 들어 느린 네트워크에서 요청 3,000개가 전송 중이더라도, 서버에서 실제 처리 중인 요청이 750개라면 전역 동시 처리 한도 800개 이내일 수 있습니다. 네트워크 전송과 대기 중인 요청 수만으로 서버 동시 처리 수를 판단하지 않습니다.

하위 서비스 제한

온톨로지, 함수 실행과 AIP 에이전트처럼 계산 비용이 큰 작업은 내부 서비스가 별도로 제한할 수 있습니다. 전역 API 한도보다 적은 요청에서도 429나 503이 발생할 수 있으므로 개별 작업의 한도를 함께 확인합니다.

SDK를 사용해 대규모 요청을 보내거나 요청이 짧은 시간에 몰리는 앱은 실제 사용 형태에 맞는 성능 시험을 계획합니다. 제한 때문에 앱 운영에 지속적인 문제가 생기면 Palantir 지원팀에 요청 패턴과 오류 정보를 전달합니다.