운영 파이프라인 유지보수
운영에 배포한 파이프라인이 활발한 기능 개발 단계를 지나면 데이터 전달을 안정적으로 유지하고 장애에 대응하는 일이 중심이 됩니다. 유지보수에 들어가기 전에 파이프라인의 기대 동작과 팀별 책임을 명확히 해야 경고 기준과 대응 우선순위를 정할 수 있습니다.
먼저 합의할 기대 동작
- 파이프라인이 다루는 데이터 범위와 전달하는 출력
- 원천 데이터가 도착해야 하는 시각
- 파이프라인이 빌드되어야 하는 시각과 주말 실행 여부
- 바람직한 데이터 갱신 주기
- 데이터가 업무상 심각하게 오래되었다고 판단할 시점
이 기대치는 사용자의 요구, 알림 임계값과 유지보수 우선순위의 근거가 됩니다. 정상적인 주말 중단과 실제 전달 지연을 구분하지 않으면 경고가 불필요하게 늘거나 중요한 지연을 놓칠 수 있습니다.
유지보수 담당자의 책임
담당자는 모니터링을 구성하고 상태 검사 실패 등으로 파이프라인이 비정상일 때 원인을 조사합니다. 필요한 코드나 모니터링 설정을 수정하고, 원천 데이터가 틀리거나 제때 도착하지 않으면 상위 데이터 담당 팀에 연락합니다.
가능하면 실제 데이터를 조회할 권한을 준비합니다. 데이터 문제를 적절히 진단하려면 내용과 스키마를 확인할 수 있어야 합니다. 코드를 읽고 Code Repositories, Builds, Data Lineage와 Data Health를 사용할 수 있는 기술 역량도 권장합니다. 파이프라인 구조에 대한 사전 지식은 필수 요건은 아니지만 문서와 운영 지식을 통해 익혀 두면 대응에 도움이 됩니다.
운영 방법
| 주제 | 내용 |
|---|---|
| 안정성 구성 | 코드 변경 관리, 입력 검증, 공유 리소스와 수동 실행을 설명합니다. |
| 상태 검사 배치 | 실제 스케줄의 입력, 중간 데이터셋과 출력에 검사를 배치합니다. |
| Data Expectations | 빌드 중 입력 및 출력 조건을 검사하고 실패한 결과의 전파를 막습니다. |
| 지원과 당직 운영 | 대응 시간, 알림, 인수인계와 에스컬레이션을 정합니다. |
| 스케줄 생성과 운영 | 트리거, 빌드 선택, 권한 범위, 실행 이력과 Marketplace 패키징을 구성합니다. |
| 오류 조사와 최적화 | 작업 비교, 스트림 복구와 메모리 사용을 조사하여 장애의 원인과 영향 범위를 좁힙니다. |
스케줄은 함께 실행하는 파이프라인 범위를 관리하는 단위이며, 빌드는 실제 실행 작업과 의존 관계를 보여 줍니다. 유지보수 기준은 개별 데이터셋뿐 아니라 이 실행 범위를 함께 고려합니다.