파이프라인 장애와 복구

앞에서 만든 파이프라인은 모든 것이 정상일 때의 모습입니다. 실제로는 깨집니다. 이 실습은 깨지는 방식을 미리 겪어 보는 것입니다.

실습: 장애 세 가지 주입

시뮬레이터에서 장애를 하나씩 주입하고 하류 지표가 어떻게 무너지는지 관찰하세요.

① 연결 끊김 — 항만 맥락으로는 AIS 스트림 두절, 공공 API 응답 실패입니다. 끊긴 구간의 데이터는 영영 안 오는가, 나중에 몰려오는가에 따라 대응이 달라집니다.

② 버퍼 초과 — 유입이 처리를 앞지를 때입니다. 월말에 신고가 몰리는 패턴을 생각해 보세요.

③ 스키마 변경 — ⚠️ 공공데이터에서 가장 자주 만나는 장애입니다. 컬럼명이 예고 없이 바뀌거나 코드 체계가 개편됩니다. 매핑 시트를 버전 관리하라고 한 이유가 이것입니다.

관찰할 것

• 유실률이 몇 %일 때 하류 정확도가 무너지기 시작하는가
• 자동 재연결이 있을 때와 없을 때의 차이
• 스키마 변경을 검증에서 잡는 경우와 조용히 통과시키는 경우의 결과 차이

우리 파이프라인으로 옮겨 적기

관찰한 것을 자기 설계에 반영합니다.

1. 세 장애 각각에 대해 우리 파이프라인은 어느 단계에서 막는가? 못 막으면 어디에 검사를 넣어야 하는가?
2. 스키마 변경을 조용히 통과시키지 않으려면 — 프로파일 단계에서 필드 목록을 이전 실행과 대조하는 검사가 필요합니다. 넣어 보세요.
3. 재처리 정책을 정합니다. 실패 배치를 자동 재시도할 것인가, 사람이 확인 후 돌릴 것인가. 멱등성이 확보돼 있으므로 재시도가 안전하다는 점이 여기서 값을 합니다.