2.1 연구 지역 및 입력자료

본 연구에서는 레이더 강우 데이터를 활용하여 안동댐 유역의 강우를 측정하기 위해, 안동댐 지역의 중심 좌표(128.77E, 36.85N)를 기준으로 128 km×128 km의 영역을 연구 지역으로 설정하였다(Fig. 1). 본 연구에서는 사용한 입력자료는 기상청에서 제공하는 1.5 km CAPPI 레이더 반사도 데이터를 모델 학습 및 평가에 활용하였다. 해당 데이터는 대한민국 전역의 11개 레이더 관측소에서 수집된 품질 관리된 합성 레이더 반사도(dBZ)로 공간 해상도 1 km, 시간 해상도 10분, 960×1200 픽셀의 해상도를 가진다.

강우량을 산출하기 위해 레이더 반사도(dBZ)는 ^{Marshall- Palmer(1948)}의 Z-R 관계식(Eq. 1)을 활용하여 강우강도(mm/hr)로 변환되었다.

여기서 $Z$는 레이더 반사도($mm^{6}/m^{3}$)를 $R$은 강우강도($mm/hr$)를 의미한다.

본 연구에서는 안동댐 유역을 중심으로 128×128 km, 256× 256 km, 384×384 km 크기의 레이더 강우 추출하여 128×128, 256×256, 384×384 크기를 갖는 강우 자료를 생성하였다(Fig. 1). 생성된 강우 자료는 동일한 크기인 128×128 km의 안동댐 유역에 대해 강우 예측 모델을 훈련하였다. 또한, 본 연구에서는 모델들의 실시간 강우 예측 성능을 평가하기 위하여 10분에서 90분의 리드 타임(lead time)을 설정하였다. 모델 학습에는 2014년부터 2017년까지의 레이더 데이터를 훈련 데이터로 활용하였으며, 2018년 여름철(6월~8월) 데이터를 테스트 데이터로 사용하였다. 특히, 여름철은 강우강도가 높아 다양한 기상 조건을 반영한 견고한 모델 학습과 독립적인 평가를 수행하기에 적합한 시기로 판단되었다.

Fig. 1. Target Domain (the Andong Dam Basin) and Domain of Input Training Data

2.2 ConvLSTM

ConvLSTM은 합성곱 연산과 LSTM(Long Short-Term Memory) 구조를 결합한 딥러닝 모델로, 시간적 데이터와 공간적 데이터를 동시에 처리할 수 있는 강점을 지닌다. 이러한 특성은 비디오 프레임, 위성 이미지, 기상 레이더 데이터 등 시공간 의존성이 높은 데이터를 분석하는 데 특히 적합하며, 강우 예측 분야에서도 효과적으로 활용되고 있다^{(Shi et al., 2015)}. 기존 LSTM이 1차원 시계열 데이터 처리에 최적화된 반면, ConvLSTM은 합성곱 연산을 통해 2차원 공간 데이터를 학습할 수 있어 복잡한 지형적 특성을 반영하여 강우 예측 정확도를 높이는 데 유리하다.

본 연구에서 구현된 ConvLSTM 모델은 레이더 반사도 이미지 시퀀스의 시간적 변화를 추적하고 공간적 특징을 동시에 학습하도록 설계되었다. 모델은 다중 ConvLSTM2D 레이어로 구성되며, 각 레이어는 64개의 필터와 3×3 커널을 사용한다. 입력 크기를 유지하기 위해 ‘Same’ 패딩을 적용하였고, 안정적인 학습 수렴을 위해 ‘HeNormal’ 초기화 방법을 도입하였다.

각 ConvLSTM2D 레이어 뒤에는 레이어 정규화(Layer Normalization)를 적용하여 학습 안정성을 강화하고, 내부 공변량 변화를 줄였다. 이를 통해 모델의 일반화 성능과 수렴 속도를 개선하였다(Ba et al., 2016). 최종 출력 레이어는 Conv3D 레이어로 구성되며, (3, 3, 3) 커널을 활용해 시간적 차원에 걸친 공간적 특징을 통합하여 강우량을 예측한다. 이러한 구조는 복잡한 기상 조건에서도 동적 강우 이벤트를 효과적으로 포착하는 데 매우 유용하다.

본 연구에서는 ConvLSTM 모델 학습을 위해 평균제곱오차(Mean sqaure error, MSE)를 손실 함수로 사용하였으며, 최적화 기법으로 ADAM 옵티마이저를 적용하였다. 학습률은 0.002로 설정하였고, 총 400 에폭 동안 학습을 진행하였다. 또한, 과적합을 방지하기 위해 조기 종료(Early Stopping) 기법을 도입하였고, 배치 크기는 32로 설정하여 메모리 효율성과 계산 속도의 균형을 유지하였다.

2.3 pySTEPS

pySTEPS는 확률적 강수량 단기(0~6 h) 예측을 위해 설계된 오픈 소스 라이브러리로, 연구자와 기상학자가 레이더 기반 강수 예측을 수행하며 불확실성을 정량화 할 수 있도록 유연하고 확장 가능한 프레임워크를 제공한다^{(Pulkkinen et al., 2019)}.

^{Smith et al.(2024)}는 pySTEPS의 광학 흐름 알고리즘을 위성 데이터에 적용하여 대류성 강수 예측의 성능을 평가하였다. 특히, 해양성 대륙 지역의 복잡한 강수 패턴을 분석한 결과, pySTEPS가 위성 데이터를 활용한 강수 예측에서도 효과적으로 적용될 가능성이 있음을 확인하였다. 이는 레이더 데이터가 부족하거나 가용성이 제한된 지역에서도 pySTEPS가 활용될 수 있는 잠재력을 보여준다.

pySTEPS의 핵심에는 S-PROG(Spectral Prognosis) 기법이 있으며, 이는 통계적 예측 기법으로서 레이더 데이터의 시간적 변화를 분석하고 픽셀 이동을 추적하여 미래의 강수량을 예측한다. 속도장(velocity field)을 계산하기 위해 PySTEPS는 루카스-카나데 방법(Lucas-Kanade method)을 활용한다. 이 방법은 광학 흐름 기법 중 하나로, 연속된 레이더 이미지 간의 속도 벡터를 계산한다. 이렇게 생성된 속도장은 초기 강수 패턴과 결합되어 S-PROG 기법을 통해 시간 단계별로 지속적인 강수 예측을 가능하게 한다.

추가적으로, pySTEPS는 강수의 시공간적 변화를 보다 정밀하게 반영하기 위해 다양한 확률론적 방법을 적용할 수 있도록 설계되었다. 최근 연구에서는 위성 데이터를 기반으로 한 대류성 강수 예측의 정확도를 평가하며, pySTEPS가 강수 시스템의 이동 및 변화를 효과적으로 모사할 수 있음을 보여주었다.

2.4 모델 성능평가

본 연구에서는 모델들의 예측 성능을 평가하기 위해 다양한 통계 지표와 평가 방법을 적용하였다. 성능 평가는 리드 타임을 10분 간격으로 설정하여 10분부터 90분까지의 예측 결과를 분석하였다. 주요 평가지표로는 상관계수(R), RMSE, Nash-Sutcliffe 효율계수(Nash-Sutcliffe Efficiency, NSE), 임계성공지수(Critical Success Index, CSI)가 사용되었다. 이들 지표는 강우 예측 연구에서 널리 활용되는 성능 평가 기준으로, 모델의 예측 정확도와 신뢰도를 정량적으로 분석하는 데 중요한 역할을 한다.

상관계수(R, Eq. 2)는 예측값과 관측값 사이의 선형 상관관계의 강도와 방향을 평가하는 통계적 지표이다. R 값이 1에 가까울수록 강한 양의 선형 관계를 나타내며, 관측값이 증가할 때 예측값도 비례적으로 증가함을 의미한다.

여기서, $P_{i}$는 예측값, $O_{i}$는 관측값, $\overline{P}$는 예측값의 평균, $\overline{O}$는 관측값의 평균, $n$은 관측값의 총 개수를 의미한다.

RMSE (Eq. 3)는 예측 오차의 크기를 측정하는 대표적인 성능 평가 지표로, 예측값과 실제 관측값 사이의 제곱 평균 오차의 제곱근으로 계산된다.

NSE (Eq. 4)는 모델 예측값과 관측값 간의 잔차 분산을 관측 데이터 분산과 비교하여 모델의 예측 성능을 정량적으로 평가하는 지표이다. NSE는 -∞에서 1 사이의 값을 가지며, 1은 완벽한 예측 성능을 의미한다. 반면, 0 이하의 값은 모델이 관측값의 평균으로 예측했을 때와 같거나 더 낮은 성능을 보임을 의미한다.

CSI (Eq. 5)는 모델이 예측한 사건 중 실제 관측과 일치한 사건의 비율을 평가하는 성능 지표이다. 본 연구에서는 0.1 mm/h (CSI 0.1), 1.0 mm/h (CSI 1.0), 5.0 mm/h (CSI 5.0)의 세 가지 강우 강도 임계값에 대해 CSI를 계산하여 모델 성능을 정량적으로 분석하였다.

여기서, $H$는 정확히 예측한 사건, $F$는 과대예측한 사건, $M$은 누락된 사건을 의미한다.

3.1 입력 도메인 크기에 따른 ConvLSTM 모델 성능평가

Fig. 2는 입력 도메인 크기에 따른 리드타임별 ConvLSTM 강우 예측 결과를 나타낸다.. ConvLSTM 모델의 성능은 도메인 크기와 리드 타임에 따라 뚜렷한 차이를 보였다. 리드 타임이 증가할수록 단기 강우 예측 성능이 급격히 감소하는 경향이 확인되었다. 특히, 입력 도메인 크기가 가장 작은 128×128 크기의 자료를 사용하여 모델을 학습했을 때, 리드 타임이 증가함에 따라 성능이 더 급격히 저하되었다. 이는 작은 도메인 크기가 제공하는 공간적 정보가 제한적이어서, 모델이 강수 시스템의 시간적 및 공간적 변화를 효과적으로 추적하기 어려워지기 때문으로 추측된다.

128×128 크기의 강우 레이더 데이터를 이용한 ConvLSTM 모델의 학습 결과, 리드 타임 10분까지는 강수 패턴을 비교적 잘 포착하였다. 그러나 리드 타임이 30분을 초과하면서 예측 성능이 급격히 떨어졌으며, 60분과 80분 리드 타임에서는 대부분의 지역에서 강수량이 거의 0에 가까운 값으로 예측되었다. 반면, 256×256 크기의 레이더 데이터를 사용할 경우, 모델의 예측 성능이 개선되었으며, 특히 10분 리드 타임에서는 비교적 명확한 강수 패턴이 유지되었다. 하지만 30분 리드 타임에서는 일부 정확도 저하가 나타났고, 60분과 80분 리드 타임에서는 성능 저하가 여전히 두드러졌지만, 128×128 데이터 도메인보다 더 나은 성능을 보였다.

384×384 크기의 강우 레이더 자료를 사용한 경우, 전체적으로 가장 우수한 성능을 보였다. ConvLSTM 모델은 10분과 30분 리드 타임에서 비교적 정확한 강수 구조를 유지했으며, 60분과 80분 리드 타임에서도 일부 강수 패턴을 유지하면서 강우 패턴이 흐려지는 예측을 나타냈다.

Fig. 2. Results of Precipitation Predictions with the ConvLSTM Model for Different Domain Sizes (128×128, 256×256, 384×384) along the Lead Times

3.2 입력 도메인 크기에 따른 pySTEPS 모델 성능평가

Fig. 3은 입력 도메인 크기에 따른 리드타임별 pySTEPS 강우 예측 결과를 나타낸다. pySTEPS 모델도 ConvLSTM 모델과 마찬가지로 입력도메인의 크기가 커질수록 모델의 성능이 개선되는 경향을 보인다(Fig. 3). 128×128 크기의 입력 도메인으로 pySTEPS 모델을 학습한 결과, 10분 리드 타임에서는 강수 패턴을 일부 포착할 수 있었으나, 예측 정확도는 상대적으로 낮았다. 리드 타임이 증가함에 따라 모델의 예측 성능은 급격히 저하되었으며, 30분 리드 타임에서는 대부분의 예측 강수 패턴이 단순화되었고, 60분 및 80분 리드 타임에서는 예측된 강수량이 거의 0에 가까운 값으로 수렴했다.

256×256 크기의 강우 데이터를 사용했을 때, pySTEPS의 성능이 개선되었으며, 10분 리드 타임에서는 강수 구조가 비교적 명확하게 유지되었다. 30분 리드 타임에서도 예측된 강수 패턴은 상대적으로 잘 구분되었지만, 60분 리드 타임 이후에는 성능 저하가 나타났고, 예측된 강수량은 초기 리드 타임에 비해 현저히 약해졌다.

ConvLSTM 모델과 유사하게, pySTEPS 모델도 384×384 크기의 입력 도메인을 사용했을 때 가장 우수한 성능을 보였다. 30분 리드 타임까지는 강수 패턴이 비교적 명확히 유지되었으며, 60분 및 80분 리드 타임에서도 다른 모델에 비해 성능이 뛰어났다. 우리나라 여름철 강수량의 이동 패턴은 주로 남에서 북으로 이동하는 경향이 나타난다. 동일한 지역과 입력 도메인을 사용할 경우, 리드 타임이 길어질수록 남쪽 지역의 강수량을 예측하지 못하는 경향이 있었지만, 해당 유역보다 더 큰 입력 도메인으로 모델을 학습하면 리드 타임이 증가함에 따라 남쪽 지역 강수량을 더 잘 예측하는 경향을 보였다.

Fig. 3. Results of Precipitation Predictions with the pySTEPS Model for Different Domain Sizes (128×128, 256×256, 384×384) along the Lead Times

3.3 강우 예측 성능 비교 분석

본 연구에서는 ConvLSTM과 pySTEPS 두 모델의 강우 예측 성능을 입력 도메인 크기(128×128, 256×256, 384×384)와 리드 타임(10분, 30분, 60분, 90분)에 따라 비교 분석하였다. 도메인 크기 증가에 따른 성능 개선 비율은 상관계수, RMSE, NSE, CSI(0.1 mm, 1.0 mm, 5.0 mm 강우강도)를 기준으로 정량적으로 평가하였으며, Fig. 4와 Table 1에서 시각적 및 정량적으로 제시하였다.

Fig. 4는 상관계수, RMSE, NSE 결과를 통해 도메인 크기와 리드 타임에 따른 두 모델의 성능변화를 보여준다. ConvLSTM은 리드 타임이 증가할수록 성능 저하가 두드러졌으며, 특히 128×128 크기의 입력 도메인을 사용할 경우 상관계수가 급격히 감소하였다. 그러나 384×384 크기의 입력 도메인 자료를 사용했을 때는 높은 상관계수를 유지하며 상대적으로 안정적인 성능을 보였다. 또한, Fig. 4에서는 CSI 지표(0.1 mm, 1.0 mm, 5.0 mm 강우 강도)에 따른 성능 변화를 보여준다. 낮은 강우 강도(0.1 mm)에서는 두 모델 모두 높은 CSI 값을 기록했으나, 강우 강도가 증가함에 따라 성능 저하가 나타났다. 특히 ConvLSTM은 높은 강우 강도(5.0 mm 이상)에서 정확도가 크게 감소했지만, pySTEPS는 상대적으로 안정적인 성능을 보이며 높은 CSI 값을 유지하였다.

pySTEPS 모델의 경우도 ConvLSTM과 마찬가지로 리드 타임이 증가할수록 모델의 성능이 줄어들고 입력도메인의 크기가 클수록 모델에 성능이 증가한다. 하지만 리드 타임이 90분일 때, 대체로 pySTEPS의 성능이 ConvLSTM보다 더 우수함을 확인하였다. 이는 약 90분 정도의 단기 강우 예측에서는 2배 더 넓은 입력 도메인과 pySTEPS 모델을 사용했을 때 성능이 더 우수할 수 있음을 시사한다.

Table 1은 ConvLSTM과 pySTEPS 모델의 128×128 도메인을 기준으로, 256×256 및 384×384 도메인에서의 성능 개선 비율을 수치화한 결과를 보여준다. ConvLSTM은 384×384 도메인에서 상관계수 10.4 %, RMSE 10.1 %, NSE 10.3 %, CSI 0.1에서 최대 15.2 %의 개선 효과를 기록하였다. pySTEPS는 상관계수에서 10.2 %, RMSE와 NSE에서 최대 10.4 %, CSI 5.0에서 ConvLSTM보다 높은 10.3 %의 개선 효과를 나타냈다. 이러한 결과는 입력 도메인 크기의 증가가 두 모델의 예측 성능에 긍정적인 영향을 미친다는 점을 보여준다.

Fig. 4. Performance of ConvLSTM and pySTEPS with Different Input Domain Size along the Lead Times (R, RMSE, NSE, CSI0.1, CSI1.0, and CSI5.0)