2.1 Long Short-Term Memory (LSTM)

전통적인 순환 신경망의 한계를 극복하고자 제안된 LSTM 모델은 시계열 데이터에서 시간적 의존성을 효과적으로 학습하기 위해 개발된 AI (Artificial Intelligence) 모델이다. 기존 순환 신경망은 긴 시퀀스의 데이터 처리 시 역전파 단계에서 발생하는 기울기 소실 문제로 인해 먼 시점의 정보를 학습하는 데 제약이 있었으나, LSTM은 내부의 셀 상태와 세 가지 게이트(입력 게이트, 삭제 게이트, 출력 게이트)를 도입하여 정보의 저장, 제거, 전달 과정을 정교하게 제어한다. 이를 통해 LSTM은 장기간의 의존성을 유지하면서도 복잡한 시계열 패턴을 효과적으로 모델링 할 수 있다^{(Lee and Bae, 2025)}.

Fig. 1에서 $x_{t}$, $h_{t}$는 입력과 출력, $C$, $t$는 cell state와 time step을 의미한다. 또한 $f_{t}$는 삭제 게이트, $i_{t}$는 입력 게이트, $o_{t}$는 출력 게이트다.

Fig. 1. Long Short-Term Memory Network ^{(Hochreiter and Schmidhuber, 1997)}

2.2 Transformer

Transformer 모델은 ^{Vaswani et al.(2017)}에 의해 제안된 자연어 처리 기반의 딥러닝 모델로, 기존의 Seq2Seq 방식과 유사한 인코더-디코더 구조를 따르면서도, 순환 신경망을 사용하지 않고 오직 어텐션 메커니즘으로 구성된 것이 특징이다. 인코더는 다층 구조로 이루어져 있으며, 각 층은 멀티-헤드 셀프 어텐션(Multi-head Self-Attention)과 피드포워드 신경망(Feed-forward Neural Network)의 두 주요 서브모듈로 구성된다. 이 서브모듈은 잔차 연결(Residual Connection)과 층 정규화(Layer Normalization)를 통해 학습의 효율성과 안정성을 확보한다.

디코더 또한 다중 계층 구조로 이루어지며, 각 계층은 마스킹된 멀티-헤드 어텐션, 인코더의 출력과의 상호작용을 위한 멀티-헤드 어텐션, 그리고 피드포워드 신경망으로 구성된다. 이를 통해 디코더는 입력 시퀀스와 생성된 시퀀스 간의 관계를 효과적으로 학습한다. 전통적인 순환 신경망은 입력을 순차적으로 처리하기 때문에 자연스럽게 시퀀스의 순서 정보를 반영할 수 있는 반면, Transformer는 모든 입력을 병렬로 처리하기 때문에 별도로 순서 정보가 필요하다. 이러한 한계를 보완하기 위해, 입력 임베딩에 포지셔널 인코딩(Positional Encoding)을 추가함으로써 시퀀스 내 각 요소의 위치 정보를 명시적으로 제공한다.

Transformer의 핵심은 셀프 어텐션(Self-Attention) 메커니즘에 있으며, 이는 동일한 입력으로부터 도출된 쿼리(Query), 키(Key), 값(Value) 벡터 간의 유사도를 계산하여, 각 값 벡터에 가중치를 적용하는 방식으로 동작한다. 어텐션 가중치는 쿼리와 키 간의 내적 연산 및 소프트맥스 정규화를 통해 산출된다. 이러한 구조는 입력 시퀀스 전체에 걸쳐 유연한 의존성 학습을 가능하게 할 뿐 아니라, 내부 연산을 병렬화할 수 있어 기존 순환 신경망 기반 모델에 비해 학습 속도와 효율성 측면에서 뛰어난 성능을 보인다.

Fig. 2. Transformer Model Structure ^{(Vaswani et al., 2017)}

2.3 기상 자료 전처리 및 모델 학습

본 연구에서는 1시간 간격으로 수집된 6시간의 기상 자료를 입력 데이터로 활용하여, n시간(1~12시간) 뒤의 적설심 및 풍속을 예측하는 모델을 개발하였다. 모델 학습 및 하이퍼 파라미터 최적화를 위해 전라북도 정읍 지역의 기상관측소(관측소 번호 245)에서 관측된 1999년부터 2023년까지의 25년간 기상 자료를 활용했다. 정읍은 겨울철 상대적으로 높은 적설심이 자주 기록되며, 비닐온실 피해 사례도 빈번하게 발생하는 지역 중 하나로, 본 연구의 대상 지역으로 선정하였다. 기상 자료 내 결측치는 선형 보간법(Linear Interpolation)을 통해 처리하였으며, 적설심의 경우 결측치 발생 시점을 기준으로 이후 10시간 이내에 관측된 유효한 값이 존재할 경우에만 선형 보간을 적용하였다. 이 기준을 만족하지 못할 때는 해당 결측치를 0으로 처리하였다. 모델 학습 과정에서는 시계열 데이터를 효율적으로 구성하기 위해 Fig. 3과 같이 슬라이딩 윈도우(Sliding Window) 방식으로 적용했다. 예를 들어, 첫 번째 데이터는 0시부터 5시까지의 기상 자료를 입력으로 사용하고, 6시의 적설심 및 풍속을 출력으로 설정한다. 이후 두 번째 데이터는 1시부터 6시의 기상 자료를 입력, 7시의 적설심 및 풍속을 출력으로 설정하는 방식으로 1시간씩 순차적으로 윈도우를 이동시키며 학습 데이터를 구성했다.

적설심 예측을 위한 독립변수를 선정하고자 기온, 풍속, 습도, 이슬점온도, 현지기압, 일조시간 간의 다중공선성 분석을 수행하였다. 다중공선성(Multicollinearity)은 독립변수 간의 선형 종속성을 의미하며, 그 정도가 높으면 회귀 분석에서 표준오차가 증가하거나, 특정 변수의 회귀 계수가 이론적으로 기대되는 방향과 반대되어 해석에 왜곡을 초래하는 등의 문제가 발생할 수 있다^{(Alin, 2010; Chan et al., 2022)}. 다중공선성의 판단에는 일반적으로 분산팽창계수(Variation Inflation Factor, VIF)를 활용하며, 이는 다음 Eq. (1)과 같이 정의된다.

여기서 ${V}{if}_{i}$는 $i$번째 변수의 분산팽창계수, $R_{i}$는 $i$번째 변수를 다른 모든 독립변수에 대해 회귀 분석했을 때의 결정계수이다. 일반적으로 VIF 값이 5와 10 사이일 경우 다중공선성이 존재할 가능성이 있으며, 10을 초과하면 다중공선성이 심각한 수준으로 간주한다.

Fig. 3. Example of Training Data Generation Using the Sliding Window Method For One-hour-ahead Prediction

2.4 베이지안 최적화(Bayesian Optimization)

베이지안 최적화는 연산 비용이 높은 목적함수에 대해 최소 또는 최댓값을 산출하는 최적의 입력값을 효율적으로 탐색할 수 있는 방법론 중 하나이다^{(Frazier, 2018)}. 딥러닝 모델은 한 번의 학습에 많은 자원과 시간이 소요되므로, 시도 횟수를 최소화하면서 하이퍼 파라미터를 최적화하는 것이 중요하다.

대표적인 하이퍼 파라미터 최적화 기법 중 하나인 그리드 서치(Grid Search)는 가능한 모든 변수 조합을 탐색하지만, 변수의 수가 많으면 연산량이 기하급수적으로 증가하여 비효율적이다. 랜덤 서치(Random Search)는 변수 공간에서 무작위로 값을 선택해 탐색하는 방식으로 일부 효율성을 보장하지만, 국소 최적해(Local Optima)에 수렴할 위험이 존재한다. 또한 최적화 문제에 널리 사용되는 진화 기반 알고리즘(Evolutionary Optimization Method)은 많은 반복과 연산이 필요하고, 예측 결과에 노이즈가 많다는 단점이 있다^{(Victoria and Maragatham, 2021)}.

반면, 베이지안 최적화는 사전 분포를 기반으로 달리 변수 선택 과정에 사전 정보를 반영하여 탐색의 효율성을 높인다. 이 방식은 순차적 모델 기반 최적화(Sequential Model-based Global Optimization, SMBO)라고도 하며, 이전 단계에서의 하이퍼 파라미터와 그에 따른 목적함수 값을 기반으로 다음 시도할 하이퍼 파라미터를 결정하는 과정에서 전반적인 탐색 효율을 크게 향상시킨다^{(Bergstra et al., 2011; Choi et al., 2020)}. 본 연구에서는 Transformer 모델의 하이퍼 파라미터를 베이지안 최적화를 통해 선정했다.

3.1 적설심 및 풍속 예측을 위한 독립변수 선정

모델 학습에 앞서, 적설심 및 풍속 예측을 위한 독립변수를 선정하기 위해 기온(℃), 풍속(m/s), 습도(%), 이슬점온도(℃), 현지기압(hPa), 일조시간(h)을 대상으로 다중공선성 분석을 실시하였다. 각 변수에 대한 분산팽창계수는 Table 1에 제시되어 있으며, 그 결과 기온, 습도, 이슬점온도, 현지기압의 분산팽창계수가 10을 초과하여 다중공선성이 매우 심각한 수준인 것으로 판단되었다.

이에 따라 Table 2에서 제시된 변수 간 상관계수 분석 결과를 바탕으로, 높은 상관성을 보이는 이슬점온도와 현지기압을 독립변수 목록에서 제외했다. 해당 변수를 제거한 후 다시 산출한 분산팽창계수는 Table 3에 나타나 있으며, 모든 변수 분산팽창계수가 5보다 작아져 다중공선성 문제가 해소된 것으로 확인되었다.

최종적으로 적설심 예측을 위한 독립변수는 기온, 풍속, 습도, 일조시간, 적설심으로 구성하였으며, 풍속 예측을 위한 독립변수는 기온, 풍속, 습도, 일조시간으로 설정하였다.

3.2 Transformer 모델을 통한 적설심 및 풍속 예측 결과

정읍 기상관측소에서 수집된 1999년부터 2023년까지 총 25년간 기상 자료를 활용하여, 직전 6시간의 기상 정보를 바탕으로 1시간부터 12시간 뒤까지의 적설심을 예측하는 총 12개의 Transformer 모델을 학습시켰다. 모델 학습은 1999년부터 2018년까지의 데이터를 기준으로 3:1의 비율로 학습 및 검증 데이터를 분할하여 수행했으며, 나머지 2019년부터 2023년까지의 5년치 데이터를 테스트에 활용했다.

모델 학습에 사용된 데이터는 적설심이 관측된 경우로만 구성하였으며, 입력 시퀀스인 6시간 동안의 기상 자료 중 절반 이상에서 적설심이 3 cm 이상인 경우만을 포함시켰다. 이는 모든 데이터를 사용할 경우 모델이 낮은 적설심 구간에 과적합되어 예측 성능이 현저히 저하되는 경향이 있었기 때문이다. 또한, 본 연구의 최종 목표가 비닐온실의 구조적 안전성 평가 및 파괴 가능성 예측에 있는 만큼, 실제 파괴가 거의 발생하지 않는 0~2 cm 구간은 학습에서 제외하고 3 cm를 기준으로 설정하였다.

Transformer 모델의 하이퍼 파라미터는 베이지안 최적화 기법을 통해 RMSE를 최소화하는 방향으로 설정하였으며, 그 결과는 Table 4에 제시되어 있다. 예측 결과, 1시간 뒤의 적설심 예측의 경우 RMSE가 0.660 cm로 가장 낮았으며, 12시간 뒤 예측에서는 3.785 cm로 가장 높게 나타났다. 전체 테스트 데이터에 대한 예측 결과는 Fig. 5에 도시하였다. 여기서는 1, 3, 6, 9, 12시간 뒤의 적설심 예측 결과를 시각화하였으며, 예측 시점이 멀어질수록 정확도는 다소 감소하였으나, 전반적인 시계열 경향은 잘 추종하는 것으로 나타났다. R² 값은 최대 0.99, 최소 0.76 수준으로 나타나, 모델이 전반적인 적설심의 패턴을 효과적으로 학습하고 있음이 관찰되었다.

다만, 예측 시점이 멀어질수록 예측값이 실측값보다 다소 과다 추정되며, 예측값이 실측값보다 오른쪽으로 평행 이동된 듯한 경향이 관찰되었다. 이러한 현상은 적설심이 비정상성(Non-stationary) 특성을 가지는 시계열 데이터이기 때문으로 판단된다. Non- stationary 데이터는 시간 경과에 따라 평균, 분산 등 통계적 특성이 변화하는 데이터를 의미한다^{(Cheng et al., 2015)}. 이러한 특성으로 인해 LSTM을 포함한 대부분의 시계열 예측 모델에서 예측 성능을 저하한다고 알려져 있다^{(Hao et al., 2022)}. 이에 따라 데이터를 가공하거나, 예측 모델을 개량하는 방식으로 non-stationarity를 완화하려는 다양한 연구들이 수행되고 있다^{(Dai et al., 2024; Contreras-Reyes et al., 2024; Han et al., 2024)}.

그러나 Transformer 기반 모델은 어텐션 메커니즘을 통해 시계열의 절대적 시간 흐름에 의존하지 않고, 입출력 간의 복잡한 관계 및 패턴을 효과적으로 포착할 수 있기 때문에 non-stationary 데이터의 영향을 상대적으로 덜 받는 것으로 보고되고 있다^{(Niu et al., 2024; Qian, 2025)}. 실제로 본 연구에서도 6시간 이내의 단기 예측에서는 비정상성의 영향이 거의 나타나지 않았으며, 이후 장기 예측에 대해서도 비닐온실 구조해석 결과에서 실질적인 영향을 줄 정도의 오차는 발생하지 않는 것으로 판단되었다.

풍속 예측을 위해 정읍 기상관측소에서 수집된 1999년부터 2023년까지의 25년간 기상 자료를 바탕으로, 1시간부터 12시간 뒤까지의 풍속을 예측하는 총 12개의 Transformer 모델을 학습시켰다. 모델 학습 방식은 적설심 예측과 동일하게 1999년부터 2018년까지의 데이터를 3:1로 학습 및 검증용으로 분할하였으며, 나머지 2019년부터 2023년까지의 데이터를 테스트용으로 사용하였다. 하이퍼 파라미터는 베이지안 최적화 기법을 통해 설정하였으며, 이때 최적화 기준은 RMSE가 아닌 결정계수(R²)로 설정하였다. 최적화 결과는 Table 5에 제시되어 있다.

1시간 뒤의 풍속을 예측 결과에서 R²가 0.67로 가장 높게 나타났으며, 12시간 뒤 예측에서는 0.17로 가장 낮아, 예측 시점이 멀어질수록 풍속의 변동성을 모델이 충분히 포착하지 못한 것으로 관찰되었다. 특히 적설심 예측 결과와 달리, 풍속 예측에서는 극댓값에 대한 예측 정확도가 낮고, 전반적으로 예측값이 실제보다 과소 추정되는 경향이 나타났다. 이는 학습 데이터의 약 98 %가 풍속이 0~4 m/s 범위에 분포되어 있어 고풍속 구간에 대한 학습이 상대적으로 부족했기 때문으로 해석된다. 하지만 RMSE는 최소 0.81 m/s에서 최대 1.30 m/s로, 기존 선행연구와 비교했을 때 유사하거나 더 우수한 성능을 보였다^{(Ku et al., 2019; Kim et al., 2022a)}. 다만, 일반적으로 비닐온실의 구조적 피해는 태풍과 같은 특수 상황을 제외하면 강풍보다는 폭설에 의한 하중이 주요 원인으로 작용하는 것으로 알려져 있어, 본 연구에서는 적설심 예측에 보다 중점을 두고 분석을 수행하였다.

Fig. 4. RMSE Over Different Prediction Lead Times (Snow Depth Prediction)

Fig. 5. n Hour(s) Snow Depth Forecast Results (n : 1, 3, 6, 9, 12). (a) 1 Hour Snow Depth Forecast Results, (b) 3 Hours Snow Depth Forecast Results, (c) 6 Hours Snow Depth Forecast Results, (d) 9 Hours Snow Depth Forecast Results, (e) 12 Hours Snow Depth Forecast Results

3.3 Transformer 모델과 LSTM 모델 성능 비교

본 연구에서는 적설심 및 풍속 예측을 위한 모델 성능을 평가하기 위해, 제안한 Transformer 모델과 기존 시계열 예측에 널리 사용되는 LSTM 모델 간의 성능 비교를 수행하였다. LSTM 모델 또한 베이지안 최적화 기법을 활용하여 하이퍼 파라미터를 설정하였으며, 학습 조건은 Transformer 모델과 동일하게 구성하였다.

예측 결과는 적설심과 풍속 각각에 대해 Table 6, 7에 제시하였다. 적설심 예측의 경우, 1시간부터 7시간 뒤 예측까지는 LSTM 모델이 더 낮은 RMSE를 기록하며 우수한 성능을 보였으나, 8시간 이후부터는 Transformer 모델이 상대적으로 더 높은 예측 정확도를 나타냈다. 풍속 예측의 경우에는 두 모델 간 유의미한 차이는 없었으나, 5시간 이후부터는 Transformer 모델이 더 우수한 성능을 보였다.

그러나 모델의 통계적 지표로는 Transformer 모델과 유사한 성능을 보였으나, Fig. 8에 도시하였듯이, LSTM 모델의 경우 적설심 시계열의 비정상성 특성에 민감하게 반응하여, 실측값보다 예측값이 시간상 우측으로 평행 이동된 양상을 뚜렷하게 보였다. 이는 모델이 입력된 적설심 시계열을 단순히 단순히 n시간 뒤로 이동하여 출력하는 것으로 해석될 수 있으며, 이러한 경향은 Transformer 모델에서는 상대적으로 약하게 나타났었다. 또한 LSTM 모델은 예측 시점이 멀어질수록 극댓값 구간에서 실제보다 과도하게 큰 값을 출력하는 경향도 관찰되었다.

비닐온실의 파괴를 예측하기 위해서는 지역 및 온실 구조 특성에 따라 다르나, 일반적으로 약 20 cm 이상의 적설심이 예측되는 시점과 그 강도를 정확히 파악하는 것이 중요하다. 이러한 관점에서 Transformer 모델은 예측의 안정성과 극한값 처리에서 LSTM 모델보다 더 적절한 시계열 예측 모델로 판단된다.

Fig. 6. R² Over Different Prediction Lead Times (Wind Speed Prediction)

Fig. 7. n Hour(s) Wind Speed Forecast Results (n : 1, 6, 12). (a) 1 Hour Wind Speed Forecast Results, (b) 1 Hour Wind Speed Forecast Results (Subset of 500 Samples), (c) 6 Hours Wind Speed Forecast Results, (d) 6 Hours Wind Speed Forecast Results (Subset of 500 Samples), (e) 12 Hours Wind Speed Forecast Results, (f) 12 Hours Wind Speed Forecast Results (Subset of 500 Samples)

Fig. 8. Temporal Shift Effect in Snow Depth Forecasts by LSTM Model (9 Hours Forecast)

3.4 기상 예측을 통한 비닐온실 안전율 예측

본 연구에서는 실제 폭설로 인해 비닐온실 파괴가 발생한 사례에 Transformer 기반 기상 예측 모델을 적용하고, 예측된 기상 데이터를 바탕으로 비닐온실의 구조해석을 수행하여 안전율을 산정하였다. 피해 사례는 행정안전부의 연도별 재해연보를 통해 수집된 강원도의 1998년부터 2021년까지 폭설에 의한 비닐온실 피해 사례를 대상으로 하였으며, 해당 기간의 기상 자료 또한 함께 수집하였다.

각 사례에 대해 재해 발생 기간 동안 1~12시간 뒤의 적설심 및 풍속을 Transformer 모델을 이용하여 예측하였으며, 구조해석에서는 해당 예측값 중 최댓값을 활용하였다. 이는 재해연보에서 제공되는 정보가 재해 발생 기간과 피해 면적에 국한되며, 정확한 피해 발생 시간이나 위치는 명시되어 있지 않기 때문이다. 구조해석은 ^{Seo et al.(2025)}이 개발한 비닐온실 반강결 연결부를 고려한 비선형 구조해석 기법을 활용하였으며, 해석 대상은 대표적인 내재해형 비닐온실 규격인 10-단동-5형으로 설정하였다. 적설심의 경우 건설(Dry Snow)을 가정하여 밀도 1,000 N/m³으로 두고 해석하였다. 예측된 적설심을 $D_{s}$, 풍속을 $V_{w}$라 하고, 지붕 경사도 계수를 $C_{s}$, 풍압계수를 $C_{w}$라 하면 온실 위치별 적설하중($W_{s}$) 및 풍하중 ($W_{w}$)은 다음 식과 같이 계산할 수 있다. 이때 지붕 경사도 계수와 풍압계수는 각각 Table 8, 9와 같다. 최종적으로 적설하중 및 풍하중은 다음 Fig. 9, 10과 같이 적용하였다.

구조해석 결과를 바탕으로, 실제 온실 피해 면적과 (전체 온실 면적) / (안전율) 값 간의 상관관계를 분석하였다. 피해 사례는 경기도 전체를 단위로 제공되므로, 속초, 철원, 춘천 등 개별 시군 단위의 피해 발생 지역은 구분할 수 없었다. 이에 따라 경기도 내 각 지역의 온실 면적에 안전율을 나눈 값을 모두 합산하여 대푯값으로 활용하였다.

분석 결과는 Fig. 10에 제시하였으며, 피해 면적과 (온실 면적)/(안전율) 값 사이의 결정계수는 0.243으로 나타났다. 이는 다음과 같은 한계점으로 인해 상대적으로 낮은 상관계수로 나타난 것으로 분석된다. 첫째로는 구조해석 대상 온실의 규격을 10-단동-5형 하나로 고정하여 해석한 것이다. 실제 설치되어 있는 온실은 내재해형 온실이 아닌 오래된 비규격 온실도 많이 존재할뿐더러 더 큰 하중을 견딜 수 있는 연동온실도 다수 존재하므로, 내재해형 단동 온실 규격 하나로 통일하여 해석한 것은 현실을 잘 반영하지 못한다. 둘째로, 피해 발생 시간 및 위치 정보를 정확히 알 수 없었던 점이다. 제공되어 있는 피해 사례의 경우 시간 단위로 피해 면적이 제시되어 있는 것이 아닌 일 단위로 피해 면적이 제시되어 있어 정확한 파괴 시점을 알 수 없다. 또한 행정구역 상 도단위로 피해 면적이 주어지기 때문에 어느 시군에서 발생한 피해인지 명확히 판단하기 어렵다. 셋째, 지역별로 연도별 온실 면적이 제공되지 않아 특정 연도의 시군별 온실 면적을 기준으로 피해가 발생한 연도의 해당 지역 온실 면적을 선형 보간으로 추정하여 현실적이지 못할 수 있다. 넷째로 본래 파괴 확률은 수천에서 수만번의 구조해석 결과에 따라 산정되는 값인데 비해, 이와 비교한 실제 사례는 극히 적으므로 낮은 상관계수가 나타난 것으로 분석된다. 다수의 가정과 한계가 수반된 제한된 데이터 조건에서 분석이 진행되어 낮은 상관성이 나타났으나, 추후에는 안전율이 아닌 파괴확률의 산정, 피해 면적에 영향을 미치는 추가 인자의 도입 등에 대한 추가연구가 필요할 것으로 분석된다. 이를 통해 예측 기반 구조 파괴확률 산정 기법의 현장 적용이 가능해질 것이다.

Fig. 9. Load Conditions of Greenhouse for Nonlinear Structural Analysis. (a) Snow Load Distribution, (b) Wind Load Distribution

Fig. 10. Correlation Between Estimated Structural Safety Index (Greenhouse Area/Safety Factor) and Observed Greenhouse Damage Area