베이지안 추론 1 — 믿음을 갱신하는 기계
핵심 아이디어 베이지안 추론은 한 문장으로 요약됩니다. 데이터를 보기 전 믿음 × 데이터가 말하는 것 → 데이터를 본 후 믿음 수식으로: [\underbrace{p(\theta \mid \mathcal{D})}{\text{posterior}} \;\propto\; \underbrace{p(\mathcal{D} \mid \theta)}{\...
핵심 아이디어 베이지안 추론은 한 문장으로 요약됩니다. 데이터를 보기 전 믿음 × 데이터가 말하는 것 → 데이터를 본 후 믿음 수식으로: [\underbrace{p(\theta \mid \mathcal{D})}{\text{posterior}} \;\propto\; \underbrace{p(\mathcal{D} \mid \theta)}{\...
서론 L1·L2 규제 포스팅의 마지막에 이런 말을 남겼습니다. L2 = 가우시안 사전 분포, L1 = 라플라스 사전 분포. 베이즈 관점에서 규제는 MAP 추정과 동치다. 이 포스팅에서는 그 문장이 왜 성립하는지 따져봅니다. 1. 빈도주의 vs 베이지안 빈도주의: 파라미터 $\mathbf{w}$는 고정된 미지의 상수입니다. 데이터로부...
서론 모델을 학습하다 보면 훈련 데이터에는 잘 맞지만 새로운 데이터에는 맥을 못 추는 과적합(overfitting) 문제를 자주 마주칩니다. 규제(regularization)는 이 문제를 다루는 대표적인 기법으로, 손실 함수에 패널티 항을 더해 모델이 지나치게 복잡해지는 것을 억제합니다. 이 포스팅에서는 가장 많이 쓰이는 두 가지 규제 방식을 정리...
지금까지 살펴본 ARIMA, ETS, Prophet은 모두 평균(mean)을 예측하는 모형입니다. 잔차의 분산이 시간에 따라 일정하다(등분산, homoskedasticity)는 가정이 깔려 있습니다. 그런데 금융 수익률 데이터는 이 가정을 정면으로 위반합니다. 주가가 급락하는 날에는 변동성이 폭발하고, 조용한 시장에서는 변동이 거의 없습니다. 분산 자...
모형 구조와 추정 원리는 1부에서 다뤘습니다. 이 글에서는 실제 예시 적용, ARIMA·ETS와의 비교, 앙상블 전략, 활용 판단 기준을 살펴봅니다. 9. Prophet 강점이 드러나는 예시 — Peyton Manning Wikipedia 조회수 Air Passengers처럼 단순한 월별 데이터보다, Prophet의 강점이 명확하게 드러나는 예시로...
지금까지 ARIMA/SARIMA와 ETS를 살펴봤습니다. 두 모형군은 “과거 관측값의 함수”로 현재를 설명하는 방식입니다. 2017년 Facebook(현 Meta) Research 팀이 발표한 Prophet은 접근법이 다릅니다. 시간 $t$ 자체를 입력으로 받는 회귀 분해 모형입니다.1 1. Prophet의 포지션 ...
지난 시리즈에서 ARIMA/SARIMA를 끝까지 다뤘습니다. 시계열 분야에는 ARIMA와 거의 맞먹는 또 다른 표준 모형군이 있습니다. 지수평활(Exponential Smoothing) 과 그 정점인 ETS입니다. Hyndman & Athanasopoulos(2021)의 Forecasting: Principles and Practice에서도 A...
지금까지의 시리즈에서 정상성, 모수 추정, AR/MA/ARMA/ARIMA/SARIMA를 차례로 다뤘습니다. 이번 글은 그 모든 것을 실제 데이터 한 묶음에 적용해 처음부터 끝까지 한 사이클을 완주하는 글입니다. 데이터는 시계열 분야의 고전 — Air Passengers 입니다. 1949년 1월부터 1960년 12월까지 월별 국제선 항공 여객 수(천 ...
지난 포스팅에서 정상성과 모수 추정의 발상을 정리했습니다. 이번 글에서는 그 위에 본격적인 모형들을 올려 보겠습니다. AR, MA, ARMA, ARIMA, SARIMA, 그리고 SARIMAX까지. 이름이 많아 보이지만 실은 AR과 MA라는 두 가지 부품을 어떻게 조립하느냐의 차이입니다. 이번 글의 흐름은 이렇습니다. AR(1)과 MA(1) —...
서론 시계열 분석을 처음 공부하다 보면 “정상성(Stationarity)”이라는 단어를 피할 수 없습니다. ARMA나 VAR 같은 고전적인 시계열 모델들의 이론적 기반을 들여다보면, 대체로 정상성(stationarity) 또는 안정성 조건 위에서 전개됩니다. ARIMA는 비정상 시계열을 차분해 정상적인 ARMA 구조로 바꾸는 접근이고, GARCH는 ...