MCMC는 Markov Chain Monte Carlo을 가리킵니다. 일종의 시뮬레이션 기법입니다.
기본적으로 "Monte Carlo"에 "Markov Chain"을 더하여 조합한 말입니다.

시뮬레이션은, 어떤통계모델이 분석적으로 해석하기엔 너무 복잡하거나 결과값에 대한 확률분포가 우리에게 알려진 확률분포(정규분포, 지수분포, 포아송분포등의 자연계의 존재 특성의 통계적 관측 모형)가 아니라면 결과를 해석하기에 어려움이 많으므로 이 통계모형의 결과를 시뮬레이션으로 보여주면 결과에 대한 이해가 아주 쉽기 때문에 특히 요즘 통계모형이 점점더 다차원화되면서 복잡해지는때에 컴퓨터의 발달에 덕을 많이 보아 널리 사용되고 있습니다.

이렇게 확률변수(random variable)을 simulation하는것을 Monte Carlo 기법이라고 하는데요. MCMC는 확률변수를 simulation하기는 하는데, Markov Chain을 이용한다는 것이지요.

Markov Chain은, 확률변수가 있는데, 시계열로 시리즈로 있다고 생각해 보세요. 초기값 y0 부터 다음시점에값 y1, y2,...yt 까지 하나의 시리즈로 되어있는 확률변수요. Markov Chain은 이런 시리즈의 확률변수들이 하나의 고리 또 그다음 고리가 체인처럼 연결되어 있듯이 연결되어 있는모델을 말합니다. 즉 y1은 y0에 연결되어있고, y2 는 y1에 연결되어 있고요. 체인같은 그림을 상상하시면 될겁니다. 그럼 예를 들어 이 y5는 y4와는 연결되어 있지만 그이전의 체인과는 연결되어 있지 않습니다. 이것을 Markov속성이라고 하지요. 즉, 오늘의 확률변수의 값은 어제의 확률변수 값에만 연관이 있고, 그 이전것과는 연관이 없다는 것이지요. 사실 전체 그림을 보면 하나하나 사슬로 연결이 되어있어 처음사슬이 마지막사슬로 연결이 되어있긴합니다만 직접 연결된것은 아니지요. 여기에서 초기값 y0가 마지막 값 yt에 얼마나 영향을 미칠까요. 거꾸로 보면 yt는 yt-1에만 영향이 있고 이전것에는 영향이 없습니다. yt-1도 마찬가지 이구요. 그렇게 보면 이 사슬이 길어질수록 점점 초기값에 대한 영향은 "잊게"되겠지요.

MCMC는 Monte Carlo시뮬레이션을 하는데 바로 이러한 Markov Chain의 성질을 이용한 것입니다. 예컨대우리가 관심이 있는 확률변수는 어떤 아주 복잡하고 알려지지 않은 확률분포를 하고 있어서 오로지 시뮬레이션에 의해서만 이해가 가능합니다. 대체로 다차원(high-dimensional, hierarchical model)의 통계모형이 그렇지요. 그럼 우리가 관심있는 확률변수에 임의의 초기값을 줍니다. 이 초기값들은 우리가 관심있어하는 확률분포의 함수에서 나온것이 아닐지도 몰라요. 그러나 이 초기값을 근거로 하나의 확률변수의 값을 simulation하고 그 만들어진 값이 초기값을 대체하고, 이것을 근거로 또 다른 확률변수의 값을 simulation하고 하는 마치 chain같은 과정의 simulation을 오랫동안 거치게 되면 초기값의 영향은 점점 잊혀지게 되고 결국에는 우리가 관심있어하는 바로 그 확률함수에서 나온 값들을 simulation의 결과로 가질수 있게 됩니다. 이렇게 사슬이 길게 진행되어 어떤 '안정된'상태에 도다르게 되면 처음의 불안정한 사슬은 떼어버리고, 안정된 상태의 사슬에서 simulation된 값들을 가지고 어떠한 의미있는 해석을 할 수 있겠지요.

-- Source : http://sajun.org/index.php/MCMC

'** J's Story ** > [Statistics Story]' 카테고리의 다른 글

Regression methods  (2) 2009.09.09
RExcel  (1) 2009.09.09
Lagrange Multiplier  (3) 2009.09.09
Logistic Regression  (1) 2009.09.09
Newton-Raphson Method  (2) 2009.09.09
MCMC(Markov Chain Monte Carlo)  (6) 2009.09.09

블로그 이미지

J.Yeun

행복은 내가 만들어 가는 것이다..

카테고리

@__All that T&J__@ (76)
** T & J 's Life ** (22)
** J's Story ** (54)