문제
$ Y \ sim \ text {N} (\ text {mean} = \ mu, \ text {Var} = \ frac {1} {\ tau}) $.
샘플을 기반으로 Gibbs 샘플러를 사용하여 $ \ mu $ 및 $ \ tau $의 사후 분포를 얻습니다.
표기법
$ \ mu $ = 모집단 평균
$ \ tau $ = 모집단 정밀도 (1 / 분산 )
$ n $ = 표본 크기
$ \ bar {y} $ = 표본 평균
$ s ^ 2 $ = 표본 분산
Gibbs 샘플러
[ Casella, G. & George, EI (1992). Gibbs 샘플러를 설명합니다. The American Statistician, 46, 167–174. ]
반복시 $ i $ ($ i = 1, \ dots, N $ ) :
- $ f (\ mu \, | \, \ tau ^ {(i-1)}, \ text {data}에서 $ \ mu ^ {(i)} $ 샘플 ) $ (아래 참조)
- $ f (\ tau \, | \, \ mu ^ {(i)}, \ text {data})의 샘플 $ \ tau ^ {(i)} $ $ (아래 참조)
이론은 충분히 많은 수의 반복 ($ T $) 후에 $ \ {( \ mu ^ {(𝑖)}, \ tau ^ {(𝑖)}) : i = T + 1, \ dots, 𝑁 \} $는 사후 관절 분포에서 무작위 표본으로 볼 수 있습니다.
이전
$ f (\ mu, \ tau) = f (\ mu) \ f (\ tau) $,
$ f (\ mu) \ propto 1 $
$ f (\ tau) \ propto \ tau ^ {-1} $
정밀도를 고려할 때 평균에 대한 조건부 사후 $$ (\ mu \, | \, \ tau, \ text {data}) \ sim \ text {N} \ Big (\ bar {y}, \ frac {1} {n \ tau} \ Big) $$
정밀도에 대한 조건부 사후 , 주어진 평균 $$ (\ tau \, | \, \ mu, \ text {data}) \ sim \ text {Gam} \ Big (\ frac {n} {2}, \ frac {2} {(n-1) s ^ 2 + n (\ mu-\ bar {y}) ^ 2} \ Big) $$
(빠른) R 구현
# summary statistics of sample n <- 30 ybar <- 15 s2 <- 3 # sample from the joint posterior (mu, tau | data) mu <- rep(NA, 11000) tau <- rep(NA, 11000) T <- 1000 # burnin tau[1] <- 1 # initialisation for(i in 2:11000) { mu[i] <- rnorm(n = 1, mean = ybar, sd = sqrt(1 / (n * tau[i - 1]))) tau[i] <- rgamma(n = 1, shape = n / 2, scale = 2 / ((n - 1) * s2 + n * (mu[i] - ybar)^2)) } mu <- mu[-(1:T)] # remove burnin tau <- tau[-(1:T)] # remove burnin
$$ $$
hist(mu) hist(tau)
댓글