問題
$ Y \ sim \ text {N}（\ text {mean} = \ mu、\ text {Var} = \ frac {1} {\ tau}）$。
サンプルに基づいて、ギブスサンプラーを使用して$ \ mu $と$ \ tau $の事後分布を取得します。
表記法
$ \ mu $ =母平均
$ \ tau $ =母集団の精度（1 /分散）
$ n $ =サンプルサイズ
$ \ bar {y} $ =サンプル平均
$ s ^ 2 $ =サンプル分散
ギブスサンプラー
[ Casella、G。&ジョージ、EI（1992）。ギブスサンプラーの説明。 American Statistician、46、167–174。]
反復時$ i $（$ i = 1、\ dots、N $ ）：
- サンプル$ \ mu ^ {（i）} $ from $ f（\ mu \、| \、\ tau ^ {（i-1）}、\ text {data} ）$（以下を参照）
- サンプル$ \ tau ^ {（i）} $ from $ f（\ tau \、| \、\ mu ^ {（i）}、\ text {data}） $（以下を参照）
理論により、十分な数の反復$ T $の後、セット$ \ {（ \ mu ^ {（𝑖）}、\ tau ^ {（𝑖）}）：i = T + 1、\ dots、𝑁\} $は、結合事後分布からのランダムサンプルと見なすことができます。
事前確率
$ f（\ mu、\ tau）= f（\ mu）\ f（\ tau）$の倍、
$ f（\ mu）\ propto 1 $
$ f（\ tau）\ propto \ tau ^ {-1} $
精度が与えられた場合の平均の条件付き事後確率 $$（\ mu \、| \、\ tau、\ text {data}）\ sim \ text {N} \ Big（\ bar {y}、\ frac {1} {n \ tau} \ Big）$$
精度の条件付き事後、平均 $$（\ tau \、| \、\ mu、\ text {data}）\ sim \ text {Gam} \ Big（\ frac {n} {2}、\ frac {2} {（n-1）s ^ 2 + n（\ mu- \ bar {y}）^ 2} \ Big）$$
（クイック）R実装
# summary statistics of sample n <- 30 ybar <- 15 s2 <- 3 # sample from the joint posterior (mu, tau | data) mu <- rep(NA, 11000) tau <- rep(NA, 11000) T <- 1000 # burnin tau[1] <- 1 # initialisation for(i in 2:11000) { mu[i] <- rnorm(n = 1, mean = ybar, sd = sqrt(1 / (n * tau[i - 1]))) tau[i] <- rgamma(n = 1, shape = n / 2, scale = 2 / ((n - 1) * s2 + n * (mu[i] - ybar)^2)) } mu <- mu[-(1:T)] # remove burnin tau <- tau[-(1:T)] # remove burnin
$$ $$
hist(mu) hist(tau)
コメント