Gibbs Sampling이 어떻게 작동하는지 배우고 싶은데 좋은 기초부터 중급까지의 논문을 찾고 있습니다. 저는 컴퓨터 과학 배경과 기본적인 통계 지식이 있습니다.
좋은 자료를 읽은 사람이 있습니까? 어디서 배웠나요?
감사합니다
댓글
- 인터넷 검색 " Gibbs 샘플링 "은 ' 주제에 대한 다양한보기를 얻는 데 나쁜 방법이 아닙니다. " 회의적 사고 "로 접근하는 경향이 있기 때문에 시작하기에 좋은 방법이라고 생각합니다. ' Google의 말을 당연하게 여기지 않으므로 다양한보기를 찾아야합니다. 물론 나중에 구현하려고 할 때 평판 좋은 소스가 필요할 수 있습니다. 그러나 " 신뢰할 수있는 출처 "로 시작하는 것이 항상 최선의 아이디어는 아닙니다. 특정 작업 방식에 상당히 집착 할 수 있기 때문입니다. -즉, " 올바른 방법 " 및 " 다른 모든 것이 잘못되었거나 효과가 없음을 알고 있습니다. ".
- (+ 1) 인터넷 검색으로 쉽게 답변 할 수있는 질문은 일반적으로 환영받지 못하지만이 IMO는 커뮤니티의 집단적 지혜를 활용하려고합니다. Google 순위가 할 수없는 방식으로. 사람들이이 자료를 배우는 데 정말 유용하다고 생각한 출처를 보는 것은 흥미로울 것입니다.
- 그게 문제입니다. Google은 너무 많은 결과를 반환하고 모든 논문이나 자습서가 명확하지 않습니다.
답변
I ” d 시작 :
Casella, George; George, Edward I. (1992). “ Gibbs 샘플러 설명 “. 미국 통계 학자 46 (3) : 167–174. ( 무료 PDF )
추상 : Gibbs 샘플러와 같은 컴퓨터 집약적 인 알고리즘은 응용 및 이론 작업 모두에서 점점 더 인기있는 통계 도구가되었습니다. 그러나 이러한 알고리즘의 속성은 때때로 명확하지 않을 수 있습니다. 여기서는 간단한 설명을 제공합니다. Gibbs 샘플러가 작동하는 방식과 이유에 대해 설명합니다. 간단한 케이스에서 속성을 분석적으로 설정하고 더 복잡한 케이스에 대한 통찰력을 제공합니다. 또한 많은 예가 있습니다.
미국 통계 학자 는 합리적으로 예상 할 수있는 확률 및 통계에 대한 배경 지식이 있다고 가정하지만 주제에 대한 사전 지식이 없다고 가정하지 않는 짧은 소개 기사의 좋은 출처입니다. 미국 통계 협회 회원의 회원입니다.
답변
Gibbs Sampling을 이해하는 데 실제로 도움이 된 온라인 기사 중 하나는 Gregor Heinrich의 텍스트 분석을위한 매개 변수 추정 입니다. 일반적인 Gibbs 샘플링 자습서는 아니지만 문서 모델링을위한 상당히 인기있는 베이지안 모델 인 잠재 디리클레 할당과 관련하여 논의합니다. 수학에 대해 상당히 자세히 설명합니다.
더 철저한 수학적 세부 사항은 초보자를위한 Gibbs 샘플링 입니다. 그리고 이것은 다변량 계산법을 알고 있다고 가정하고 그 시점부터 모든 단계를 레이아웃한다는 점에서 철저 함을 의미합니다. 그래서 “많은 수학이 있지만 그 중 어느 것도 고급이 아닙니다.
나는 이것이 Gibbs 샘플링이 왜 다음과 같이 수렴하는지 증명하는 것과 같이 더 진보 된 결과를 도출하는 것보다 당신에게 더 유용 할 것이라고 가정합니다. 올바른 배포. 내가 지적한 참조는이를 증명하지 않습니다.
답변
책 Monte Carlo Strategies in Scientific Computing 은 훌륭한 리소스입니다. 수학적으로 엄격한 방식으로 문제를 다루지 만 관심이없는 수학 섹션을 쉽게 건너 뛰고 실용적인 조언을 많이 얻을 수 있습니다. . 특히 Metropolis-Hastings와 Gibbs 샘플링을 함께 연결하는 데 매우 중요한 역할을합니다. 대부분의 응용 프로그램에서 Gibbs 샘플링을 사용하여 사후 분포에서 추출해야하므로 일반적으로 Metropolis 논리에 어떻게 부합하는지 아는 것이 도움이됩니다.