Chcę się dowiedzieć, jak działa próbkowanie Gibbsa i szukam dobrej pracy od podstawowego do średnio zaawansowanego. Posiadam wykształcenie informatyczne i podstawową wiedzę statystyczną.
Czy ktoś przeczytał w pobliżu dobre materiały? gdzie się tego nauczyłeś?
Dzięki
Komentarze
- googling " Próbkowanie Gibbsa " nie jest ' to zły sposób na uzyskanie szerokiego zakresu opinii na ten temat. Myślę, że to dobry sposób na rozpoczęcie, ponieważ podchodzisz do tego z " sceptycznym umysłem " – możesz ' Nie traktuj google jako pewnik, więc musisz znaleźć zakres widoków. Oczywiście na późniejszym etapie, gdy będziesz próbował zaimplementować, możesz potrzebować zaufanego źródła. Jednak rozpoczęcie od " renomowanego źródła " nie zawsze jest najlepszym pomysłem, ponieważ mogą być bardzo przywiązani do określonego sposobu robienia czegoś – tzn. wiedzą, że " właściwy sposób " i " wszystkie inne są błędne lub nieskuteczne ".
- (+1) Pytania, na które można łatwo odpowiedzieć w Google, zwykle nie są mile widziane, ale ta IMO próbuje wykorzystać zbiorową mądrość społeczności w sposób, którego nie potrafi ranking Google. Byłoby interesujące zobaczyć, jakie źródła naprawdę uznano za przydatne do nauki tego materiału.
- W tym tkwi problem. Google zwraca zbyt wiele wyników i nie wszystkie artykuły i samouczki są wystarczająco jasne.
Odpowiedz
I ” d zacznij od:
Casella, George; George, Edward I. (1992). „ Explaining the Gibbs sampler „. The American Statistician 46 (3): 167–174. ( BEZPŁATNY PDF )
Streszczenie : Algorytmy intensywnie wykorzystujące komputer, takie jak sampler Gibbsa, stają się coraz bardziej popularnymi narzędziami statystycznymi, zarówno w zastosowaniach, jak i teoretycznych. Właściwości takich algorytmów mogą jednak czasami nie być oczywiste. Tutaj podajemy proste wyjaśnienie o tym, jak i dlaczego działa próbnik Gibbsa. Analizujemy jego właściwości w prostym przypadku i zapewniamy wgląd w bardziej skomplikowane przypadki. Istnieje również wiele przykładów.
The American Statistician jest często dobrym źródłem krótkich (ish) artykułów wprowadzających, które nie zakładają żadnej wcześniejszej znajomości tematu, chociaż zakładają, że masz podstawy w zakresie prawdopodobieństwa i statystyk, których można rozsądnie oczekiwać członka Amerykańskiego Stowarzyszenia Statystycznego .
Odpowiedź
Jednym z artykułów online, który naprawdę pomógł mi zrozumieć Gibbs Sampling, jest Estymacja parametrów do analizy tekstu autorstwa Gregora Heinricha. Nie jest to ogólny samouczek dotyczący próbkowania Gibbsa, ale omawia go w kategoriach alokacji utajonego dirichleta, dość popularnego modelu bayesowskiego do modelowania dokumentów. Wchodzi w matematykę dość szczegółowo.
bardziej wyczerpujące matematyczne szczegóły to Próbkowanie Gibbsa dla niewtajemniczonych . I mam na myśli wyczerpujące, ponieważ zakłada, że znasz jakiś rachunek różniczkowy, a następnie przedstawia każdy krok od tego punktu. Więc chociaż jest dużo matematyki, żadna z nich nie jest zaawansowana.
Zakładam, że będą one bardziej przydatne niż coś, co daje bardziej zaawansowane wyniki, takie jak te, które dowodzą, dlaczego próbkowanie Gibbsa zbiega się do poprawna dystrybucja. Odnośniki, na które zwracam uwagę, nie dowodzą tego.
Odpowiedź
Książka Strategie Monte Carlo w informatyce naukowej to doskonałe źródło informacji. Zajmuje się zagadnieniami w matematycznie rygorystyczny sposób, ale można z łatwością pominąć sekcje matematyczne, które Cię nie interesują, i nadal czerpać z nich mnóstwo praktycznych porad . W szczególności wykonuje dobrą robotę, łącząc ze sobą pobieranie próbek Metropolis-Hastings i Gibbs, co jest kluczowe. W większości aplikacji będziesz musiał rysować z późniejszej dystrybucji przy użyciu próbkowania Gibbsa, więc wiedza, jak to pasuje do logiki Metropolis w ogóle, jest pomocna.