Shiloh Dynasty-切片采樣02（Gibbs）（-L1- remix）歌詞

作詞 : -L1-
作曲 : -L1-
吉布斯采樣常用于統(tǒng)計(jì)推斷（尤其是貝葉斯推斷）之中。
這是一種隨機(jī)化算法，與最大期望算法等統(tǒng)計(jì)推斷中的確定性算法相區(qū)別。
與其他MCMC算法一樣，吉布斯采樣從馬爾科夫鏈中抽取樣本，
可以看作是Metropolis–Hastings算法的特例，
可以由馬爾科夫鏈和概率轉(zhuǎn)移矩陣的性質(zhì)推出其采樣分布最終收斂于聯(lián)合分布。
該算法的名稱源于約西亞·威拉德·吉布斯，
由斯圖爾特·杰曼與唐納德·杰曼兄弟于1984年提出。
吉布斯采樣適用于條件分布比邊緣分布更容易采樣的多變量分布。
在統(tǒng)計(jì)學(xué)和統(tǒng)計(jì)物理學(xué)中，
gibbs抽樣是馬爾可夫鏈蒙特卡爾理論（MCMC）中用來(lái)獲取一系列近似等于指定多維概率分布（比如2個(gè)或者多個(gè)隨機(jī)變量的聯(lián)合概率分布）觀察樣本的算法。吉布斯采樣算法識(shí)別模體的基本原理通過隨機(jī)采樣不斷更新模體模型及其在各條輸入序列中出現(xiàn)的位置，優(yōu)化目標(biāo)函數(shù)，當(dāng)滿足一定的迭代終止條件或者達(dá)到最大迭代次數(shù)時(shí)就得到了最終所求的模體。吉布斯采樣算法是一種啟發(fā)式學(xué)習(xí)方法，它假定每一條序列只包含一個(gè)特定長(zhǎng)度的模體實(shí)例，在各條序列上隨機(jī)選取一個(gè)模體的起始位置，這樣便得到了初始訓(xùn)練集，然后通過更新步驟和采樣步驟迭代改進(jìn)模體模型 [1] 。假設(shè)我們需要從聯(lián)合分布 中抽取 的 個(gè)樣本，記第i個(gè)樣本為 。吉布斯采樣的過程則為：
確定初始值 ；
假設(shè)已得到樣本 ，記下一個(gè)樣本為 ，于是可將其看作一個(gè)向量，
對(duì)其中某一分量 ，
可通過在其他分量已知的條件下該分量的概率分布來(lái)抽取該分量。
對(duì)于此條件概率，我們使用樣本 ，中已得到的分量 到 以及上一樣本
中的分量 到 ，即 。重復(fù)上述過程 k次。如果僅考慮其中部分變量，
則可以得到這些變量的邊緣分布。
此外，我們還可以對(duì)所有樣本求某一變量的平均值來(lái)估計(jì)該變量的期望。