最近,基于擴散的生成網(wǎng)絡(luò),如 Stable Diffusion、DALL-E2、Imagen 等,獲得了廣泛關(guān)注。在本文中,我嘗試介紹擴散模型的一些基礎(chǔ)知識。擴散模型的基礎(chǔ)是統(tǒng)計學(xué)和數(shù)學(xué)。因此,包括一些概念的統(tǒng)計復(fù)習(xí)。
本文分為多個部分——開始、基本概念、DULNT 和 DDPM 代碼、DDPM 論文中一些方程的推導(dǎo)、βt 計劃和培訓(xùn)、最新技術(shù)(ish、)、統(tǒng)計復(fù)習(xí)、詞匯表、和參考資料。最后幾節(jié)的內(nèi)容多于理解擴散模型所需的內(nèi)容。
本文中的很多內(nèi)容,特別是 Statistics Refresher 部分,是從參考資料部分提到的優(yōu)秀書籍和文章中派生或自由提取的。
文章中的方程式以多種形式編寫——偽代碼、Mathcha 等。偽代碼方程式更容易編寫,但很快就會變得難以理解。寫 Mathcha 方程有點費力,但最終結(jié)果更令人愉快。