一份關(guān)于 LQR 的簡(jiǎn)單易懂的入門級(jí)教程，它是最優(yōu)控制的基礎(chǔ)概念。 我將會(huì)在這篇文章中討論最優(yōu)控制，并會(huì)更具體的討論性能非常優(yōu)秀的線性二次調(diào)節(jié)器。在最優(yōu)控制領(lǐng)域中，它的使用頻...
發(fā)簡(jiǎn)信
IP屬地：上海
-
最優(yōu)控制: LQR -
偽隨機(jī)數(shù)算法生成高斯分布
偽隨機(jī)數(shù)算法 平方取中法（Middle-square method）是個(gè)產(chǎn)生偽隨機(jī)數(shù)的方法，由馮·諾伊曼在1946年提出。 算法： 即 平方取中法計(jì)算較快，但在實(shí)際應(yīng)用時(shí)會(huì)發(fā)...
-
-
從傅里葉級(jí)數(shù)到快速傅里葉變換
在計(jì)算機(jī)上編程做信號(hào)處理時(shí)，我們通常用的是FFT, 但是開始學(xué)信號(hào)處理時(shí)，一般是從FS開始的。所以這里整理一下從FS到FFT“演變”的過程。以下是傅里葉“家族”的一些名稱: ...
-
噪聲對(duì)比估計(jì)
說到噪聲對(duì)比估計(jì)，或者“負(fù)采樣”，大家可能立馬就想到了Word2Vec。事實(shí)上，它的含義遠(yuǎn)不止于此，噪音對(duì)比估計(jì)（NCE, Noise Contrastive Estimat...
-
Ring AllreduceThe Communication Problem 當(dāng)將神經(jīng)網(wǎng)絡(luò)的訓(xùn)練并行化到許多GPU上時(shí)，你必須選擇如何將不同的操作分配到你可用的不同GPU上。在這里，我們關(guān)注一種稱為數(shù)...
-
-
CUDA——"從入門到放棄"開篇一張圖，后面聽我編 1. 知識(shí)準(zhǔn)備 1.1 中央處理器（CPU） 中央處理器（CPU，Central Processing Unit）是一塊超大規(guī)模的集成電路，是一臺(tái)計(jì)算...
-
《強(qiáng)化學(xué)習(xí)導(dǎo)論》：Policy Gradient Methods在這一章中，我們討論策略梯度 Policy Approximation and its Advantages the approximate policy can appro...
-
《強(qiáng)化學(xué)習(xí)導(dǎo)論》：Eligibility Traces資格跡是增強(qiáng)學(xué)習(xí)的一個(gè)基本的機(jī)制。比如在流行的TD(k)算法中，k涉及到資格跡的使用。幾乎所有的時(shí)間差分算法如Q-Learning，Sarsa，都能被結(jié)合資格跡來獲得更有效的...
-
《強(qiáng)化學(xué)習(xí)導(dǎo)論》：Off-policy Methods with ApproximationSemi-gradient Methods 前面?zhèn)€章節(jié)中，我們提到了表格法的異策略，這里稍作修改得到半梯度的異策略算法 對(duì)于動(dòng)作值函數(shù) 可以看到這里并沒有使用重要性采樣，這是...
-
在VS code中使用MSVC+命令行編譯生成C++程序
在Windows下，想要編譯C++程序有很多種實(shí)現(xiàn)方式，Clang+LLVM，GCC，MSVC等。一般而言，要想使用微軟的MSVC編譯C++程序，需要用到龐大的IDE：Vis...
-
《深度學(xué)習(xí)》：直面配分函數(shù)許多概率模型（通常是無向圖模型）由一個(gè)未歸一化的概率分布定義，我們必須除以配分函數(shù)來歸一化 對(duì)數(shù)似然梯度 通過最大似然學(xué)習(xí)無向模型特別困難的原因在于配分函數(shù)依賴于參數(shù)。對(duì)數(shù)似...
-
《模式識(shí)別與機(jī)器學(xué)習(xí)》：概率分布二元變量 伯努利分布 似然函數(shù)為 對(duì)數(shù)似然函數(shù)為 如果我們令關(guān)于u的導(dǎo)數(shù)等于零，我們就得到了最大似然的估計(jì)值 現(xiàn)在假設(shè)我們?nèi)右粋€(gè)硬幣3次，碰巧3次都是正面朝上。那么N=m= ...
-
《深度學(xué)習(xí)》：蒙特卡洛方法采樣和蒙特卡洛方法 當(dāng)無法精確計(jì)算和或積分（例如，和具有指數(shù)數(shù)量個(gè)項(xiàng)，且無法被精確簡(jiǎn)化） 時(shí)，通?？梢允褂妹商乜_采樣來近似它 根據(jù)大數(shù)定理，如果樣本x是獨(dú)立同分布的，那么其...
-
《深度學(xué)習(xí)》：深度學(xué)習(xí)中的結(jié)構(gòu)化概率模型結(jié)構(gòu)化概率模型為隨機(jī)變量之間的直接作用提供了一個(gè)正式的建?？蚣堋＿@種 方式大大減少了模型的參數(shù)個(gè)數(shù)以致于模型只需要更少的數(shù)據(jù)來進(jìn)行有效的估計(jì)。 這些更小的模型大大減小了在模型...
-
《深度學(xué)習(xí)》：表示學(xué)習(xí)我們可以將監(jiān)督學(xué)習(xí)訓(xùn)練的前饋網(wǎng)絡(luò)視為表示學(xué)習(xí)的一種形式。具體地，網(wǎng)絡(luò)的最后一層通常是線性分類器，如 softmax 回歸分類器。網(wǎng)絡(luò)的其余部分學(xué)習(xí)出該分類器的表示。 貪心逐層...
-
《深度學(xué)習(xí)》：自編碼器自編碼器的一般結(jié)構(gòu) 從自編碼器獲得有用特征的一種方法是限制 h 的維度比 x 小，這種編碼維度 小于輸入維度的自編碼器稱為欠完備（undercomplete）自編碼器。 學(xué)習(xí)...