反向傳播（英語：Backpropagation，縮寫為BP）是“誤差反向傳播”的簡稱，是一種與最優(yōu)化方法（如梯度下降法）結(jié)合使用的，用來訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)的常見方法。該方法對網(wǎng)...
發(fā)簡信
IP屬地：北京
-
反向傳播 -
Bagging-隨機森林
Bagging流派的機器學(xué)習(xí), 其學(xué)習(xí)器之間沒有沒有依賴關(guān)系, 這意味著可以并行計算, Bagging的弱學(xué)習(xí)器之間沒有boosting那樣的聯(lián)系, 它的特點在于隨機采樣, ...
-
Boost-GBDT
GBDT也是集成學(xué)習(xí)Boosting家族的成員，但是卻和傳統(tǒng)的Adaboost有很大的不同。回顧下Adaboost，我們是利用前一輪迭代弱學(xué)習(xí)器的誤差率來更新訓(xùn)練集的權(quán)重，這...
-
Boost-Adaboost
我們知道boost系列是強依賴關(guān)系, 有這個依賴, 各個學(xué)習(xí)器之間還有這些問題沒有解決: 如何計算學(xué)習(xí)的誤差率 如何得到弱學(xué)習(xí)器的權(quán)重 如何更新樣本權(quán)重? 使用何種結(jié)合策略?...
-
總覽集成學(xué)習(xí)(ensemble learning)本身不是一個單獨的機器學(xué)習(xí)算法，而是通過構(gòu)建并結(jié)合多個機器學(xué)習(xí)器來完成學(xué)習(xí)任務(wù)。也就是我們常說的“博采眾長”。集成學(xué)習(xí)可以用于分...
-
總結(jié)
決策樹算法的有點 簡單, 直觀, 可解釋性強, 建樹容易 不需要預(yù)處理, 歸一化, 以及處理缺失值 離散值, 連續(xù)值, 及其混合都可以處理 能夠多分類 缺點 容易過擬合, 泛...
-
分治法
分治算法的基本思想是將一個規(guī)模為N的問題分解為K個規(guī)模較小的子問題，這些子問題相互獨立且與原問題性質(zhì)相同。求出子問題的解，就可得到原問題的解。即一種分目標(biāo)完成程序算法，簡單問...
-
CART在ID3算法中我們使用了信息增益來選擇特征，信息增益大的優(yōu)先選擇。在C4.5算法中，采用了信息增益比來選擇特征，以減少信息增益容易選擇特征值多的特征的問題。但是無論是ID3還...
-
C4.5
ID3算法存在的不足, 在C4.5里面有了改進 不能處理連續(xù)特征的問題C4.5的思路是將連續(xù)特征離散化. 比如m個樣本, 特征A有m個連續(xù)的值, 取兩個樣本值的中位數(shù),這樣一...
-
ID3
基于信息增益(Information Gain)的ID3算法 ID3算法的核心是在各個結(jié)點上應(yīng)用信息增益準則來進行特征選擇，以此遞歸的構(gòu)建決策樹，具體方法是：從根結(jié)點開始，對...
-
DFS-矩陣類
這類問題一般給一個矩陣，要求矩陣內(nèi)滿足條件的一些元素。這類問題的一般做法是：先遍歷整個矩陣，并找到要DFS的位置/元素， 把他們push入棧，然后對棧內(nèi)元素進行DFS。當(dāng)然，...
-
DFS-棧
遞歸需要消耗額外的資源，這些資源是：1.遞歸由于是函數(shù)調(diào)用自身，而函數(shù)調(diào)用是有時間和空間的消耗的：每一次函數(shù)調(diào)用，都需要在內(nèi)存棧中分配空間以保存參數(shù)、返回地址以及臨時變量，而...
-
DFS+遞歸遞歸是實現(xiàn)DFS策略的經(jīng)常性手段 Path Sum II Given a binary tree and a sum, find all root-to-leaf paths...
-
DFS-常規(guī)/熱身DFS一般的流程是這樣的：從一個點出發(fā)，遍歷其中一個鄰居節(jié)點w, 然后接著遍歷w的一個鄰居節(jié)點，當(dāng)遍歷到最后一個節(jié)點之后，回退回上一個已經(jīng)被遍歷過的節(jié)點，接著遍歷這個節(jié)點的未...
-
BFS+Other Algorithm
Network Delay Time There are N network nodes, labelled 1 to N. Given times, a list of t...
-
BFS+鄰接表All Nodes Distance K in Binary Tree We are given a binary tree (with root node root), a...
-
深度優(yōu)先搜索-搜索特定結(jié)點類1. N-ary Tree Level Order Traversal Given an n-ary tree, return the level order travers...
-
Leetcode-BFS廣度優(yōu)先搜索類似二叉樹的層次遍歷，它的基本思想是：首先訪問頂點v，接著由v出發(fā)，依次訪問v的鄰接節(jié)點w1,w2,.然后再依次訪問w1,w2..的鄰接節(jié)點。BFS不像DFS那樣...