VC維(Vapinik Chervonenkis Dimension)可以度量模型的表達(dá)能力(representational power).
Learner & Complexity
underfit vs overfit
Before we define VC

Test Error(Long term)

Training Error(Finite)

With High prob, Vapinik shows the upper bound

定義
換言之, VC維度H是表示f(x)能打散(shatter)的最大樣本數(shù). 這里youtuber給了一個(gè)很形象的解釋, 假設(shè)兩個(gè)玩家在比賽, 首先1號(hào)選擇維度, 二號(hào)給維度中的點(diǎn)labels,讓一號(hào)玩家選擇theta區(qū)分開, 如果1號(hào)玩家能區(qū)分開來, 那么1號(hào)玩家贏了.
youtube講解