引言
So what is convex funtion? It is indicated in the following figure 1.
圖1. convex funtion 凸函數(shù)(引自CSDN blog)
還記得在國內(nèi)上本科時同濟的高等數(shù)學(xué)中對凸函數(shù)的定義嗎，你會發(fā)現(xiàn)這個定義和我們此處的相反
在同濟版高數(shù)中圖1這樣的函數(shù)被稱為凹函數(shù)。所以，中國大陸數(shù)學(xué)界某些機構(gòu)關(guān)于函數(shù)凹凸性定義和國外(圖1)的定義是相反的。
對于這兩種定義出現(xiàn)的原因，我認為我們不用去深究。
注意，后文中我們所說的凸函數(shù)（convex function）是圖1中所展示的形狀，對應(yīng)機器學(xué)習(xí)/優(yōu)化理論中所說的凸函數(shù)、凸優(yōu)化。
理解記憶方法https://www.zhihu.com/question/20014186：
- 凹凸函數(shù)本質(zhì)是描述函數(shù)斜率增減的。語義上凸為正，代表斜率在增加（單調(diào)不減）。凹為負，代表斜率在減少。(從圖1中可以看出，斜率是在增加，因此我們說這樣的函數(shù)是凸函數(shù))
- 凸函數(shù)的“二階導(dǎo)數(shù)為正”（圖1中函數(shù)圖像的二階導(dǎo)數(shù)為正）。
-
convex（凸函數(shù)），V樣子的函數(shù)；concave（凹函數(shù)），cave是洞穴的意思，參見圖2。convex（凸函數(shù)）指的是V形狀的函數(shù)，concave（凹函數(shù)）指的是^形狀的函數(shù)。
圖2 - 實際上，我們最好不要用凹函數(shù)這一說法，推行上凸和下凸（描述函數(shù)的凸性），都是凸函數(shù)。不是凸函數(shù)的，就是非凸函。在你心中，可以不記凹凸了，記得上凸、下凸是啥樣即可。
凸函數(shù)的數(shù)學(xué)定義/判定方法
-
定義：對于一元函數(shù)f(x)，如果對于任意t?[0,1]均滿足：
，則稱f(x)為凸函數(shù)(convex function)
從幾何上直觀地理解凸函數(shù)的特點，凸函數(shù)的割線在函數(shù)曲線的上方，如圖3所示：
圖3. 凸函數(shù) -
判定方法：對于一元函數(shù)f(x)，我們可以通過其二階導(dǎo)數(shù)f′′(x) 的符號來判斷。如果函數(shù)的二階導(dǎo)數(shù)總是非負，即f′′(x)≥0 ，則f(x)是凸函數(shù)。
對于多元函數(shù)f(X)，我們可以通過其Hessian矩陣（Hessian矩陣是由多元函數(shù)的二階導(dǎo)數(shù)組成的方陣）的正定性來判斷。如果Hessian矩陣是半正定矩陣，則是f(X)凸函數(shù)。 - 凸函數(shù)有一個很好的性質(zhì)，即只要能證明我們求解的問題是凸函數(shù)，最終得到的解一定是全局最優(yōu)解，即局部最優(yōu)解是全局最優(yōu)解（局部最小值是全局最小值）。
