image.png
AutoML搜索空間過大的問題，3個(gè)解決方法：
基礎(chǔ)搜索方法——慢
-
基于采樣的方法——無法獲取導(dǎo)數(shù)信息，只有函數(shù)值
image.png
2.1. 基于強(qiáng)化學(xué)習(xí)image.png
image.png
image.png 熱點(diǎn)
效率提升：每次扔掉表現(xiàn)不好的參數(shù)中的一半
用不同采樣率進(jìn)行多保真度學(xué)習(xí)，沒有拋棄整個(gè)數(shù)據(jù)集
-
組合優(yōu)化：淘汰表現(xiàn)不好的worker，然后熱啟動(dòng)加入新的worker，此方法表現(xiàn)較好
image.png 泛化性：集成學(xué)習(xí)
理論角度看AutoML
沒有免費(fèi)午餐定理：沒有一個(gè)算法能解決所有問題
2.希望找到一類算法可以解決一部分問題AutoML目標(biāo)是尋找更通用的機(jī)器學(xué)習(xí)算法，本質(zhì)還是機(jī)器學(xué)習(xí)
應(yīng)用
提交算法，看不到訓(xùn)練集和測試集，進(jìn)行盲測，NIPS2018加入了動(dòng)態(tài)數(shù)據(jù)的場景（如用戶興趣發(fā)生變化）
圖像數(shù)據(jù)
表數(shù)據(jù)未來方向
1.全流程優(yōu)化
2.樣本復(fù)雜度學(xué)件的思想
目前多做優(yōu)化，未來可能會(huì)多做泛化
安全性問題，應(yīng)對(duì)攻擊、噪聲、保護(hù)隱私
具體領(lǐng)域如金融、醫(yī)療
理論的bound，可以畫多大圈
