A critique of pure learning and what artificial neural
networks can learn from animal brains

Abstract

1 認(rèn)為大多數(shù)動(dòng)物行為不是聰明的學(xué)習(xí)算法（有/ 無監(jiān)督）的結(jié)果。
2 動(dòng)物天生具有高度結(jié)構(gòu)化的大腦連接能力。
3 基因組瓶頸（genomic bottleneck）對(duì)大腦復(fù)雜連接進(jìn)行壓縮，為ANN快速學(xué)習(xí)提供建議。

Boomshit

1 “機(jī)器擁有超過人類的智慧” 這一看法再次盛行。許多人認(rèn)為 technological singularity- 人工智能失控增長(zhǎng)改變?nèi)祟愇拿鞯臅r(shí)刻即將到來。
3 ANNs 仍遠(yuǎn)未接近人類智力。在語言推理等基礎(chǔ)能力方面甚至無法超過4歲兒童。
4 如果機(jī)器達(dá)到了小鼠智能，那么再達(dá)到人類智能將只是一小步。
5 ANNs的發(fā)明是為了根據(jù)神經(jīng)系統(tǒng)使用計(jì)算機(jī)原理構(gòu)建人工系統(tǒng)。
6 動(dòng)物的學(xué)習(xí)依賴于先天機(jī)制和學(xué)習(xí)的結(jié)合。
7 基因組瓶頸 -- 進(jìn)化捕獲的任何先天過程對(duì)基因組的壓縮，作為對(duì)大腦連接規(guī)則的正則化約束。

Learning by ANNs

1 symbolic AI and ANNs.
2 符號(hào)AI 程序員有責(zé)任明確的對(duì)系統(tǒng)進(jìn)行操作的算法進(jìn)行編程。 ANNs 從數(shù)據(jù)中進(jìn)行學(xué)習(xí)。
3 ANNs 的 Learning 是指從輸入數(shù)據(jù)中提取結(jié)構(gòu)（統(tǒng)計(jì)規(guī)律性）并將該結(jié)構(gòu)編碼為網(wǎng)絡(luò)參數(shù)。 監(jiān)督 無監(jiān)督 強(qiáng)化學(xué)習(xí)。
4 ANNs 中 網(wǎng)絡(luò)靈活性 與 網(wǎng)絡(luò)所需的數(shù)據(jù)量 之間的權(quán)衡稱為 偏方差權(quán)衡。大型網(wǎng)絡(luò)需要大量帶標(biāo)簽的訓(xùn)練數(shù)據(jù)。

Learning by Animals

1 Learning 指行為的長(zhǎng)期變化，是經(jīng)驗(yàn)的結(jié)果。
2 人工系統(tǒng)的學(xué)習(xí)同新生兒的學(xué)習(xí)幾乎沒有相思住處。
3 如果智力是蛋糕，那么大部分蛋糕都是無監(jiān)督學(xué)習(xí)，糖衣是有監(jiān)督學(xué)習(xí)，櫻桃為無監(jiān)督算法。
4 也許存在利用全部感覺輸入的無監(jiān)督算法來利用這一個(gè)龐大的數(shù)據(jù)池。

Learning and innate behavior in animals

1 動(dòng)物如何在出生后這么快就發(fā)揮良好的功能。
2 無監(jiān)督機(jī)制不能解釋，我們的許多感官表現(xiàn)和行為很大程度上是與生俱來的。
3 天生與學(xué)習(xí)策略之間的進(jìn)化權(quán)衡。聯(lián)想到監(jiān)督學(xué)習(xí)的 偏方差權(quán)衡。

Innate and learned behaviors are synergistic

1 認(rèn)知圖的支架是先天的，但是后天學(xué)習(xí)了在該支架上構(gòu)建特定圖。
2 先天認(rèn)知同后天學(xué)習(xí)起協(xié)同作用。

Genomes specify rules for brain wiring

1 基因組編碼了神經(jīng)系統(tǒng)結(jié)構(gòu)，連接，強(qiáng)度。
2 在一些簡(jiǎn)單生物中，基因組有能力指定每個(gè)神經(jīng)元之間的連接。
3 但是在一些較大的大腦中，基因組沒有足夠能力明確指定每一個(gè)連接。
4 因此，在大腦較大且稀疏連接的大腦中，可能需要大多數(shù)信息來指定連接矩陣的非零位置，而不是精確值（連接規(guī)則）。
5 動(dòng)物腦中的回路似乎依賴于重復(fù)模塊。

Superbised learning or supervised evolution

1 進(jìn)化，如學(xué)習(xí)，也能被看作是統(tǒng)計(jì)規(guī)律性的機(jī)制，盡管時(shí)間尺度比學(xué)習(xí)長(zhǎng)的多。
2 人工神經(jīng)網(wǎng)絡(luò)從事的優(yōu)化過程必須模仿在進(jìn)化過程中所學(xué)到的知識(shí)以及一生中的學(xué)習(xí)過程，而對(duì)于動(dòng)物而言，學(xué)習(xí)僅指的是生命中的變化。
3 在動(dòng)物中，有兩個(gè)嵌套的優(yōu)化過程：在世代時(shí)間尺度上起作用的外部“進(jìn)化”循環(huán)，以及對(duì)單個(gè)個(gè)體的壽命起作用的內(nèi)部“學(xué)習(xí)”循環(huán)。
4 盡管學(xué)習(xí)可以通過Hebbian和其他機(jī)制直接作用于突觸權(quán)重，但進(jìn)化僅通過基因組間接作用于大腦的布線。
5 由于基因組能力有限而引起的正則化作用可能代表功能而非錯(cuò)誤。

Implications for ANNs

much of animal behavior is innate, and does not arise from learning.

1 動(dòng)物有很大的選擇壓力，將其學(xué)習(xí)限制在其生存所需的范圍之內(nèi)。
2 動(dòng)物傾向于快速學(xué)習(xí)某些東西的想法與AI研究和認(rèn)知科學(xué)中的“元學(xué)習(xí)”和“歸納偏見”有關(guān)。
3 解決新問題的人工神經(jīng)網(wǎng)絡(luò)應(yīng)盡可能嘗試構(gòu)建關(guān)于先前相關(guān)問題的解決方案。遷移學(xué)習(xí)。
4 移學(xué)習(xí)與大腦的先天機(jī)制有著重要的區(qū)別。在轉(zhuǎn)移學(xué)習(xí)中，通常將ANN的整個(gè)連接矩陣用作起點(diǎn)，而在動(dòng)物大腦中，“代代相傳”的信息量較小，因?yàn)樗仨毚┻^基因組的瓶頸。

genome doesn’t encode representations or behaviors directly or optimization principles directly.

1 基因組編碼布線規(guī)則和模式，然后必須實(shí)例化行為和表示。
2 CNN高度受限的布線來揭示視覺世界是平移不變的事實(shí)，靈感部分是結(jié)構(gòu)視覺感受領(lǐng)域。
3 皮層布線的細(xì)節(jié)可能很快就會(huì)出現(xiàn)，并為人工神經(jīng)網(wǎng)絡(luò)提供實(shí)驗(yàn)基礎(chǔ)。

Conclusion

1 智能機(jī)器必須嚴(yán)格地匹配人類的能力，以致只有結(jié)構(gòu)類似于大腦的機(jī)器才能達(dá)到它。
2 If we want to design a system that can do what we do, we will need to build it according to the same design principles.

Boomshit

1 學(xué)習(xí)結(jié)構(gòu)的學(xué)習(xí)。
2 遷移學(xué)習(xí)學(xué)習(xí)結(jié)構(gòu) 轉(zhuǎn)移結(jié)構(gòu)。
3 先學(xué)習(xí)結(jié)構(gòu) 后學(xué)習(xí)權(quán)重。
4 模擬動(dòng)物學(xué)習(xí)的大小循環(huán) 后天依舊調(diào)整結(jié)構(gòu) 但是幅度減小。
5 按照領(lǐng)域經(jīng)驗(yàn)（動(dòng)物先天約束） 構(gòu)建例如CNN的規(guī)則。