姓名:湯勝杰? ? 學(xué)號(hào):14020110026
轉(zhuǎn)載自http://mp.weixin.qq.com/s/oKPa1FS5p_6xsStNz3njfg
【嵌牛導(dǎo)讀】: 一直以來(lái)，人類想要判斷事件真假、是非對(duì)錯(cuò)，常常會(huì)說(shuō)“眼見(jiàn)為憑”、“有圖有真相”，但這些準(zhǔn)則很有可能即將失靈，因?yàn)橐豁?xiàng)被譽(yù)為近十年來(lái)機(jī)器學(xué)習(xí)領(lǐng)域最有趣的突破——生成式對(duì)抗網(wǎng)絡(luò)（GAN）很有可能因?yàn)檎`用而擾亂我們的認(rèn)知。過(guò)去，我們可以將一段視頻視為是某件事情發(fā)生的證據(jù)，但像 GAN 這樣的人工智能技術(shù)出現(xiàn)之后，可以創(chuàng)造出更容易讓人信以為真的假圖片、假視頻。
【嵌牛鼻子】：生成式對(duì)抗網(wǎng)絡(luò) 人工智能
【嵌牛提問(wèn)】：GAN技術(shù)的發(fā)展會(huì)不會(huì)使圖片圖像的造假變得難以辨別？
【嵌牛正文】：
GAN 能利用現(xiàn)有的數(shù)據(jù)來(lái)建立已經(jīng)帶有標(biāo)注的圖像，如此就能減少上述提及需要大量人力來(lái)標(biāo)注數(shù)據(jù)的麻煩。因此，被人工智能先驅(qū)、Facebook 人工智能研究院（FAIR）院長(zhǎng) Yann LeCun 贊許是“機(jī)器學(xué)習(xí)最近 10 年來(lái)最有趣的想法”，NVIDIA 創(chuàng)始人黃仁勛口中的“一項(xiàng)突破性的發(fā)展”。
GAN 獨(dú)到之處在于同時(shí)訓(xùn)練兩個(gè)網(wǎng)絡(luò)，一個(gè)是生成網(wǎng)絡(luò)（generator network），又稱生成器（generator），另一個(gè)是判別網(wǎng)絡(luò)（discriminator network），又稱判別器（discriminator），而且讓這兩個(gè)網(wǎng)絡(luò)相互對(duì)抗、彼此競(jìng)爭(zhēng)卻又互相學(xué)習(xí)。
生成器想的是騙過(guò)判別器，或是讓判別器覺(jué)得它做的東西是好的，而判別器的任務(wù)就是去抓什么是真實(shí)的，什么是生成器做的。可以想象成是一個(gè)是罪犯，另一個(gè)是警察，互相斗智，誰(shuí)也不讓誰(shuí)。而你想要變得超強(qiáng)，就是要有一個(gè)神一般的對(duì)手，就是 GAN 的核心精神。
而 GAN 與另一項(xiàng)技術(shù)強(qiáng)化學(xué)習(xí)（RL，Reinforcement Learning），聽起來(lái)有點(diǎn)異曲同工，不過(guò)，兩者還是有所差異。GAN 有一個(gè)生成器、一個(gè)判別器。在強(qiáng)化學(xué)習(xí)里則是有一個(gè) Agent，一個(gè)環(huán)境，兩者會(huì)不斷互動(dòng)，環(huán)境會(huì)給 Agent 獎(jiǎng)懲分?jǐn)?shù)（reward），Agent 會(huì)不斷更新參數(shù)，以爭(zhēng)取環(huán)境給它的分?jǐn)?shù)值越大越好。所以，Agent 的角色類似生成器，環(huán)境就象是判別器，但環(huán)境的參數(shù)是固定的，判別器的參數(shù)是會(huì)不斷更新，這就是 RL 和 GAN 的最大差異。
“GAN 做的事很像‘演化’”，專門研究 GAN 的臺(tái)灣大學(xué)電機(jī)工程學(xué)系教授李宏毅道出重點(diǎn)，他解釋，演化是突變跟自然選擇的結(jié)果，例如眼睛是怎么產(chǎn)生的呢？復(fù)雜的器官并不會(huì)憑空出現(xiàn)，可能會(huì)先出現(xiàn)一個(gè)例如感光細(xì)胞的簡(jiǎn)單版本，通過(guò)很多步驟慢慢演變成眼睛，GAN 也是如此。剛開始 GAN 生成出來(lái)的東西可能不太好，但經(jīng)過(guò)多次更新之后，就可能創(chuàng)造出非常逼真的東西。
李宏毅進(jìn)一步指出：“GAN 有利于 AI 在結(jié)構(gòu)學(xué)習(xí)（structured learning）研究的突破，當(dāng)你今天想要機(jī)器輸出的東西（output）是具有結(jié)構(gòu)性，也就是由許多零件構(gòu)成的，例如句子、音樂(lè)、圖片，使用 GAN 會(huì)比其他技術(shù)得到更好的結(jié)果。”
事實(shí)上，一個(gè)訓(xùn)練良好的 GAN 再配上豐富的計(jì)算資源，想要制造出以假亂真的圖片或影像，已經(jīng)是可以實(shí)現(xiàn)的事了。利用 GAN 來(lái)制造假新聞，或是把假圖像、假視頻發(fā)布在社交媒體上，恐怖程度就不只是恐怖谷講的情感面的厭惡而已，很可能成為別有用心者操弄人民跟社會(huì)的工具，甚至是造成群體對(duì)立，上升為一種外交沖突、國(guó)家安全等級(jí)的問(wèn)題。
人們正在創(chuàng)造更復(fù)雜的技術(shù)，使得數(shù)字媒體判別的發(fā)展始終追不上影像處理技術(shù)的腳步。因此，不論是 GAN 或是其他 AI 技術(shù)，有沒(méi)有可能制造出一個(gè)能讓一般大眾信服的假圖片、假視頻，只是時(shí)間問(wèn)題，而非可行或不可行。
