從自動(dòng)駕駛到深度攝像頭的廣泛普及，人類社會(huì)對(duì)AI的應(yīng)用似乎已經(jīng)有了一定信任度，即使機(jī)器從不會(huì)疲勞，但依然會(huì)產(chǎn)生偏離與錯(cuò)誤。下圖是一個(gè)玩具烏龜，至少我們看起來(lái)是個(gè)烏龜，對(duì)吧？但是利用神經(jīng)網(wǎng)絡(luò)構(gòu)建的谷歌識(shí)別系統(tǒng)看來(lái)，這是一把來(lái)復(fù)槍。

這只通過3D打印的玩具烏龜可以被歸納為“對(duì)抗圖像”。在AI的世界里，這些圖片被設(shè)計(jì)成擁有欺騙機(jī)器視覺的能力，通過特殊的樣式讓AI系統(tǒng)失控，我們可以理解這些對(duì)抗圖像是計(jì)算機(jī)眼中的錯(cuò)覺。因此人們可以通過這類圖片讓人臉識(shí)別系統(tǒng)將你識(shí)別為另一個(gè)人，也可以通過特定的范式讓計(jì)算機(jī)把可愛的熊貓識(shí)別為一輛黑白相間的卡車。

事實(shí)上，如何在算法層面避免這些潛在的對(duì)抗性問題已經(jīng)成為一個(gè)非常熱門的研究領(lǐng)域。過去這些對(duì)抗性問題有過多次成功騙過機(jī)器的案例，但也并不是100%成功。如果我們把圖片旋轉(zhuǎn)一個(gè)角度或針對(duì)某一點(diǎn)放大或縮小，機(jī)器便會(huì)通過過去學(xué)習(xí)到的模式得出正確的結(jié)論。那么為什么這個(gè)3D打印的烏龜會(huì)這么重要？那是因?yàn)檫@是第一次機(jī)器在在三維世界中，通過多角度觀察后依然被成功欺騙。

以上案例牽扯出一個(gè)非?，F(xiàn)實(shí)的問題，即基于神經(jīng)網(wǎng)絡(luò)的智能系統(tǒng)在越來(lái)越普遍的過程中 ，隨之而來(lái)的安全隱患也必須給予重視。Labsix 稱這部分問題叫做 “Expectation Over Transformation”，其實(shí)機(jī)器不止把烏龜看成了來(lái)復(fù)槍，也把棒球看成了一杯濃縮咖啡，研究人員做了非常多的隨機(jī)測(cè)試，發(fā)現(xiàn)錯(cuò)判率不低。

Labsix 團(tuán)隊(duì)表明，他們用作對(duì)抗圖像測(cè)試所使用的系統(tǒng)是谷歌旗下的一個(gè)免費(fèi)平臺(tái)叫“Inception-v3”，至今這套系統(tǒng)并沒有對(duì)對(duì)抗性圖片做出修復(fù)，依然在不停的發(fā)現(xiàn)識(shí)別錯(cuò)誤的問題。而谷歌至今也沒有針對(duì)這篇論文和這件事情發(fā)表評(píng)論。但據(jù)相關(guān)人士透露，谷歌已經(jīng)針對(duì)這起事件成立了專項(xiàng)組做跟進(jìn)。