AI究竟是如何做出決定的？谷歌研究員在研究

　　3月8日消息，據(jù)《紐約時(shí)報(bào)》報(bào)道，所謂的神經(jīng)網(wǎng)絡(luò)大大推動(dòng)了人工智能的發(fā)展，但理解計(jì)算機(jī)如何作出決策卻十分困難。谷歌的研究人員正在學(xué)習(xí)機(jī)器是如何學(xué)習(xí)的。

　　機(jī)器正在開(kāi)始自己學(xué)習(xí)執(zhí)行任務(wù)。它們?cè)阼b別面孔，識(shí)別口語(yǔ)詞匯，查看醫(yī)學(xué)掃描圖，甚至展開(kāi)它們自己的對(duì)話(huà)。

　　所有這些任務(wù)都是通過(guò)所謂的神經(jīng)網(wǎng)絡(luò)來(lái)完成的，這些網(wǎng)絡(luò)屬于復(fù)雜的計(jì)算機(jī)算法，是通過(guò)分析海量的數(shù)據(jù)來(lái)學(xué)習(xí)執(zhí)行任務(wù)。但是，這些神經(jīng)網(wǎng)絡(luò)帶來(lái)了一個(gè)科學(xué)家正試圖解決的問(wèn)題：判斷機(jī)器如何得出結(jié)論并不總是一件容易的事情。

　　周二，谷歌的一個(gè)團(tuán)隊(duì)朝著解決這個(gè)問(wèn)題邁出了一小步。他們所展示的新研究成果，大概描述了顯示機(jī)器如何作出它們的決策的技術(shù)。

　　谷歌研究員克里斯托弗·奧拉(Christopher Olah)指出，“即使只是看到機(jī)器作出決策的一部分過(guò)程，你也能夠形成很多關(guān)于它失效的潛在方式的了解。”

　　越來(lái)越多的AI研究人員在開(kāi)發(fā)更好地理解神經(jīng)網(wǎng)絡(luò)的方法。目前供職于打車(chē)服務(wù)巨頭Uber人工智能實(shí)驗(yàn)室的美國(guó)懷俄明州立大學(xué)教授杰夫·克蘭(Jeff Clune)將這類(lèi)技術(shù)稱(chēng)作“人造神經(jīng)科學(xué)”。

　　理解這些系統(tǒng)如何運(yùn)作將變得更加重要，因?yàn)樗鼈兯�做的決策目前是由人類(lèi)來(lái)作出的，比如誰(shuí)獲得工作，自動(dòng)駕駛汽車(chē)如何應(yīng)對(duì)緊急情況。

　　神經(jīng)網(wǎng)絡(luò)概念最早在20世紀(jì)50年代被提出，它旨在模擬大腦中的神經(jīng)元網(wǎng)絡(luò)。但那只是一個(gè)粗略的類(lèi)似。這些算法真的是一連串的數(shù)學(xué)計(jì)算，每個(gè)操作都代表一個(gè)神經(jīng)元。谷歌的新研究，意在以高度可視的方式展示這些數(shù)學(xué)計(jì)算是如何執(zhí)行離散的任務(wù)的，如識(shí)別照片中的物體。

　　在神經(jīng)網(wǎng)絡(luò)內(nèi)，每個(gè)神經(jīng)元都會(huì)去識(shí)別照片中可能出現(xiàn)的特定特征，比如從特定角度從右到左彎曲的線(xiàn)條，或者合并形成更大形狀的多條線(xiàn)條。谷歌希望提供工具來(lái)顯示每個(gè)神經(jīng)元在試圖識(shí)別什么東西，哪些神經(jīng)元識(shí)別成功，以及它們的努力如何共同判斷照片中實(shí)際上有什么——可能是小狗、燕尾服或小鳥(niǎo)。

　　奧拉表示，谷歌正在討論的這種技術(shù)可能也有助于判斷神經(jīng)網(wǎng)絡(luò)為什么容易出錯(cuò)，以及在寫(xiě)情況中解釋它是如何習(xí)得這種行為的。包括克蘭在內(nèi)的其他研究人員認(rèn)為，該類(lèi)技術(shù)還有助于最大限度地減少“對(duì)抗樣本”的威脅，比如某人可能通過(guò)篡改圖像來(lái)欺騙神經(jīng)網(wǎng)絡(luò)。

　　研究人員坦言，這項(xiàng)研究仍處于起步階段。同樣供職于Uber人工智能實(shí)驗(yàn)室的Jason Yosinski認(rèn)為谷歌的技術(shù)理念“是頂級(jí)的”。 Uber的AI實(shí)驗(yàn)室產(chǎn)生于該公司收購(gòu)回來(lái)的初創(chuàng)公司Geometric Intelligence。不過(guò)Jason Yosinski也警告稱(chēng)，理解計(jì)算機(jī)思維可能永遠(yuǎn)都不會(huì)變?nèi)菀住?/p>

　　“在某種程度上，隨著這些網(wǎng)絡(luò)變得越來(lái)越復(fù)雜，要理解它們?yōu)槭裁醋龀鰶Q策將變得極其困難，”他說(shuō)道，“這有點(diǎn)像試圖理解人類(lèi)為什么做出某些決策。”