貝葉斯網(wǎng)絡(luò)之父：當(dāng)前的機(jī)器學(xué)習(xí)其實(shí)處于因果關(guān)系之梯的最低層級
2019-07-23 來源：raincent
每當(dāng)提起“無人駕駛”汽車技術(shù)如何強(qiáng)大，又被大眾賦予了怎樣的期待，都會讓人想起HBO電視劇Silicon Valley《硅谷》中的一個情節(jié)：
硅谷大亨風(fēng)險(xiǎn)資本家Gregory的助手安排了一輛無人駕駛汽車送創(chuàng)業(yè)公司的小員工Jared回家，本以為這個劇情只是為了詮釋一種硅谷式傲慢，剛上車時一切也都很順利，誰知路程走了一半，這輛汽車突然開始執(zhí)行日程中之前設(shè)置好的指令，罔顧乘客Jared高呼著“Stop”和“Help”，自顧自的奔向了另一個目的地:四千英里開外的一個荒無人煙的海中孤島。
電視劇《硅谷》截圖
Jared最終得救了，就在大家以為劇情要改為《荒島余生》后。對多數(shù)觀眾而言這只是劇中設(shè)置的一個黑色笑點(diǎn)，而藝術(shù)本就源于現(xiàn)實(shí)，在現(xiàn)實(shí)中，若無人駕駛的汽車突然失控，會導(dǎo)致怎樣的后果才是真的難以想象。
2016年5月7日，美國佛羅里達(dá)州，一位駕駛特斯拉Model S的車主使用了自動駕駛(Auto Pilot)模式后，發(fā)生車禍并身亡。這是第一起自動駕駛模式下的致死車禍，這次事故也讓所有為無人駕駛狂熱的人們不得不直面這項(xiàng)技術(shù)帶來的安全隱憂。
特斯拉曾發(fā)布消息：
“無人車的正確率達(dá)到99%相對容易，但要達(dá)到99.9999%卻要困難的多，而這才是我們最終的目標(biāo)，因?yàn)橐?0英里每秒行駛的車如果出現(xiàn)故障后果不堪設(shè)想。”
特斯拉并沒有說100%。
在未來，即便這些科技公司聲稱無人駕駛的技術(shù)已經(jīng)發(fā)展到無比成熟，或許依然有人很難放心的坐上一輛無人駕駛的汽車，從心理角度來說，這類汽車相對“自我操控”而言永遠(yuǎn)都“不夠安全”。
無人駕駛技術(shù)的巨大發(fā)展離不開深度學(xué)習(xí)算法，而在貝葉斯網(wǎng)絡(luò)之父朱迪亞·珀?duì)?Judea Pearl)的眼里，深度學(xué)習(xí)，恰恰是人工“不”智能的體現(xiàn)，因?yàn)槠溲芯繉ο笫窍嚓P(guān)關(guān)系而非因果關(guān)系，處于因果關(guān)系之梯的最底層。珀?duì)栐凇读孔与s志》采訪中說到：深度學(xué)習(xí)取得的所有巨大成就在某種程度上都不過是對數(shù)據(jù)的曲線擬合而已。從數(shù)學(xué)層次的角度來看，不管你如何巧妙地操作數(shù)據(jù)，以及你在操作數(shù)據(jù)時讀取的內(nèi)容，它仍然是一個曲線擬合的訓(xùn)練過程，盡管它看起來比較復(fù)雜。
人工智能的發(fā)展在很多方面都得益于珀?duì)栐缙诘难芯�，他卻在最新著作《為什么：關(guān)于因果關(guān)系的新科學(xué)》中推翻了自己，珀?duì)栒J(rèn)為，當(dāng)前的人工智能和機(jī)器學(xué)習(xí)其實(shí)處于因果關(guān)系之梯的最低層級，只可被動地接受觀測結(jié)果，考慮的是“如果我看到……會怎樣”這類問題。而強(qiáng)人工智能，則需要實(shí)現(xiàn)第三層級的“反事實(shí)”推理。
例如，如果無人駕駛汽車的程序設(shè)計(jì)者想讓汽車在新情況下做出不同的反應(yīng)，那么他就必須明確地在程序中添加這些新反應(yīng)的描述代碼。機(jī)器無法自己弄明白手里拿著一瓶威士忌的行人可能對鳴笛做出不同反應(yīng),處于因果關(guān)系之梯最底層的任何運(yùn)作系統(tǒng)都不可避免地缺乏這種靈活性和適應(yīng)性。所以說，無法進(jìn)行因果推斷的人工智能只是“人工智障”，是永遠(yuǎn)不可能透過數(shù)據(jù)看到世界的因果本質(zhì)的。
因果關(guān)系之梯的每一層級都有一種代表性生物
(來源：《為什么：關(guān)于因果關(guān)系的新科學(xué)》馬雅·哈雷爾繪圖)
2016年3月，AlphaGo 以4比1的成績戰(zhàn)勝了多年來被認(rèn)為是最強(qiáng)的人類頂尖圍棋高手李世石,震驚了世界，在為人們帶來危機(jī)感的同時，也點(diǎn)燃了很多人對人工智能發(fā)展的暢想。
可惜，這一人工智能壯舉只能證明：對讓機(jī)器完成某些任務(wù)來說，深度學(xué)習(xí)是有用的。人們最終意識到，在可模擬的環(huán)境和狀態(tài)下，AlphaGo的算法適用于大規(guī)模概率空間的智能搜索，而對于那些難以模擬的環(huán)境里的決策問題(包括上文提到的自動駕駛)，這類算法也還是束手無策。深度學(xué)習(xí)采用的方法類似卷積神經(jīng)網(wǎng)絡(luò)，并不以嚴(yán)謹(jǐn)或清晰的方式處理不確定性，且網(wǎng)絡(luò)的體系結(jié)構(gòu)可以自行發(fā)展。完成一個新的訓(xùn)練后，程序員也不知道它正在執(zhí)行什么計(jì)算，或者為何它們有效。
AlphaGo團(tuán)隊(duì)并沒有在一開始就預(yù)測到這個程序會在一年或者五年內(nèi)擊敗人類最好的棋手，他們也無法解釋為什么程序執(zhí)行能產(chǎn)生這樣好的結(jié)果。如果機(jī)器人都如同 AlphaGo一般，缺乏清晰性，那么人類也無法與他們進(jìn)行有意義的交流，使之“智能”的工作。
假定你的家中有一個機(jī)器人，當(dāng)你睡覺的時候，機(jī)器人打開了吸塵器，開始工作，在這時你告訴它，“你不該吵醒我。”你的意圖是讓它明白，此時打開吸塵器是錯誤行為，但你絕不希望它將你的抱怨理解為不能再在樓上使用吸塵器。
那么此時機(jī)器人就必須理解背后的因果關(guān)系：吸塵器制造噪音，噪音吵醒人，而這會使你不高興。
這句對我們?nèi)祟惗詿o比簡短的口令實(shí)際包含了豐富的內(nèi)容。機(jī)器人需要明白：你不睡覺的時候它可以吸塵，家中無人的時候它也可以吸塵，又或者吸塵器開啟靜音模式的時候，它仍然可以吸塵。這樣看來，是否覺得我們?nèi)粘贤ㄋ男畔⒘繉?shí)在是太過龐大?
一個聰明的機(jī)器人考慮他/她的行為的因果影響。
(來源：《為什么：關(guān)于因果關(guān)系的新科學(xué)》馬雅·哈雷爾繪圖)
所以說，讓機(jī)器人真正“智能”的關(guān)鍵在于理解“我應(yīng)該采取不同的行為”這句話，無論這句話是由人告訴它的，還是由它自己分析所得出的結(jié)論。如果一個機(jī)器人知道自己當(dāng)前的動機(jī)是要做 X=x0，同時它能評估一下，說如果換一個選擇，做 X=x1，結(jié)果會不會更好，那它就是強(qiáng)人工智能。
《人類簡史》的作者尤瓦爾·赫拉利(Yuval Noah Harari)認(rèn)為人類發(fā)展出描繪虛構(gòu)事物的能力正是人類進(jìn)化過程中的認(rèn)知革命，反事實(shí)推理是人類獨(dú)有的能力，也是真正的智能。人類的每一次進(jìn)步與發(fā)展，都離不開反事實(shí)推理，想象力幫助人類生存、適應(yīng)并最終掌控了整個世界。若想實(shí)現(xiàn)真正的強(qiáng)人工智能，則應(yīng)嘗試將因果論提供的反事實(shí)推理工具，真正加以應(yīng)用。
針對能否開發(fā)出具備自由意志的機(jī)器人的問題，珀?duì)柕拇鸢甘墙^對會。他認(rèn)為：人們必須理解如何編程機(jī)器人，以及能從中得到什么。由于某種原因，就進(jìn)化方面而言這種自由意志在計(jì)算層面也將是需要的。機(jī)器人具備自由意志的第一個跡象將是反事實(shí)溝通，如“你應(yīng)該做得更好”。如果一組踢足球的機(jī)器人開始用這種語言溝通，那么我們將知道它們具備了自由意志。“你應(yīng)該傳球給我，我剛才一直在等，但你沒有把球傳給我!”這種“你應(yīng)該”的句式意味著你本應(yīng)該做什么，但是沒做。因此機(jī)器人產(chǎn)生自由意志的第一個征兆是溝通，第二個是踢出更好的足球。
以前人們討論強(qiáng)人工智能大多只限于哲學(xué)層面，學(xué)術(shù)界也一直對“強(qiáng)人工智能”保持著謹(jǐn)慎的態(tài)度，并不敢抱有太多奢望。但科學(xué)的進(jìn)步從不因失敗而停止，不管是無人駕駛，還是其他各項(xiàng)人工智能技術(shù)的發(fā)展，最終都依賴于“人”，人類會研究出能夠理解因果對話的機(jī)器人嗎?能制造出像三歲孩童那樣富有想象力的人工智能嗎?回答這些問題的關(guān)鍵依然離不開“人：，如果人類自身還無法理解因果之梯，又要怎么樣使“人工”變得“智能”?
機(jī)器不必復(fù)制人類，卻可以比人類表現(xiàn)的更優(yōu)秀，這著實(shí)是一個可怕的事實(shí)。若是能用因果關(guān)系來取代關(guān)聯(lián)推理，沿著因果關(guān)系之梯，走入反事實(shí)推理的世界，那么機(jī)器的崛起便不可阻擋。珀?duì)栐跁袨槿绾螌?shí)現(xiàn)這一目標(biāo)給出了相當(dāng)清晰通俗的講解。
回想起來，其實(shí)一個人的日常生活與“人工智能”這個詞并沒有產(chǎn)生多少緊密關(guān)聯(lián)，但很多人也曾在得知AlphaGo戰(zhàn)勝李世石那個瞬間，產(chǎn)生了一股莫名又強(qiáng)烈的敬畏感。科技的發(fā)展速度似乎總是超出我們的想象，打開手機(jī)搜索“重大突破”這個關(guān)鍵詞，瞬間就會被滿眼的科技快餐所淹沒，機(jī)器究竟會變成怎樣?它們又會怎么對待人類?只有試著去理解因果關(guān)系，才能在面對這些問題時，少一些茫然，多一些信念。
標(biāo)簽： 機(jī)器學(xué)習(xí) 人工智能
版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請與原作者聯(lián)系。
