谷歌資深工程師：人工智能不會爆炸，奇點(diǎn)未必存在
AI來了。不對，是AI又來了。現(xiàn)在AI在很多事情上都已經(jīng)比人厲害，比如下圍棋、識別特定圖像什么的。按照數(shù)學(xué)家I.J.Good的想法，既然人能造出比人厲害的機(jī)器，那么這些機(jī)器也將制造出更多比自己更智能的機(jī)器，從而很快會出現(xiàn)智能的爆炸。后來，包括算機(jī)科學(xué)家弗諾？溫格和未來學(xué)家RayKurzweil在內(nèi)的一些人提出了奇點(diǎn)來臨的觀點(diǎn)，認(rèn)為人類造出比人更聰明的機(jī)器將帶來人類時代的終結(jié)。包括霍金和ElonMusk在內(nèi)的一批人都認(rèn)可AI的這種威脅的緊迫性。那么智能到底會不會爆炸呢？奇點(diǎn)會不會很快來臨呢（RayKurzweil的觀點(diǎn)是2029年）Python深度學(xué)習(xí)框架keras.io的開發(fā)者、Google資深軟件工程師Fran?oisChollet從觀察出發(fā)，通過對智能和遞歸自我改進(jìn)系統(tǒng)的認(rèn)識分析了這一看法的真?zhèn)巍Ｋ恼撟C非常有說服力，其結(jié)論也令我們寬心。
1965年，I.J.Good首次提出了智能爆炸的概念，這個概念跟人工智能（AI）有關(guān)：
姑且把超級智能定義為一臺遠(yuǎn)遠(yuǎn)超越任何人（不管他有多聰明）所有的智力活動的機(jī)器。既然設(shè)計(jì)機(jī)器也是這些智力活動之一，那么一臺超智機(jī)器也可以設(shè)計(jì)出比自己更好的機(jī)器；這樣一來無疑將出現(xiàn)智能爆炸，而人的智能將會被遠(yuǎn)遠(yuǎn)拋在身后。因此，鑒于這臺機(jī)器足夠溫順可告訴我們?nèi)绾巫屗幵谖覀兊目刂浦拢谝慌_超智機(jī)器將成為人類所需的最后一項(xiàng)發(fā)明。
數(shù)十年后，智能爆炸也就是導(dǎo)致超智突然崛起，人類意外滅絕的概念已經(jīng)在AI社區(qū)落地生根。知名的商界領(lǐng)袖把它當(dāng)作比核戰(zhàn)爭和氣候變化還要重大的風(fēng)險(xiǎn)來宣揚(yáng)。普通的機(jī)器學(xué)習(xí)研究生也認(rèn)可這一點(diǎn)。在2015年面向AI研究人員的一項(xiàng)調(diào)查中，29%的受訪者回答說智能爆炸的發(fā)生有可能或者高度可能。另有21%者認(rèn)為有非常大的可能性。
這些論斷的基本前提是，在不久的將來，第一個種子AI將會被創(chuàng)造出來，這個AI會有稍微超過人類的一般問題解決能力。這個種子AI會開始設(shè)計(jì)更好的AI，開啟一個可馬上讓人類智能望塵莫及的遞歸自我改進(jìn)循環(huán)，在很短的時間內(nèi)就超過了人類好幾個量級。這一理論的支持者還把智能看成是某種超級力量，賦予其持有者塑造環(huán)境的近乎超自然的能力比方說，就像我們在科幻電影《超驗(yàn)駭客》中所看到的一樣。超級智能因此將意味著近乎全能，并且會對人類構(gòu)成生存威脅。
這種科幻小說的敘述手法助長了危險(xiǎn)的、具有誤導(dǎo)性的有關(guān)AI風(fēng)險(xiǎn)與對AI監(jiān)管需求的公眾辯論。但我認(rèn)為智能爆炸是不可能的智能爆炸的看法來自于對智能的本質(zhì)與遞歸式自我改進(jìn)系統(tǒng)有著很深的誤解。在本文中我會試著以對智能系統(tǒng)和遞歸系統(tǒng)的具體觀察為基礎(chǔ)提出我的觀點(diǎn)。
源自對智能的誤解得出的推理是有瑕疵的
就像產(chǎn)生于1960、1970年代的眾多早期理論一樣，智能爆炸背后的推理有點(diǎn)強(qiáng)詞奪理：該理論把智能看成是一個跟環(huán)境脫節(jié)的、完全抽象的概念，并且忽視了有關(guān)智能系統(tǒng)和遞歸自我改進(jìn)系統(tǒng)的已有證據(jù)。其實(shí)未必就是這樣的。畢竟嘛，我們都生活在一個滿是智能系統(tǒng)和自我改進(jìn)系統(tǒng)（包括我們自己）的星球上，所以完全可以去觀察這些系統(tǒng)并從中去了解，進(jìn)而回答這個問題，而不是憑空想出毫無證據(jù)的循環(huán)論證。
要想討論智能及其可能的自我改進(jìn)屬性，我們首先應(yīng)該介紹一點(diǎn)必要的背景和上下文。當(dāng)我們在討論智能的時候我們在討論什么呢？對智能本身的精確定義就是一個挑戰(zhàn)了。智能爆炸的說法等同于體現(xiàn)在智能代理個體（目前的人腦、或者未來的電子大腦）身上的、有著一般問題解決能力的智能。當(dāng)然這還不是全部，所以我們不妨把這個定義作為起點(diǎn)，然后在此基礎(chǔ)上再慢慢拓展。
智能是情景化的
我認(rèn)為智能爆炸理論的第一個問題是未能認(rèn)識到智能是一個更大的系統(tǒng)的必要組成部分以為智能是密封起來的大腦，獨(dú)立于環(huán)境就能做出任意智能的東西來。大腦不過是一團(tuán)生物組織罷了，它本身本來就沒什么智能的。除了大腦以外，你的身體和感覺你的感覺運(yùn)動的環(huán)境賦使這些都是思維必不可少的部分。你的環(huán)境是你的智能的基本部分。人類文化是你的智能的基本部分。畢竟，這些是你所有想法的來源。你不能夠把智能跟表達(dá)智能的上下文脫離。
尤其是并不存在所謂的一般智能這樣的東西。就抽象意義而言，我們是通過沒有免費(fèi)午餐定理了解到這一點(diǎn)這個定理說的是沒有一個問題解決算法能夠比搜索空間的純隨機(jī)搜索算法更優(yōu)。（對于所有可能的問題，任意給定兩個算法A、A’，如果A在某些問題上的表現(xiàn)比A’好，那么A在其他問題的表現(xiàn)就一定比A'差，反之亦然。也就是說，任意兩個算法A、A’對所有問題的平均表現(xiàn)度量是完全一樣的）如果智能是個問題解決算法的話，那么只能針對特定問題來理解它。說得更具體一點(diǎn)，就經(jīng)驗(yàn)來看，我們觀察到的所有已知的智能系統(tǒng)都是高度專門化的。我們目前所開發(fā)的AI的智能都是專門用來處理相當(dāng)狹隘的任務(wù)的比如下圍棋的，或者把圖像分成1萬個已知類別的。章魚的智能時候?qū)ｉT用來處理章魚所面臨的問題的。人的智能是專門用來處理人所面臨的問題的。
如果我們把剛剛形成的人腦放到章魚的身體里面，然后讓它生活在海底會發(fā)生什么事情呢？它甚至能不能學(xué)會運(yùn)用自己有8條腿的軀體呢？它能不能活幾天下來呢？我們無法進(jìn)行這樣的實(shí)驗(yàn)，但是我們的確知道人類和動物的認(rèn)知發(fā)展是由硬編碼的、先天的動力驅(qū)動形成的。人體天生就有一套預(yù)置的反射行為以及固有的學(xué)習(xí)模板來推動早期的感覺運(yùn)動發(fā)展，而這個跟人類感覺運(yùn)動空間的結(jié)構(gòu)是緊密關(guān)聯(lián)的。大腦已經(jīng)把有手能抓東西，有嘴能吃東西，會轉(zhuǎn)動的腦袋上面有眼睛能用于在視覺上跟蹤對象（前庭眼球反射）的軀體概念硬編碼進(jìn)去了，這些感覺需要人類智能開始去控制人體。比方說Chomsky（喬姆斯基）就曾經(jīng)令人信服地提出，非常高級的人類認(rèn)知特點(diǎn)，比如發(fā)展出語言的能力，就是天生的。
類似地，為了學(xué)習(xí)如何運(yùn)用章魚軀體并且在章魚的環(huán)境下生存，你也可以想象章魚也有自己的一套必要的、硬編碼進(jìn)去的認(rèn)知基元。人腦是高度針對人類環(huán)境的，這屬于一種天生的專門化，這種專門化的范疇可能要延伸到社會行為、語言以及常識，而章魚的大腦類似地也會高度針對章魚的行為。人類嬰兒的大腦哪怕嫁接到章魚身體也很有可能無法對其獨(dú)特的感覺運(yùn)動空間進(jìn)行充分控制，會很快死掉。現(xiàn)在你可就沒那么聰明了，超級大腦先生。
如果我們把一個人放到一個不具備眾所周知的人類文化的環(huán)境里面去會怎樣呢？一群狼撫養(yǎng)長大的森林王子毛克利（Mowglitheman-cub）長大后會不會比他的犬科兄弟更聰明呢？或者跟我們一樣聰明？如果我們用嬰兒愛因斯坦替換嬰兒毛克利的話，他會不會自學(xué)成才想出宇宙的大理論呢？經(jīng)驗(yàn)證據(jù)相對比較缺乏，但是就我們所知，在脫離人類文化的自然環(huán)境下長大的小孩并不能形成任何的人類智能。在野外撫養(yǎng)的野孩子從一開始就其實(shí)就變成了動物，就會回歸文明也不再能養(yǎng)成人類行為或者語言。在南非，由猴子撫養(yǎng)的SaturdayMthiyane5歲時被人發(fā)現(xiàn)后，直到成人都一直保持著猴子的行為跳躍和走路都是四腳著地，不會說人話，并且拒絕吃煮過的食物。至少在形成期跟人類有過部分接觸的野孩子往往運(yùn)氣好點(diǎn)，可以接受再教育，盡管罕有逐步發(fā)展成心智健全人的情況。