現(xiàn)在我們來說說人工智能威脅論。（關(guān)于人工智能威脅論）大家知道的第一個(gè)就是庫茲韋爾的奇點(diǎn)理論。我做HPE智能系統(tǒng)雜志主編的時(shí)候，收到二十多篇論文都是反駁它的，我問同事們我們?cè)摬辉搶彛ㄟ@些文章），大家?guī)缀醍惪谕暤卣f這種論文不管是反駁還是支持，根本不值得審。（因?yàn)椋┻@既不是科學(xué)，也不是哲學(xué)，我說這就是文學(xué)。我還是那句話，林子大了什么鳥都有，有些鳥今天是益蟲，過兩天它吃糧食就變成了害蟲，所以大家平常心去對(duì)待（威脅論）。（接下來這個(gè)例子）就更有名了——霍金，很多地方說他是當(dāng)代最偉大的物理學(xué)家，我雖然不是學(xué)物理學(xué)的，但我覺得他和“最偉大的”還差不少。但是這個(gè)人非常傳奇，為此我看了關(guān)于他年輕時(shí)代的電影《The Theory of Everything》，電影里說的非常有道理，它說 “人類的追求是無限的”，“Where there are human, there are hope.”（有人類就有希望）?；艚鸾o愛因斯坦的相對(duì)論重版時(shí)寫過一個(gè)序言，在序言里說，你把原子彈歸罪于愛因斯坦，就好像是把飛機(jī)失事歸罪于引力一樣，這完全是亂扯的。所以我說把人類的威脅歸罪于智能也是一樣的事情，我并不覺得它是一個(gè)威脅。所以我的想法非常簡(jiǎn)單，我把HPE的一位作者寫的文章掛在了我的博客上，上面羅列了所謂的未來學(xué)家對(duì)未來的預(yù)測(cè)，都是蒙人的，分成幾種情況： （第一種）預(yù)測(cè)根本不成立，（比如）庫茲韋爾預(yù)測(cè)2010年計(jì)算機(jī)沒有了，現(xiàn)實(shí)大家都是知道的我們每天都在用計(jì)算機(jī)；第二種是搭便車似的，根據(jù)已有的技術(shù)發(fā)展將未來推測(cè)的夸張一點(diǎn)，博人眼球；第三種就是默頓式的，“默頓定律”(許多情況下，我們要證實(shí)的命題，其實(shí)最后是我們影響甚至改變、構(gòu)成、實(shí)現(xiàn)的命題，非自然科學(xué)或物理數(shù)學(xué)里的因果關(guān)系，而是心理學(xué)上的因果驅(qū)動(dòng)關(guān)系。)，
我覺得第一個(gè)西方哲學(xué)家蘇格拉底，他對(duì)智能的看法是最極端的，無知才使大家進(jìn)步（“我知道我是智能的，因?yàn)槲沂裁炊疾恢馈保?。人類存在的理由就是無知，如果人類什么都知道了，我們也該滅亡了。當(dāng)然還有另外一個(gè)極端就是愛因斯坦，（他認(rèn)為）智能不是簡(jiǎn)單的知識(shí)，關(guān)鍵要有想象力。個(gè)人認(rèn)為最靠譜的是波恩，今天的時(shí)代也正好印證了波恩的想法。波恩認(rèn)為，知識(shí)的積累和應(yīng)用就是一個(gè)過程，隨著人口的增加、積累的知識(shí)的增加，它會(huì)有一個(gè)爆炸式的增長(zhǎng)、跳躍式的增長(zhǎng)?，F(xiàn)在的社會(huì)并非智能奇點(diǎn)，而是智能爆炸。 我以前讀書的時(shí)候要到圖書館查一本書，你們不知道有多難。我要到一個(gè)個(gè)架子里面找到厚厚的盒子搬下來，然后在里面一篇篇雜志找，看看是不是自己需要的，找到之后，還要再搬到復(fù)印室里面，一頁頁自己復(fù)印，那時(shí)候得到一篇復(fù)印的論文是非常非常珍貴的，我是（大學(xué)）77屆的。現(xiàn)在的條件非常好，這個(gè)過程給大家省了多少時(shí)間啊，我以前一天能找到一篇論文，都是蠻lucky的，現(xiàn)在我一天能找多少，所以現(xiàn)在就是一個(gè)（信息）爆炸，爆炸必然產(chǎn)生這種相應(yīng)的后果。這就是為什么我相信這個(gè)時(shí)代是一個(gè)智能的時(shí)代，因?yàn)橹R(shí)的積累已經(jīng)到了一定的程度。我覺得，Minsky是人工智能里面他是真真正正的思想家。他不相信智能有唯一的原理，他認(rèn)為“是什么不可思議的訣竅讓我們變得智能？訣竅就是沒有訣竅。智能的力量來源于我們自身巨大的多樣性，而非任一單個(gè)的、完美的原理?！薄４蠹艺f的符號(hào)學(xué)派、聯(lián)結(jié)學(xué)派、行為學(xué)派，都是盲人摸象，摸著腿也好、摸著肚子也好、摸著尾巴也好，只摸到了一部分。我為什么相信哥德爾的不完備原理、圖靈的不可決策原理，這種東西永遠(yuǎn)存在，矛盾永遠(yuǎn)解決不了。這個(gè)本質(zhì)矛盾在哪兒，這個(gè)矛盾就是有限跟無限的矛盾。人類有限的生命要了解無限的宇宙，它自然而然有這個(gè)矛盾，所以什么（人工智能）“取代人”，我是堅(jiān)決不相信的。這是John Corcoran寫的，他是我導(dǎo)師的第一個(gè)博士生，學(xué)哲學(xué)的，以前做過紐約布法羅州立大學(xué)哲學(xué)系系主任，現(xiàn)在退休了。他寫過一本專門的論文，描述形式邏輯是怎么起來的，亞里士多德開了個(gè)頭，到布爾，到剛才我說的Laws of Thought，有興趣的大家可以去看一下，（一共）二十多頁，這是關(guān)于人工智能淵源的一篇我認(rèn)為（比較好的）。從亞里士多德一直到布爾的思維定理，這個(gè)中間理得蠻清楚的，所以我說追根溯源可以到亞里士多德這里的“三段論”。在萊布尼茨之前，羅門和盧樂最早提出了制造邏輯通用機(jī)的建議，萊布尼茨還自己弄過一個(gè)機(jī)械計(jì)算機(jī)，當(dāng)然只是一種想法，做沒做就不知道了。到了布爾，大家知道他創(chuàng)立了邏輯代數(shù)、也就是布爾代數(shù)，現(xiàn)在的計(jì)算機(jī)、邏輯電路、電路設(shè)計(jì)都靠布爾代數(shù)做基礎(chǔ)。然后就是巴貝奇設(shè)計(jì)并制作了第一臺(tái)差分機(jī)和分析機(jī)，后來就是維納創(chuàng)立了控制論。把Cybernetics翻譯成控制論是比較荒唐的，大家看一下我們今天學(xué)的控制，自動(dòng)化控制里面的控制，沒有一個(gè)方程是Cybernetics中數(shù)學(xué)方程里面的。
這就是Herbert的定義，符號(hào)學(xué)派里面功勞最大的，他還得過經(jīng)濟(jì)學(xué)諾貝爾獎(jiǎng)。不同的人有不同的定義，Herbert Simon的定義，Minsky的定義，這是溫斯頓的定義，他寫過《人工智能》這本書，蠻有名的一本教科書，還有其他人各種各樣的定義，我就不展開了，這就是早期的發(fā)展。先是Newell這個(gè)學(xué)派，他們做的就是Logic Theorist，完全受《數(shù)學(xué)原理》（羅素和懷德海著）影響。最初我們叫它GPS，跟我們導(dǎo)航?jīng)]有任何關(guān)系，通用問題求解器(General Problem Solver)。那么當(dāng)年西蒙預(yù)測(cè)十年內(nèi)（68年以前）（數(shù)字式電腦）將獲得棋王的桂冠；十年之后再次預(yù)言，85年之前，男人能做的電腦都能做，有一點(diǎn)還是有自知之明的，計(jì)算機(jī)不能生孩子，所以有時(shí)候女人能做的事情機(jī)器還是做不了。所以吹大了不好，一個(gè)冬天連著一個(gè)冬天。對(duì)圖靈測(cè)試其實(shí)大家很早就有意見，一個(gè)叫Winograd（的人），他提出自己的一個(gè)測(cè)試。當(dāng)年的專家系統(tǒng)熱起來了，我相信過段時(shí)間專家系統(tǒng)還要熱起來。2006年，人工智能50周年的時(shí)候，我自己任主編的雜志評(píng)選出了人工智能10佳，第一次名人堂（Hall of Fame）就評(píng)了這10個(gè)人。其中只有2個(gè)人當(dāng)時(shí)沒得過圖靈獎(jiǎng)，后來一個(gè)也得了，現(xiàn)在只有Nilsson沒得。但是這十人中我覺得Nilsson的貢獻(xiàn)最大，他是把人工智能從文學(xué)變成科學(xué)功勞最大的一個(gè)人。這個(gè)領(lǐng)域的人大家都知道，幾本關(guān)于人工智能的書都是他寫的。這個(gè)機(jī)器學(xué)習(xí)的第一本書也是他寫的，不過不叫機(jī)器學(xué)習(xí)，而是叫學(xué)習(xí)機(jī)器（Learning Machine）。神經(jīng)元方法在他的書里面都有提及。
第一個(gè)人是Feigenbaum,他在專家系統(tǒng)做的事最多。第二個(gè)人是McCarthy，我說他是功勞最大的，“人工智能”是他提的，人工智能里面最有名的LISP語言也是他發(fā)明的。第三個(gè)是今年剛?cè)ナ赖腗arvin Minsky，他認(rèn)為自己是認(rèn)知科學(xué)家，他是最早提出神經(jīng)元網(wǎng)絡(luò)的人之一，卻也是他一手把神經(jīng)元網(wǎng)絡(luò)推向冬天的人，用XOR判定一句話扼殺了神經(jīng)元網(wǎng)絡(luò)的發(fā)展。這個(gè)人（道格·恩格勒巴特）我其實(shí)很佩服他，當(dāng)時(shí)很多人反對(duì)將他作為人工智能專家，我是幾乎跟別人撕破臉也要把他放上去的，他是Internet的實(shí)際創(chuàng)始人。大家現(xiàn)在整天用的鼠標(biāo)是他發(fā)明的，超鏈接也是他發(fā)明的，他女兒說這個(gè)人的思維總是超過別人至少二十年，我覺得說得太對(duì)了。他當(dāng)時(shí)為什么發(fā)明了Internet呢？二戰(zhàn)的時(shí)候他是當(dāng)兵的，駐扎在菲律賓，當(dāng)時(shí)美國(guó)怕當(dāng)兵的沒事干，就給他們發(fā)文學(xué)雜志，有本雜志叫《Atlantic》。其中Bush（不是那個(gè)總統(tǒng)Bush）寫了一篇散文《As We May Think》，提出一個(gè)想法，將來你發(fā)明一個(gè)東西，把你和圖書館什么的都聯(lián)系在一起。現(xiàn)代的個(gè)人計(jì)算機(jī)就是它的雛形，它的功能還遠(yuǎn)遠(yuǎn)沒實(shí)現(xiàn)，所以這個(gè)想法就激發(fā)了Douglas，然后他決定博士論文就做這個(gè)了，于是去到了伯克利。畢業(yè)之后，沒法繼續(xù)做，于是跑到了斯坦福繼續(xù)研究。申請(qǐng)經(jīng)費(fèi)時(shí)，把一個(gè)房間我們開會(huì)的圖像傳到另一個(gè)房間，兩個(gè)房間連起來，這就是Internet的開始。他寫過一個(gè)報(bào)告，叫《Augmented Human Intellectual》，就是現(xiàn)在我們說的AR，意思是人類智能擴(kuò)展。Tim Berners-Lee大家都知道，發(fā)明了萬維網(wǎng)。Lotfi Zadeh上榜一開始大家也是反對(duì)的，他的研究跟控制不太相關(guān)，他是模糊邏輯的創(chuàng)始人。Noam Chomsky也是比較有爭(zhēng)議的。我對(duì)Raj Reddy持保留意見，但是他運(yùn)氣不錯(cuò)，他的學(xué)生和位置都很好。是機(jī)器人研究院的第一任主任。現(xiàn)在我們用的好多是Judea的技術(shù)，他是加州大學(xué)的一名教授。我們現(xiàn)在的概率圖等等都是基于他的想法。最后就是Nilsson，第一個(gè)移動(dòng)機(jī)器人是他們做的，很多搜索方法也是他發(fā)明的。他寫過《人工智能的數(shù)學(xué)基礎(chǔ)》等書，都是我們領(lǐng)域里面最經(jīng)典的著作。他把人工智能從文學(xué)變成了科學(xué)，功勞最大。這張照片是上個(gè)月我和Nilsson在他退休后的養(yǎng)老院里拍的。
但是深度學(xué)習(xí)也有自己的局限性，“If you just have a single problem to solve, then fine, go ahead and use a neural network. But if you want to do science and understand how to choose architectures, or how to go to a new problem, you have to understand what different architectures can and can not do.”。所以我對(duì)強(qiáng)人工智能至今看不到希望，將來能不能做到我不知道，就是它可以了，我也不認(rèn)為它會(huì)對(duì)人類形成威脅。能不能對(duì)人造成傷害？當(dāng)然了，雙刃劍。但是本質(zhì)上只有人類才能消滅人類，才能威脅人類。所以Minsky有些話在我看來說得非常到位。計(jì)算智能還有一大塊是模糊系統(tǒng)、神經(jīng)元和遺傳，當(dāng)年是三大核心。現(xiàn)在又加入了其它的算法，它有廣泛的應(yīng)用，因?yàn)樗?jiǎn)單，我們用它來做過很多事情，包括無人車的駕駛、無人礦山機(jī)器人等等。當(dāng)年日本用得最多，他們主要用在電器上。其實(shí)需要那么復(fù)雜嗎？我不覺得。以前都用PID，但是好多西方公司早已把它專利化了，所以人們想出個(gè)新名詞：計(jì)算智能。這個(gè)名詞讓它躲過很多專利的問題。還有語言識(shí)別，比如中科大的公司訊飛，做的非常好，他們也要變成這個(gè)人工智能公司。還有各種各樣的仿生機(jī)器人，我們實(shí)驗(yàn)室機(jī)器魚，還有智能車。其實(shí)智能車技術(shù)早就不是問題，最大的問題就是法律問題、社會(huì)問題。還有無人機(jī)，我們中國(guó)就有大疆公司（在做）。但我覺得（人工智能）最大一塊就應(yīng)該是知識(shí)機(jī)器人、軟件機(jī)器人。然后物理機(jī)器人、知識(shí)機(jī)器人和軟件機(jī)器人合起來形成所謂的平行機(jī)器人，我覺得這才是（人工智能）的未來。但是這個(gè)離我們還很遠(yuǎn)，現(xiàn)在讓機(jī)器人開門都很費(fèi)勁兒，更別說機(jī)器人成為人類的伴侶。如果（有人提出）20年之內(nèi)能實(shí)現(xiàn)這些，只有三種情況——要不你是傻子，要不那個(gè)人是騙子，要不就是大家演電影。
我覺得人工智能（行業(yè)）最悲哀的是，要不是冬天，就是夏天，沒有春天和秋天。秋天是收獲的季節(jié)，人工智能只有小秋天，這是一件蠻悲哀的事情。人工智能大大小小至少有九次冬天。如：87年LISP市場(chǎng)奔潰，那時(shí)各種各樣專家系統(tǒng)、專家醫(yī)生?，F(xiàn)在智慧健康又重新做起來了。（人工智能）第一個(gè)冬天是翻譯。有一個(gè)很簡(jiǎn)單例子，“The spirit is willing but the flesh is weak”的英文意思是心有余而力不足。其中，flesh是人體、精神的意思。結(jié)果被翻譯成：伏特加酒是好的，可惜肉是爛了，即酒香而肉臭。這么一個(gè)典型的例子，一下子就變成（人工智能）的第一個(gè)冬天。后來Logical符號(hào)救了它。 《Logical Foundations of Artificial Intelligence》是Nilsson的一本書。我記得是86年讀的這本書，后來國(guó)內(nèi)一個(gè)雜志約稿，我就寫了一篇文章介紹這本書。第二個(gè)冬天，Minskey和Papert兩個(gè)人用了一層神經(jīng)元，在一個(gè)很簡(jiǎn)單的邏輯上叫XOR的問題，沒通過。他們就把結(jié)論擴(kuò)展，給美國(guó)軍方寫的那個(gè)報(bào)告里面，說了很多不負(fù)責(zé)任的話，整個(gè)研究領(lǐng)域就停滯了。由于沒有研究經(jīng)費(fèi)，十年沒有人再敢碰這個(gè)課題。后來，這兩個(gè)人說自己沒有說Perceptron毫無科學(xué)價(jià)值，但是當(dāng)時(shí)卻是白紙黑字這么寫的。我在Minskey去世的時(shí)候?qū)戇^一篇紀(jì)念的文章，好事壞事我都列出來了，大家有興趣可以去看。Perceptron只是一層的神經(jīng)元網(wǎng)絡(luò)，發(fā)明這個(gè)Perceptron網(wǎng)的Rosenblatt也是猶太人，跟他倆人是一個(gè)中學(xué)的（校友）。我覺得這里面有科學(xué)之外的原因，導(dǎo)致他們把話說的這么絕。很可惜，十年之內(nèi)就沒有人再碰這個(gè)，一直到86年P(guān)DP出來，BP算法出來，神經(jīng)元網(wǎng)絡(luò)又回來了，才有我們今天的深度網(wǎng)絡(luò)。第三個(gè)冬天是英國(guó)一個(gè)報(bào)告。后面出現(xiàn)Lisp Machines和日本的五代機(jī)。這個(gè)浪頭我趕上了，當(dāng)時(shí)我對(duì)這個(gè)算法還是蠻感興趣，我花了很多功夫在Logic Programming上。那時(shí)候日本人說要他要拿出多少錢來做這個(gè)基于模式識(shí)別的計(jì)算機(jī)，最后也不了了之。這是（人工智能）很大的一個(gè)冬天。我自己是看了很多Logic Programming的書，我覺得Kowalski的書是最好的。我當(dāng)時(shí)還寫了一本書還專門介紹這本書。最后，Hinton參加了第一次“復(fù)活”?，F(xiàn)在的深度學(xué)習(xí)領(lǐng)域主要的領(lǐng)軍人物還是Hinton。另外一撥人寫了一本書叫《On Intelligence》，咱們中國(guó)人翻譯成人工智能的未來，我認(rèn)為人家只是論人工智能?，F(xiàn)在大腦的這塊東西都基于（霍金斯）這本書，他后來去辦企業(yè)了。我寫過一個(gè)評(píng)論，這些東西都在我科學(xué)網(wǎng)的博客上，大家有興趣可以去看。
