在不久前的一篇封面報(bào)道中，《連線》（Wired）雜志英國(guó)版采訪了地球的守護(hù)者：一支努力保護(hù)這個(gè)星球免受末日威脅的學(xué)者隊(duì)伍。
這支隊(duì)伍中有受過(guò)高等教育的專(zhuān)家、律師、學(xué)者和哲學(xué)家，他們組成了生存風(fēng)險(xiǎn)研究中心（Centre for the Study of Existential Risk，簡(jiǎn)稱(chēng)CSER）以及萊弗休姆未來(lái)智能研究中心（Leverhulme Centre for the Future of Intelligence，簡(jiǎn)稱(chēng)CFI）。這些人聚在一起對(duì)地球及人類(lèi)面臨的種種系統(tǒng)性風(fēng)險(xiǎn)進(jìn)行評(píng)估，并研究了我們?nèi)绾尾拍軐⑷祟?lèi)文明從即將來(lái)臨的末日中拯救出來(lái)。
以下是這些專(zhuān)家眼中最緊迫的九大威脅。但不用擔(dān)心，我們對(duì)每一種威脅都有一套應(yīng)對(duì)計(jì)劃。
機(jī)器進(jìn)化出優(yōu)于以及獨(dú)立于人類(lèi)的智能，這是末日威脅研究社群最重要的關(guān)注點(diǎn)之一。
牛津大學(xué)哲學(xué)教授尼克·博斯特羅姆（Nick Bostrom）稱(chēng)，從農(nóng)業(yè)革命到工業(yè)革命，人類(lèi)過(guò)往的技術(shù)革命是在不斷加速的，不出意外的話，人工智能這趟列車(chē)“可能不會(huì)在人類(lèi)文明這一站停留乃至減速”。他預(yù)測(cè)，到2075年時(shí)，機(jī)器將擁有相當(dāng)于人類(lèi)90%的智能。
正如生命未來(lái)研究所聯(lián)合創(chuàng)始人塔林（Tallinn）指出的，這個(gè)威脅的緊迫性還有另一層原因：人工智能崛起的風(fēng)險(xiǎn)會(huì)加劇其他所有風(fēng)險(xiǎn)。換句話說(shuō)，地球面臨著這樣一種威脅，即智能機(jī)器人可能脫離人類(lèi)控制，摧毀生態(tài)環(huán)境，或者制造核冬天。
這個(gè)領(lǐng)域的研究有形而上的（我們應(yīng)該讓人工智能的道德觀念跟人類(lèi)保持一致嗎？如果是這樣，人類(lèi)的道德觀念又是什么呢？），也有形而下的（我們?nèi)绾螌?duì)自動(dòng)化武器進(jìn)行監(jiān)管？）。
這些研究也存在很多爭(zhēng)議，一些研究人員認(rèn)為，人工智能不會(huì)構(gòu)成末日威脅。關(guān)于末日威脅的說(shuō)法并不是它會(huì)，而是它能。因此，人工智能在末日威脅研究社群的議程中排名很靠前。
潛在爆發(fā)日期：2075年
末日威脅等級(jí)：非常高
一種可能性是，一個(gè)心懷不滿的人可能制造或盜取病毒，并在世界范圍內(nèi)散播。
自然存在和人為制造的大瘟疫是被研究最多的全球性威脅之一。“功能獲得”（gain of function）實(shí)驗(yàn)引起的爭(zhēng)議為這個(gè)領(lǐng)域的研究賦予了新的緊迫性，這些實(shí)驗(yàn)涉及操縱一種已知的病原體，為其添加具有風(fēng)險(xiǎn)的額外能力。
舉例來(lái)說(shuō)，在2011年，病毒學(xué)家羅恩·富希耶（Ron Fouchier）跟河岡義裕（Yokhihiro Kawaoka）制造了一種可以在雪貂之間傳播的禽流感病毒毒株。他們這樣做是為了更好地了解病毒在野外進(jìn)化出可傳播性的條件。這樣的實(shí)驗(yàn)可以避免某些風(fēng)險(xiǎn)，但也帶來(lái)了一種更大的風(fēng)險(xiǎn)，即經(jīng)過(guò)改造的病毒可能逃出實(shí)驗(yàn)室，制造全球性的大瘟疫。
這其中的風(fēng)險(xiǎn)特別巨大，因?yàn)椴《究梢赃M(jìn)行自我復(fù)制。核爆炸的影響或許還是區(qū)域性的，而在這個(gè)高度連通的世界中，沒(méi)有解藥的病毒卻可能在數(shù)天之內(nèi)傳遍全球。在過(guò)去，像黑死病那樣的自然瘟疫造成了數(shù)百萬(wàn)人的死亡，并引發(fā)了大規(guī)模的社會(huì)變革。在21世紀(jì)，先進(jìn)的生物技術(shù)可能制造出的大瘟疫會(huì)讓黑死病顯得只是不值一提的小感冒。
人類(lèi)未來(lái)研究所對(duì)所謂的“管道風(fēng)險(xiǎn)”進(jìn)行了研究，即這些病毒如何可能逃脫出去。一種可能性是，一個(gè)心懷不滿的人——也許是實(shí)驗(yàn)室的雇員——可能制造或盜取病毒，并在世界范圍內(nèi)散播。研究人員兼作家安德斯·桑德伯格（Anders Sandberg）正在撰寫(xiě)一篇論文，探討那些電影大反派式的人物想要?dú)缛祟?lèi)的動(dòng)機(jī)。
“研究其實(shí)舉步維艱，因?yàn)閹缀鯖](méi)有人想要這樣做，可供研究的原始資料極少?！鄙５虏裾f(shuō)道。這迫使他分析宗教和邪教在多大程度上可能去煽動(dòng)大屠殺（據(jù)桑德伯格稱(chēng)，大多數(shù)教派都不會(huì)）。在CSER進(jìn)行類(lèi)似的研究時(shí)，他們得出了一個(gè)關(guān)于當(dāng)前狀況的重要洞見(jiàn)：生物技術(shù)實(shí)驗(yàn)室目前都沒(méi)有制定對(duì)雇員進(jìn)行心理分析的規(guī)定。
潛在爆發(fā)日期：現(xiàn)在
末日威脅等級(jí)：很高
目前，韓國(guó)已經(jīng)在朝韓邊境部署了武裝機(jī)器人哨兵，因此可以毫不夸張地說(shuō)，自動(dòng)化武器已經(jīng)被投入使用。我們不難想象，這些武器的未來(lái)版本將能夠使用面部識(shí)別軟件來(lái)追捕目標(biāo)，而3D打印技術(shù)將讓軍閥、極端無(wú)政府主義者或恐怖分子得以輕松地儲(chǔ)備武器。
一如既往，這里面存在一個(gè)悖論。在過(guò)去的國(guó)與國(guó)戰(zhàn)爭(zhēng)中，國(guó)家需要制造破壞力超強(qiáng)的武器來(lái)攻城略地，并派遣軍人開(kāi)展軍事行動(dòng)，這就會(huì)導(dǎo)致種種與戰(zhàn)爭(zhēng)無(wú)關(guān)的折磨與非理性行為。而機(jī)器人武裝可以進(jìn)行精確打擊，機(jī)器人士兵也不會(huì)遭受折磨或者威脅無(wú)辜平民。
然而，這些武器也將變得又小又便宜，其所有權(quán)不再被國(guó)家壟斷，軍事力量也將不再是舉國(guó)規(guī)模，正如塔林所言：“有可能5個(gè)人拉著兩卡車(chē)微型自動(dòng)化武器就能摧毀整個(gè)城市。在那樣的世界中，有可能你一早醒來(lái)就看到新聞?wù)f，又有一連串城市被摧毀了，但是卻沒(méi)有人能夠確定發(fā)動(dòng)襲擊的幕后黑手是誰(shuí)。”
如果這聽(tīng)起來(lái)很可怕，那么再想想，如果一個(gè)危險(xiǎn)的超級(jí)人工智能控制了這些機(jī)器人武裝的話……
潛在爆發(fā)日期：隨時(shí)
末日威脅等級(jí)：低
雖然人們對(duì)核戰(zhàn)爭(zhēng)的討論已經(jīng)遠(yuǎn)遠(yuǎn)少于冷戰(zhàn)期間，但成千上萬(wàn)的核武器仍然處于隨時(shí)待命狀態(tài)，而且擁核國(guó)家之間也存在劍拔弩張的局勢(shì)，比如克什米爾和烏克蘭。
全球?yàn)?zāi)難性風(fēng)險(xiǎn)研究所（Global Catastrophic Risk Institute，簡(jiǎn)稱(chēng)GCRI）正密切關(guān)注這個(gè)課題，并尤其關(guān)注俄羅斯和美國(guó)爆發(fā)意外戰(zhàn)爭(zhēng)的可能性，這兩個(gè)國(guó)家擁有世界上90%的核武器。所謂意外戰(zhàn)爭(zhēng)，可能就是一方錯(cuò)認(rèn)虛假警報(bào)，發(fā)動(dòng)真實(shí)攻擊進(jìn)行報(bào)復(fù)。在GCRI研究的90%的場(chǎng)景中，意外戰(zhàn)爭(zhēng)爆發(fā)的年度概率在0.07至0.00001之間。從邏輯上講，0.07這個(gè)數(shù)字意味著，意外的核戰(zhàn)爭(zhēng)平均每14年可能爆發(fā)一次。
除了那些不幸成為轟炸目標(biāo)的人之外，核打擊帶來(lái)的輻射不一定會(huì)對(duì)整個(gè)人類(lèi)造成威脅。只有當(dāng)足夠多的城市（大約100個(gè)）遭到轟炸，讓煙塵彌漫平流層，阻擋太陽(yáng)的熱量并降低地球溫度，我們才會(huì)真正面對(duì)來(lái)自核冬天的威脅。
這種人為制造的冬天會(huì)減少受影響地區(qū)的糧食產(chǎn)量。如果這種事發(fā)生在美國(guó)、俄羅斯和歐洲，那么糧食減產(chǎn)就足以引發(fā)世界其余完好國(guó)家和地區(qū)的崩潰，從而造成人類(lèi)文明終結(jié)。
潛在爆發(fā)日期：隨時(shí)
末日威脅等級(jí)：低至中等
氣候變化是CSER研究的主要課題之一，但一些末日威脅研究人員認(rèn)為，這個(gè)問(wèn)題并非一個(gè)十分緊迫。根據(jù)桑德伯格的說(shuō)法，因?yàn)椤斑@個(gè)問(wèn)題太小了”。這在一定程度上是因?yàn)?，已?jīng)有很多其他人在研究這個(gè)課題，以及氣候變化構(gòu)成威脅這個(gè)事實(shí)已然深入人心——但自相矛盾的是，這也是因?yàn)槠渲写嬖谔嗟奈粗獢?shù)。“情況可能是，我們會(huì)在本世紀(jì)研發(fā)出能夠解決氣候變化問(wèn)題的技術(shù)?！鄙５虏裾f(shuō)，“但話說(shuō)回來(lái)，我們也可能研發(fā)出讓情況變得更糟糕的技術(shù)。我們不知道人類(lèi)活動(dòng)會(huì)造成多大的溫度變化，因此我們實(shí)際上很難準(zhǔn)確地對(duì)預(yù)測(cè)進(jìn)行建模?！?/p>
對(duì)于很多通常跟氣候變化聯(lián)系在一起的潛在災(zāi)難性影響，那些研究末日威脅的人都興致缺缺。然而，除了溫度上升導(dǎo)致大量人群死于中暑（這種事情不大可能發(fā)生），氣候變化的最大威脅在于它有可能導(dǎo)致人工和自然基礎(chǔ)設(shè)施崩潰——例如，一個(gè)物種因氣候變化滅絕，繼而通過(guò)連鎖反應(yīng)摧毀一個(gè)生態(tài)系統(tǒng)。換句話說(shuō)，氣候變化最終可能是通過(guò)由其導(dǎo)致的疫病或者因資源日益減少而爆發(fā)的核戰(zhàn)爭(zhēng)來(lái)消滅人類(lèi)的。
潛在爆發(fā)日期：隨時(shí)
末日威脅等級(jí)：低至中等
如果不是有大氣層的話，地球?qū)⒉粩嘣獾叫⌒行堑霓Z炸，因?yàn)榇髿鈱佑心芰M任何直徑不足10米的東西。這是非常有用的，因?yàn)榧词挂活w直徑10米的隕石也能積聚起相當(dāng)于廣島原子彈的動(dòng)能。地球每1,000年就會(huì)遭受一兩次直徑超過(guò)10米的小行星或彗星的撞擊，每100萬(wàn)年則會(huì)被一顆直徑至少達(dá)到1千米的小行星撞上，那足以影響地球的氣候，并導(dǎo)致作物歉收，繼而危及人口安全。
真正達(dá)到滅世級(jí)別的撞擊事件——比如在大約6,600萬(wàn)年前滅絕恐龍的希克蘇魯伯隕石，它撞出的隕石坑直徑達(dá)到了180千米——每5,000萬(wàn)至1億年才會(huì)出現(xiàn)一次。這可能足以引起我們的擔(dān)憂，但有兩個(gè)事實(shí)會(huì)讓人感到安心：第一，天文學(xué)家密切監(jiān)視著可能對(duì)地球構(gòu)成威脅的大個(gè)頭天體；第二，有一個(gè)完整的跨學(xué)科科學(xué)家社群在研究這些天體逼近地球時(shí)的對(duì)策。
天文學(xué)家負(fù)責(zé)尋找小行星，數(shù)學(xué)家負(fù)責(zé)計(jì)算它們的飛行軌道，地球物理學(xué)家負(fù)責(zé)思考它們帶來(lái)的撞擊以及造成的影響，太空工程師則負(fù)責(zé)想出讓它們轉(zhuǎn)向的最好辦法。我們潛在的應(yīng)對(duì)策略包括：發(fā)射飛船把小行星涂成容易反射太陽(yáng)風(fēng)的白色，進(jìn)而利用其反作用力推動(dòng)小行星偏離原來(lái)的軌道；利用引力牽引航天器把小行星推開(kāi)；用航天器撞擊小行星；以及利用激光器或核炸彈轟擊小行星。
潛在爆發(fā)日期：5,000萬(wàn)至1億年
末日威脅等級(jí)（在2017年）：低
為了對(duì)一些復(fù)雜的風(fēng)險(xiǎn)進(jìn)行準(zhǔn)確計(jì)算，末日威脅研究人員必須把自己所知的限制考慮在內(nèi)。在這方面的研究中，最深?yuàn)W難懂的是這樣一種假說(shuō)，即我們可能遠(yuǎn)非宇宙中最聰明的生命形式（至少在計(jì)算機(jī)超越我們之前），實(shí)際上只是棋盤(pán)上受人操縱而不自知的小卒子。
這種模擬假說(shuō)認(rèn)為，人類(lèi)及其全部歷史和文化只是一種更高實(shí)體進(jìn)行的一場(chǎng)實(shí)驗(yàn)或游戲，正如電影《楚門(mén)的世界》（The Truman Show）探討的那樣。博斯特羅姆表示，F(xiàn)HI對(duì)這種假說(shuō)進(jìn)行了研究，因?yàn)樗恰皩?duì)我們關(guān)于未來(lái)以及自身在世界位置潛在想法的一種限制”。
類(lèi)似的概念還有“玻爾茲曼大腦”（Boltzmann brain），這個(gè)以物理學(xué)家路德維?！げ柶澛↙udwig Boltzmann）命名的術(shù)語(yǔ)是在2004年被創(chuàng)造出來(lái)的。從本質(zhì)上講，這種理論認(rèn)為，人類(lèi)只是多元宇宙中物質(zhì)的一種隨機(jī)集合，而多元宇宙中還有很多我們無(wú)從了解的事物。量子力學(xué)表明，最小單位的能量偶爾會(huì)產(chǎn)生一個(gè)物質(zhì)粒子。因此，鑒于時(shí)間的無(wú)限性，它們有可能隨機(jī)產(chǎn)生一個(gè)擁有自我意識(shí)的大腦，但這個(gè)大腦不一定能夠理解任何超出自身經(jīng)驗(yàn)的東西。
一些支持者利用這個(gè)概念來(lái)解釋為什么宇宙看起來(lái)如此有序，其他哲學(xué)家和科學(xué)家則在努力證明為什么玻爾茲曼大腦不可能存在。“幾乎沒(méi)什么人把玻爾茲曼大腦當(dāng)回事。”桑德伯格說(shuō)，“但這是一個(gè)令人討厭的問(wèn)題。”科學(xué)家很少把這當(dāng)成末日風(fēng)險(xiǎn)進(jìn)行研究，一定程度上是因?yàn)?，即便模擬假說(shuō)是真的，我們也無(wú)計(jì)可施。
潛在爆發(fā)日期：不可知
末日威脅等級(jí)：很低
到2050年，全球人口預(yù)計(jì)達(dá)到96億。一些觀察人士認(rèn)為，為了避免大規(guī)模的饑荒，我們將需要在短短30年里讓食物產(chǎn)量增長(zhǎng)70%。其挑戰(zhàn)在于，推動(dòng)食物產(chǎn)量增長(zhǎng)的現(xiàn)有技術(shù)——從上世紀(jì)50年代以來(lái)，這些技術(shù)幫助人類(lèi)跟上了人口增長(zhǎng)的步伐——主要是依靠化石燃料。而且，可耕種的土地也由于表土侵蝕等因素在不斷減少。
此外，還有風(fēng)險(xiǎn)直接跟我們食用的食物性質(zhì)有關(guān)。學(xué)界普遍認(rèn)為，人類(lèi)將需要多吃谷物少吃肉。然而，盡管作物技術(shù)的進(jìn)步已經(jīng)讓人們培育出可以在貧瘠土地生長(zhǎng)的品種，但它們也增加了作物患病的風(fēng)險(xiǎn)。舉例來(lái)說(shuō)，作為全球第三流行的谷物作物，小麥可能被真菌感染消滅——合成病毒的出現(xiàn)只會(huì)進(jìn)一步增加災(zāi)難爆發(fā)的風(fēng)險(xiǎn)。
通常情況下，食物短缺會(huì)導(dǎo)致騷亂和政治動(dòng)蕩。但令人驚訝的是，人們對(duì)食物短缺可能造成的社會(huì)崩潰并未做過(guò)多少研究。
潛在爆發(fā)日期：2050年
末日威脅等級(jí)：高
一位心懷憂慮的生物化學(xué)家向歐盟和美國(guó)法庭提出上訴，試圖在大型強(qiáng)子對(duì)撞機(jī)（LHC）開(kāi)機(jī)前阻止實(shí)驗(yàn)進(jìn)行。
在末日威脅分析的深?yuàn)W世界中，技術(shù)上存在可能性的末日?qǐng)鼍案苹米髌分械牟孪胧谴嬖谝粋€(gè)交集區(qū)的，而粒子加速器事故就是其中一例。
在過(guò)去十年間，一直有人猜測(cè)，加速器中的粒子碰撞可能會(huì)引起某種反應(yīng)，最終改變所有物質(zhì)的構(gòu)成以及物理定律。近來(lái)，一些學(xué)者提出，我們此前所認(rèn)為的真空其實(shí)還包含有粒子，宇宙中并不存在一種什么都沒(méi)有的“真真空”。他們認(rèn)為，真真空有可能以光速吞噬宇宙，這個(gè)過(guò)程被稱(chēng)為真空衰變。之所以沒(méi)有發(fā)生這種衰變，是因?yàn)檎婵仗幱谝环N元穩(wěn)定狀態(tài)，而粒子加速器有可能擾亂它，致使其吞噬一切，滅絕我們的世界。一些物理學(xué)家不認(rèn)同這種理論，他們稱(chēng)，地球一直在經(jīng)受宇宙射線的轟擊，而在改變物質(zhì)方面，這些射線可能擁有比對(duì)撞機(jī)更強(qiáng)的能量。他們認(rèn)為，地球仍然存在，所以它必然足夠強(qiáng)大。
博斯特羅姆的博士論文對(duì)此進(jìn)行了探討，即我們自己的立場(chǎng)會(huì)扭曲概率計(jì)算。他的研究稱(chēng)，我們的存在并不能用來(lái)證明這種衰變的不可能性，因?yàn)檫^(guò)去有可能已經(jīng)有數(shù)百萬(wàn)顆其他地球被吞噬了。
翻譯：何無(wú)魚(yú)
來(lái)源：WIRED
造就：劇院式的線下演講平臺(tái)，發(fā)現(xiàn)最有創(chuàng)造力的思想
聯(lián)系客服
