“本文翻譯自Tim Urban發(fā)表的《The AI Revolution》，從原文發(fā)表至今已有8年，隨著人工智能近些年的發(fā)展，特別是2022年AI大模型及AIGC鑄就的長足進(jìn)步，使得我們重新翻看這篇文章時，引人深思，特與大家分享。譜文時發(fā)現(xiàn)一個更有趣的事情，作者與Musk有很深的淵源，各種蛛絲馬跡顯示，Musk的OpenAI和Neuralink也正如文中所提的方式探索著。此篇為Part I，總篇幅3+1約5萬字，點個關(guān)注，后續(xù)馬上來”
以下內(nèi)容翻譯自《The AI Revolution: The Road to Superintelligence》，譯者：左脈夢幻師，原文由作者Tim Urban于2015在其創(chuàng)建的waitbutwhy.com網(wǎng)站發(fā)表，版權(quán)歸原作者所有，侵刪。順便幫博主打個小廣告，如果您喜歡原著，可以去waitbutwhy網(wǎng)站購買PDF原版供收藏。
我們正處于變化的邊緣，這可以與地球上人類生命的起源相提并論。-- Vernor Vinge
如果你正站在這個位置，你會是什么感受？
看似你站在了一個非常瘋狂的時間點 -- 但是，你要清楚，實際上你是無法預(yù)知時間軸上右側(cè)是怎么樣的，所以，實際上你是這樣的：
你的感受或許和平時沒什么兩樣。
想象一下當(dāng)你乘坐時光機(jī)回到 1750 年，那個沒有電、通信靠吼、交通靠拉的世界。你從那個找一個家伙并把他帶回到 2015 年，然后帶他四處走走，觀察他對一切的反應(yīng)。他無法理解他看到一切：閃亮的金屬倉在高速公路上飛馳；與遠(yuǎn)在大洋彼岸的人交談；觀看1000英里外正在進(jìn)行的體育比賽；聆聽50年的樂曲；并使用一個黑色魔法盒來捕捉現(xiàn)實生活中的圖像，或是記錄生活中的瞬間；生成一張上面有一個個超自然移動的藍(lán)點的地圖，顯示著他所在的位置；透過盒子看著某人的臉并與他們聊天，即使他們在這個國家的另一邊，以及其他這個世界中不可思議的魔法。而這一切，僅僅是在你向他展示互聯(lián)網(wǎng)、或者是國際空間站、大型粒子對撞機(jī)、核武器或廣義相對論之類的東西之前的前菜。
這段經(jīng)歷對他來說，興奮、驚訝或震驚應(yīng)該說是不足于表達(dá)的 -- 他有可能直接會被嚇得GG了。
但有趣的是，如果看到我們后如此之嫉妒，并決定以同樣的方式乘坐時光機(jī)回到相同的距離的年代：1500年，并帶一個人回到1750年，并向他展示一切。1500年的這位兄弟或許也會些許震驚，但是，他不會被嚇?biāo)?。因為，雖然1500年和1750年非常不同，但它們與1750年到2015年的之相比，區(qū)別小得太多。1500年的人會學(xué)到一些令人費(fèi)解的關(guān)于空間和物理的知識、他會對歐洲新帝國主義的狂熱留下深刻印象、他不得不對他的世界地圖構(gòu)想進(jìn)行一些重大修改。但看著1750年的日常生活 -- 交通、通訊等 -- 絕對不至于會讓他被嚇GG。
確實不會，為了讓這個1750年的家伙玩得開心，他必須回到更遠(yuǎn)的地方 -- 或許追溯到公元前12,000年，在第一次農(nóng)業(yè)革命產(chǎn)生第一批城市和文明之前的。如果帶來一個來自純粹的狩獵時代的人 -- 當(dāng)時人類或多或少只是另一種動物形式的存在，當(dāng)他看到1750年廣闊的人類帝國、高聳的教堂、海洋渡輪、居住于室內(nèi)，以及他們堆積如山的收藏、知識積累和探索發(fā)現(xiàn) -- 那這家伙或許會被嚇GG。
然后，在他被嚇?biāo)篮?，他想做同樣的事情，怎么辦。如果他從從公元前24,000年帶一個兄弟回到12,000年，并向他展示一切，那個人會說，“好吧，就這？”。對于公元前12,000年的人來說，要達(dá)到同樣的效果，需要從100,000多年前帶一個人回來，并向他展示生火和語言交流。
為了讓某人被傳送到未來并把他嚇GG的震驚程度，他們必須滿足足夠多的時間跨度，這個跨度被稱之為“死亡進(jìn)程數(shù)”或死亡進(jìn)步單位 (DPU)。因此，在原始社會時代，一個DPU花費(fèi)了100,000多年，但按照農(nóng)業(yè)革命后的速度，它只用了大約 12,000年。工業(yè)革命之后，世界發(fā)展如此之快，以至于一個DPU僅需1750年的人向前走幾百年。
這種模式 -- 人類進(jìn)步隨著時間的推移越來越快 -- 就是未來學(xué)家雷·庫茲韋爾（Ray Kurzweil）所說的人類歷史的加速回報法則（Law of Accelerating Returns）。發(fā)生這種情況是因為更先進(jìn)的社會有能力以比欠發(fā)達(dá)的社會更快的進(jìn)步 -- 因為它們更先進(jìn)。19世紀(jì)的人類比15世紀(jì)的人類知道得更多，技術(shù)也更好，因此19世紀(jì)的人類比15世紀(jì)取得的進(jìn)步要大得多也就不足為奇了 -- 15世紀(jì)的人類無法與19世紀(jì)的人類相提并論。
這也適用于較小的時間跨度。電影《回到未來》上映于1985年，“過去”發(fā)生在1955年。在電影中，當(dāng)邁克爾·J·福克斯回到1955年時，電視的新奇、蘇打水的價格、刺耳的電吉他、以及俚語的變化讓他措手不及。那是一個不同的世界，是的，但如果這部電影是在今天拍攝的，“過去”發(fā)生在1985年，那么這部電影或許可以更有趣，也有完全的不同。這個角色將出現(xiàn)在個人電腦、互聯(lián)網(wǎng)或手機(jī)出現(xiàn)之前的時代 -- 今天的Marty McFly，一個出生于90年代末的少年，回到1985年將比電影中的Marty McFly在1955年時更加格格不入。
這與我們剛才討論的原因相同 -- 加速回報定律。1985年至2015年的平均進(jìn)步速度高于1955年至1985年的速度 -- 因為前者是一個更先進(jìn)的世界 -- 最近30 年發(fā)生的變化比之前30年要多得多。
所以，世界的變遷速度正在越來越快，對吧？這是否也暗示著我們的未來，巨變也正在臨近，對吧？
Kurzweil認(rèn)為，如果按照2000年的進(jìn)步速度，整個20世紀(jì)一百年的進(jìn)步如今只需20年就可以實現(xiàn) -- 換句話說，到2000年，平均進(jìn)步速度是20世紀(jì)的五倍。他認(rèn)為，另一個等同于20世紀(jì)的進(jìn)步速度發(fā)生在2000年至2014年之間，而再一個進(jìn)步僅需七年時間，約在2021年（巧嗎？剛過7年）。幾十年后，他相信，一年發(fā)生可以頂上好幾個20世紀(jì)的百年進(jìn)步，甚至不到一個月就能發(fā)生一次?？偠灾?，由于加速回報定律，Kurzweil認(rèn)為21世紀(jì)將取得20世紀(jì)1,000倍的進(jìn)步。
如果Kurzweil和其他相同他觀點的人是正確的，那么到2030年，我們就會像 1750年的人到2015年一樣 -- 即下一個DPU可能只需要幾十年 -- 而2050年可能與今天的世界完全不同，以至于我們幾乎認(rèn)不出它。
這不是科幻小說，許多比你我都聰明、知識更淵博的科學(xué)家們都堅信這一點 -- 這是從歷史回顧可以得出的邏輯上的合理預(yù)測。
那么，為什么當(dāng)你聽“35年后世界可能會天翻地覆”之類的話時，你總是不置可否、甚至覺得好笑？對于這種對于未來古怪預(yù)測的質(zhì)疑，有三個原因：
1) 我們都是以線性思考?xì)v史的。當(dāng)我們想象未來30年的進(jìn)步時，我們會參考過去30年的進(jìn)步，當(dāng)我們思考21世紀(jì)的進(jìn)步時，我們只是將20世紀(jì)的進(jìn)步放到2000年。這與上面1750年的人犯了同樣的錯誤，他期望從1500年帶來的人并能夠給予足夠的震驚。當(dāng)我們應(yīng)該以指數(shù)方式思考時，我們習(xí)慣性的還是以線性思考。聰明人，他們可能會以當(dāng)前的發(fā)展速度預(yù)測未來30年的進(jìn)步，而不是對比過去30年為依據(jù)。為了更正確地思考未來，你需要以更快的發(fā)展速率想象事物時代的進(jìn)步。
2）歷史的發(fā)展總是呈波浪型波動向前的。首先，是陡峭的指數(shù)型曲線，當(dāng)你只截取很小一段，它依然是線性的。就好比圓周，如果你切得足夠細(xì)時，它看起來幾乎像一條直線。其次，指數(shù)增長也并不完全平穩(wěn)和均勻。Kurzweil解釋說，進(jìn)步發(fā)生在“S曲線”中：
當(dāng)新范式的出現(xiàn)推動人類進(jìn)步時，S曲線呈現(xiàn)三個階段：
1、緩慢增長（指數(shù)級增長初期）
2、快速增長（指數(shù)級爆發(fā)階段，增長的中后期）
3、隨著特定范式的成熟而趨于平穩(wěn)
如果你只回顧的歷史，你目前所在的S曲線部分可能會掩蓋你對事物發(fā)展速度的看法。1995年到2007年這段時間見證了互聯(lián)網(wǎng)的爆炸式增長，微軟、谷歌和 Facebook進(jìn)入公眾視野、社交網(wǎng)絡(luò)的誕生、以及智能手機(jī)的問世，但那已是第2階段：S曲線增長突飛猛進(jìn)的那部分。但2008年至2015年就少了很多突破，至少在技術(shù)方面是的。今天思考未來的人可能會回顧過去幾年，來衡量當(dāng)前的進(jìn)步速度，但忽略了一個更大的全景。實際上，一個全新的、巨大的飛躍可能正在醞釀中。
3）經(jīng)驗阻礙我們看待未來，讓我們成為固執(zhí)的老頭。我們基于個人經(jīng)歷來構(gòu)建世界觀，這種增長速度，即“世界變化的速度”，已經(jīng)在我們的頭腦中根深蒂固。我們還受到想象力的限制，想象力會利用我們的經(jīng)驗來預(yù)測未來 -- 但通常，我們的認(rèn)知并不能幫我們準(zhǔn)確預(yù)知未來。當(dāng)我們聽到關(guān)于未來的預(yù)測與我們現(xiàn)有經(jīng)驗相矛盾時，我們的直覺是該預(yù)測一定是幼稚的。如果我在這篇文章的后面告訴你，你可能會活到150歲，或250歲，或者根本不會死，你的直覺會是，“這太愚蠢了 -- 我從歷史中知道一件事，那就是每個人都會死。” 是的，過去沒有人沒有死。但在飛機(jī)發(fā)明之前也沒有人駕駛過飛機(jī)。
因此，當(dāng)您閱讀這篇文章時，第一反應(yīng)是“呵呵”，但實際上你可能真的是錯了。如果我們真正以邏輯合理推理的方式去推測未來，結(jié)論可能是未來幾十年發(fā)生的變化比我們的直覺要多得多。邏輯還表明，如果一個星球上最先進(jìn)的物種繼續(xù)以越來越快的速度向前進(jìn)化，那么在某個時候它們將實現(xiàn)巨大的飛躍，以至于完全改變它們所知的生活和感知，他們將成為“人類” -- 有點像不斷向前進(jìn)化的智能，使得它讓人類產(chǎn)生巨變，以至于完全改變了所有生物的命運(yùn)。如果你花一些時間洞察當(dāng)今科技的發(fā)展，你就會發(fā)現(xiàn)或許我們對于生命的認(rèn)知將要徹底改變。
什么是AI？
如果你像我一樣，曾認(rèn)為人工智能是一個很愚蠢的科幻概念，但最近不斷有嚴(yán)肅的人提到它，你會感到很困惑。
很多人對AI一詞困惑的原因有三個：
1、AI總是和電影聯(lián)想到一起。星球大戰(zhàn)、終結(jié)者2001：太空漫游等等。電影是虛構(gòu)的，那些電影角色也是虛構(gòu)的，所以我們總是覺得人工智能缺乏真實感。
2.人工智能是個很寬泛的話題。從手機(jī)上的計算器到無人駕駛汽車，到未來可能改變世界的重大變革，人工智能可以用來描述很多東西，所以人們會有疑惑。
3.AI已滲透到我們的日常生活中，只是我們沒意識到。John McCarthy，在1956年最早使用了人工智能（Artificial Intelligence）這個詞。他總是抱怨“一旦一些東西使用了人工智能，人們就不再叫它人工智能了。”因為這樣，所以人工智能聽起來總讓人覺得是未來的神秘存在，而不是身邊的現(xiàn)實。同時，這種效應(yīng)也讓人們覺得人工智能是一個從未實現(xiàn)的概念，Kurzweil提到經(jīng)常有人說人工智能在80年代就被遺棄了，這種說法就好像“互聯(lián)網(wǎng)在21世紀(jì)初互聯(lián)網(wǎng)泡沫破滅時已死”一樣可笑。
所以我們先把事情捋順。首先，不要再想機(jī)器人了。機(jī)器人只是AI的容器，有些是人形的，有些則不是 -- 但AI本身就是機(jī)器人內(nèi)部的計算機(jī)。人工智能是大腦，機(jī)器人是它的身體（如果它有身體的話）。例如，Siri背后的軟件和數(shù)據(jù)是 AI，我們聽到的女人的聲音是AI的化身，沒有實體的機(jī)器人。
其次，您可能聽說過“奇點（singularity）”或“技術(shù)奇點”一詞。該術(shù)語在數(shù)學(xué)中用于描述正常的規(guī)則不再適用的類似漸近線的情況。它在物理學(xué)中被用來描述一種現(xiàn)象，比如一個無限小、致密的黑洞，或者我們在大爆炸之前都被擠壓到的那個臨界點，同樣是通常的規(guī)則不再適用的情況。1993年，弗諾·文格 (Vernor Vinge) 寫了一篇著名的文章，他將這個詞用于未來我們的技術(shù)智能超過我們自己的那一刻 -- 對他來說，在那一刻之后，我們所有的生活將被永遠(yuǎn)改變，正常規(guī)則將不再適用。Ray Kurzweil的定義則是當(dāng)加速回報法則達(dá)到極端的速度，以至于技術(shù)進(jìn)步以接近無限快速的速度發(fā)展時，以此之后我們將生活在一個全新的世界。我發(fā)現(xiàn)今天許多人工智能研究者已經(jīng)停止使用這個術(shù)語了，所以我不會在這里復(fù)述太多（盡管我們始終關(guān)注這個想法）。
最后，由于AI是一個廣泛的概念，因此會有許多不同種類或者形式的AI，但我們基于AI的能力，把AI歸類為三大口徑：
1) 弱智能-狹義人工智能（ANI）：狹義人工智能是專注于某個特定領(lǐng)域的人工智能。有的人工智能可以在國際象棋中擊敗世界象棋冠軍，但這是它唯一能做的事情。要求它找出在硬盤上存儲數(shù)據(jù)的更好方法，它會茫然地看著你。
2) 強(qiáng)智能-通用人工智能 (AGI)：或稱之為人類級人工智能，通用人工智能指的是全面與人類一樣聰明的計算機(jī) -- 可以執(zhí)行任何與人類相當(dāng)?shù)娜蝿?wù)的機(jī)器。構(gòu)造AGI比構(gòu)造ANI難得多，而且我們還沒有做到。Linda Gottfredson教授將智力描述為“一種非常普遍的心理能力，在事務(wù)中推理、計劃、解決問題、抽象思考、理解復(fù)雜思想、快速學(xué)習(xí)和從經(jīng)驗中學(xué)習(xí)的能力?！?AGI將能夠像人類一樣輕松地完成所有這些事情。
3) 超智能-超級人工智能 (ASI)：牛津大學(xué)哲學(xué)家和領(lǐng)先的人工智能思想家Nick Bostrom將超級智能定義為“一種幾乎在所有領(lǐng)域都比最優(yōu)秀的人類更聰明的智能，包括科學(xué)創(chuàng)造力、一般智慧和社交技能?！背壢斯ぶ悄艿姆秶鷱谋热祟惵斆饕稽c點，比人類聰明數(shù)億萬倍的計算機(jī)，均屬于其范疇。ASI是AI話題如此火爆的原因，也是為什么“永生”和“滅絕”這兩個詞會多次出現(xiàn)在這些帖子中的原因。
如果想體驗近似AGI，歡迎訪問：aispacelab.cn
時至今日，我們已經(jīng)征服了最低級別的人工智能ANI，而且它已無處不在， AI革命是從ANI，經(jīng)過AGI，到達(dá)ASI的道路 -- 一條我們可以得到“永生”也可能“滅絕”的道路，無論哪種方式，它都會改變一切。
讓我們仔細(xì)看看該領(lǐng)域的主要思想家認(rèn)為這條路是什么樣的，以及為什么這場革命可能發(fā)生的比您想象的更早：
狹義人工智能是在特定事物上等于或超越人類聰明程度或者效率的機(jī)器智能。幾個例子：
現(xiàn)在的ANI系統(tǒng)并不是特別嚇人。最壞的情況，一個故障或編程錯誤的ANI只可能會導(dǎo)致相對孤立的災(zāi)難，例如摧毀電網(wǎng)、導(dǎo)致有害的核電站故障或引發(fā)金融市場災(zāi)難（如2010閃崩事件，ANI程序一些出乎意料的反應(yīng)和錯誤導(dǎo)致金融市場崩盤，股市短暫暴跌，市值蒸發(fā)了1萬億美元，其中只有一部分在錯誤糾正后恢復(fù)）。
但是，雖然ANI不會造成生存威脅，但是我們應(yīng)該警惕這個相對無害的ANI，在日積月累后組成的，日益龐大和復(fù)雜的生態(tài)系統(tǒng)?，F(xiàn)在的每一項ANI的創(chuàng)新都在 為AGI和ASI的的發(fā)展添磚加瓦。正如Aaron Saenz所見，我們世界的ANI系統(tǒng)“早期原始地球軟泥中的氨基酸” -- 在某個意想不到的日子蘇醒過來的無生命物質(zhì)。
為何如此困難？
復(fù)刻一個與人類一樣聰明的計算機(jī)，是多么令人難以置信以及讓人拍案叫絕的挑戰(zhàn)。這是建造摩天大樓、將人類送入太空或者弄清楚大爆炸細(xì)節(jié)，所有這些事無法比擬的，他們都比理解我們的大腦是如何運(yùn)作的，并制造一個一樣酷的東西要容易得多。時至今日，人腦依然是宇宙中已知的最復(fù)雜的東西。
有趣的是，嘗試構(gòu)建AGI（與人類一樣聰明的計算機(jī)，而不是只在一個狹隘專業(yè)領(lǐng)域的人工智能）的困難，并非是你想的那樣。
一臺可以計算十位數(shù)乘法的計算機(jī) -- 非常簡單。一個可以可以分辨它是狗貓的機(jī)器 -- 非常困難。可以在國際象棋中擊敗人類的人工智能？早就做到了。可以閱讀六歲兒童繪本中的一段話，并能理解其含義？谷歌正花費(fèi)數(shù)十億美元嘗試做到這一點。
我們認(rèn)為困難的事情 -- 比如微積分、金融市場策略和語言翻譯 -- 這對計算機(jī)來說極其的簡單，而我們認(rèn)為的一些簡單的事情 -- 比如視覺、動態(tài)、運(yùn)動和直覺 -- 對它來說卻極其其困難。或者，正如計算機(jī)科學(xué)家唐納德·高德納 (Donald Knuth) 所說，“人工智能現(xiàn)在基本已經(jīng)能做好所有需要'思考’的事情，但卻做不了大多數(shù)人和動物都'無需思考’就能做的事情。”
你應(yīng)該很快就能意識到，那些對我們來說似乎很簡單的事情，實際上極其復(fù)雜，它們之所以看起來簡單，是因為這些技能已經(jīng)在我們（和大多數(shù)動物）身上經(jīng)過數(shù)億年的進(jìn)化和優(yōu)化了。當(dāng)你把手伸向一個物體時，你肩膀、肘部和手腕的肌肉、肌腱和骨骼會立即與你的眼睛一起構(gòu)成一個三維系統(tǒng)，執(zhí)行一系列物理動作，讓你的手向目標(biāo)物體直線移動。這對你來說輕而易舉，因為你的大腦中軟件已經(jīng)“非常完美”了。同樣，也就是為什么當(dāng)你網(wǎng)站上注冊新賬戶時，惡意軟件搞不定驗證碼，而你卻能夠輕而易舉完成。
另一方面，大數(shù)相乘或者下象棋，這些都是生物的新活動，我們還沒有足夠的時間來進(jìn)化以熟練掌握，所以計算機(jī)可以輕而易舉的打敗我們。試想一下，哪個更容易做到，構(gòu)建一個計算大數(shù)相乘的程序，或者一個可以識別成千上萬種不同字體或手寫體字母的程序？
一個有趣的例子 -- 當(dāng)看這個時，你和計算機(jī)都可以很快地看出它是一個具有兩種不同陰影的矩形交替出現(xiàn)的圖形：
但如果用這個團(tuán)案的話：
你可以很快地描述出圖形的圓柱形、3D、矩形、不同陰影灰度等，但計算器就完全無法描述出來。計算機(jī)能夠描述各種深度不同的二維平面形狀，但是人腦卻能把所有的形狀、陰影、細(xì)節(jié)、組合全部解讀出來。再比如下面的圖片，電腦看到的是黑、白、灰，而你能很快分辨出來這是一個石頭。
而且，我們到現(xiàn)在談的還是一些靜態(tài)不變的信息。要想達(dá)到人類級別的智能，計算機(jī)必須要理解更高深的東西，比如臉部微表情，開心、放松、滿足、滿意、高興這些類似情緒之間的區(qū)別，以及為什么《勇敢的心》是好電影，而《愛國者》是爛電影。
很難是吧？如何才能達(dá)到呢？
構(gòu)建AGI的第一關(guān)鍵：足夠的算力
要使 AGI 成為可能，第一件事是計算能力的增強(qiáng)。如果人工智能系統(tǒng)要像大腦一樣聰明，它至少需要與大腦的相同的計算能力。
表達(dá)這種能力的一種方法是大腦每秒可以處理的總計算量 (calculations per second, cps)，你可以通過計算出大腦中每個結(jié)構(gòu)的最大cps然后將它們加在一起來得出這個數(shù)字。
Ray Kurzweil想出了一個捷徑：稱重，他采用某人對一個結(jié)構(gòu)的cps的專業(yè)估計，并將該結(jié)構(gòu)的重量與整個大腦的重量進(jìn)行計算，按比例相乘以獲得總cps的估計。聽起來不靠譜，但他用大腦不同局部的值進(jìn)行多次估計，總和都類似：大約10的16次方，或1億億cps。
目前，世界上最快的超級計算機(jī)，中國的天河二號，實際上已經(jīng)超過了這個數(shù)字，達(dá)到約3.4億億cps。但天河二號和一個人的大腦比起來也只是個小弟，占地720平方米，用電24兆瓦（大腦運(yùn)行僅需20瓦），造價3.9億美元。甚至較為通用的商業(yè)或工業(yè)用途場景都還不適用。
Kurzweil認(rèn)為考慮電腦的發(fā)展程度的標(biāo)桿是看1000美元能買到多少cps，當(dāng)1000美元能買到人腦級別的1億億運(yùn)算能力的時候，強(qiáng)人工智能可能就是生活的一部分了。
摩爾定律認(rèn)為全世界的電腦運(yùn)算能力每兩年就翻一倍，這一定律有歷史數(shù)據(jù)所支持，這同樣表明電腦硬件的發(fā)展和人類發(fā)展一樣是指數(shù)級別的。我們用這個定律來衡量1000美元什么時候能買到1億億cps?，F(xiàn)在1000美元能買到10萬億cps，和摩爾定律的歷史預(yù)測相符合。
$1000能買到的cps，及約等于大腦容量對比
因此，目前1,000美元的計算機(jī)現(xiàn)在已能擊敗老鼠的大腦，它們的水平約為人類的千分之一。這聽起來并不多，但是，在1985年其大約是人類水平的萬億分之一，1995年是人類水平的十億分之一，2005年是人類水平的百萬分之一。2015 年是千分之一，到2025年，與一個人類大腦相媲美的計算機(jī)將是人人都負(fù)擔(dān)的起了（還有2年，拭目以待）。
因此，在硬件方面，AGI所需的算力現(xiàn)在在中國技術(shù)上已是可用了的，且10年內(nèi)將普及AGI級的硬件。但是，僅靠算力并不能使計算機(jī)具備通用智能 -- 下一個問題是，我們?nèi)绾螌⑷祟愃降闹悄苜x予此？
構(gòu)建AGI的第二關(guān)鍵：讓其足夠聰明
這很棘手。事實是，沒人知道如何讓計算機(jī)變得像人一樣聰明，能夠知道什么是狗、寫得怪異的B和分辨爛片。但是有很多嘗試在某個時候或許會奏效。以下是我遇到的三種最常見的策略：
1）剽竊大腦
這就像科學(xué)家們苦思冥想，為什么坐在他們旁邊的那個孩子很聰明，考試總是那么好，即使他們一直在努力學(xué)習(xí)，也做不到那個孩子那么好，然后，他們最終決定“去他媽的，我只是要復(fù)制那個孩子的答案。” 這是有道理的 -- 我們在嘗試建造一臺超級復(fù)雜的計算機(jī)時遇到了困難，而我們每個人的腦海中恰好都有一個完美的原型。
科學(xué)界正在努力對大腦進(jìn)行逆向工程，以弄清楚進(jìn)化是如何產(chǎn)生如此出色的東西的 -- 樂觀估計我們可以在2030年之前做到這一點。一旦我們做到了這一點，我們就會知道大腦如何強(qiáng)大而高效運(yùn)行的所有秘密，我們可以從中汲取靈感并竊取其創(chuàng)新。模仿大腦的計算機(jī)體系結(jié)構(gòu)的一個例子是人工神經(jīng)網(wǎng)絡(luò)。它最初是一個晶體管“神經(jīng)元”網(wǎng)絡(luò)，通過輸入和輸出相互連接，它什么都不知道 -- 就像嬰兒的大腦一樣。它“學(xué)習(xí)”的方式是嘗試完成一項任務(wù)，比如手寫識別，起初，它的神經(jīng)元放電和隨后對每個字母的猜測將是完全隨機(jī)的。但是，當(dāng)它被告知它做對了某事時，恰好產(chǎn)生該答案的發(fā)射路徑中的晶體管連接得到加強(qiáng)；當(dāng)它被告知錯誤時，這些通路的聯(lián)系就會被削弱。經(jīng)過大量的試驗和反饋，網(wǎng)絡(luò)本身已經(jīng)形成了智能神經(jīng)通路，并且機(jī)器已經(jīng)針對任務(wù)進(jìn)行了優(yōu)化。大腦有點像這樣學(xué)習(xí)，但以更復(fù)雜的方式學(xué)習(xí)，隨著我們繼續(xù)研究大腦，我們正在發(fā)現(xiàn)巧妙的新方法來利用神經(jīng)回路。
更極端的剽竊涉及一種稱為“全腦仿真”的策略，其目標(biāo)是將真實的大腦切成薄層，掃描每一層，使用軟件組裝一個精確的重建3D模型，然后在功能強(qiáng)大的計算機(jī)上實現(xiàn)該電腦模型。屆時我們將擁有一臺正式具備大腦所有能力的計算機(jī) -- 它只需要學(xué)習(xí)和收集信息。如果工程師做得非常好，他們將能夠以如此精確的精度模擬真實的大腦，一旦將大腦結(jié)構(gòu)上傳到計算機(jī)，大腦的完整個性和記憶就會完好無損。如果計算機(jī)大腦是在Jim去世前建立的，那么計算機(jī)現(xiàn)在將以Jim的身份醒來，這將是一個強(qiáng)大的人類級AGI，然后我們可以努力將Jim變成一個難以想象的超智能ASI。
我們離實現(xiàn)全腦仿真還有多遠(yuǎn)呢？到目前為止，我們還未能模擬一個1毫米長的扁蟲大腦，它總共只有302個神經(jīng)元，而人腦包含1000億個。如果這個數(shù)字使項目看起來無望，請記住指數(shù)級的進(jìn)步 -- 既然我們已經(jīng)征服了微小的蠕蟲大腦，不久之后可能會出現(xiàn)一只螞蟻，然后是一只老鼠，突然間這似乎更合理了（漂亮國已經(jīng)取得進(jìn)步了）。
2）模擬進(jìn)化
模仿聰明孩子考試太難，那我們可以嘗試復(fù)制他為學(xué)習(xí)方式。
這正是我們所知的，我們自己大腦的進(jìn)化就是證明，因此建造一臺像大腦一樣強(qiáng)大的計算機(jī)也是可能的。如果大腦過于復(fù)雜無法模仿，那我們可以嘗試模仿進(jìn)化。就像我們試圖通過模仿鳥的拍打動作來制造飛機(jī)一樣 -- 最好是使用全新的、面向機(jī)器的方法來設(shè)計機(jī)器，而不照搬生物學(xué)。
所以我們?nèi)绾瓮ㄟ^模擬進(jìn)化的來造強(qiáng)人工智能呢？這種方法叫做“基因算法”，它大概是：建立一個反復(fù)運(yùn)作的表現(xiàn)/評價過程，就好像生物通過生存這種方式來表現(xiàn)，并且以能否生養(yǎng)后代為評價一樣。一組電腦將執(zhí)行各種任務(wù)，最成功的將會“繁殖”，把各自的程序融合，產(chǎn)生新的計算機(jī)（算法），而不成功的將會被剔除。經(jīng)過多次的反復(fù)后。這個自然選擇的過程將產(chǎn)生越來越強(qiáng)大的計算機(jī)（算法）。而這個方法的難點是建立一個自動化的評價和繁殖過程，使得整個流程能夠自己運(yùn)行。
這個方法的缺點是，進(jìn)化往往需要十億年才能完成，而我們希望在幾十年內(nèi)完成。
但是比起自然演化來說，我們有很多優(yōu)勢。
首先，自然演化是沒有預(yù)知能力的，它是隨機(jī)的 -- 它產(chǎn)生的沒用的變異比有用的變異多很多，但是人工模擬的演化可以控制過程，使其著重于有益的變化。其次，自然演化是沒有目標(biāo)的，自然演化出的智能也不是它目標(biāo)，特定環(huán)境甚至對于更高的智能是不利的（因為高等智能消耗很多能源）。但是我們可以控制演化的過程向更高智能的方向發(fā)展。再次，要產(chǎn)生智能，自然演化要先產(chǎn)生其它的附件，比如改良細(xì)胞產(chǎn)生能量的方法，但是我們完全可以用電力來代替這額外的負(fù)擔(dān)。所以，人類主導(dǎo)的演化會比自然快很多很多，但是我們依然不清楚這些優(yōu)勢是否能使模擬演化成為可行的策略。
2）轉(zhuǎn)化為計算機(jī)問題
這是科學(xué)家們感到絕望并試圖對測試進(jìn)行編程和自我測試的嘗試。但它可能是最有前途的方法。
想法是，我們要建造一臺自編碼的計算機(jī)，它的兩項主要技能是對人工智能進(jìn)行研究和對自身的變化進(jìn)行不停的編碼 -- 讓它不僅可以學(xué)習(xí)，還可以改進(jìn)自己的架構(gòu)。我們會教計算機(jī)成為計算機(jī)科學(xué)家，這樣他們就可以引導(dǎo)自己的發(fā)展。這將是他們的主要工作 -- 弄清楚如何讓自己變得更聰明。稍后會詳細(xì)介紹。（像不像OpenAI？）
所有這一切很快可能發(fā)生
硬件的快速進(jìn)步和軟件的創(chuàng)新探索在同時發(fā)生，AGI可能會迅速而意外地出現(xiàn)在我們身上，主要原因有兩個：
1) 指數(shù)增長非常劇烈，蝸牛般的前進(jìn)速度可以快速上升 -- 這張GIF很好地說明了這個概念：
2）當(dāng)涉及到軟件時，進(jìn)步似乎很緩慢，但是頓悟可以立即改變進(jìn)步的速度（有點像科學(xué)，在人類認(rèn)為宇宙以地心為中心的時候，很難計算出宇宙是如何運(yùn)行的 , 但隨后發(fā)現(xiàn)它是日心時，突然一切變得容易得多了）。或者，當(dāng)涉及到諸如自我改進(jìn)的計算機(jī)之類的東西時，我們可能看起來很遙遠(yuǎn)，但實際上只需對系統(tǒng)進(jìn)行一次調(diào)整，就可以使它的效率提高1,000倍，并提升到人類智能水平。
總有一天，我們將實現(xiàn)AGI -- 具有人類一般智能的計算機(jī)，和人類平等地生活在一起。
完全不會！實際上，具備算力以及與人類相同智能水平的AGI會顯著比人類有優(yōu)勢。比如：
在硬件上：
-速度。腦神經(jīng)元的運(yùn)算速度最多是200Hz，今天的微處理器就能以2GHz，也就是神經(jīng)元1000萬倍的速度運(yùn)行，而這比我們達(dá)成強(qiáng)人工智能需要的硬件還差遠(yuǎn)了。大腦的內(nèi)部信息傳播速度是120m/s，計算機(jī)的信息傳播速度是光速，差了好幾個數(shù)量級。
-容量和儲存空間。人腦先天就那么大，后天無法把它變得更大，就算真的可以，每秒120m/s的傳播速度也會成為巨大的瓶頸。計算機(jī)的物理大小可以非常隨意，使得計算機(jī)能運(yùn)用更多的硬件，更大的內(nèi)存，長期有效的存儲介質(zhì)，不但容量大而且比人腦更準(zhǔn)確。
-可靠性和持久性。計算機(jī)的存儲不但更加準(zhǔn)確，而且晶體管比神經(jīng)元更加精確，也更不容易損壞（真的壞了也很好修）。人腦還很容易疲勞，但是計算機(jī)可以7x24小時不停地以峰值速度運(yùn)作。
在軟件上：
-可編輯性，可升級性，以及更廣泛的可能性。和人腦不同，計算機(jī)軟件可以進(jìn)行更多的升級和修正，并且很容易做測試。計算機(jī)的升級可以加強(qiáng)人腦比較弱勢的領(lǐng)域 -- 人腦的視覺單元很發(fā)達(dá)，但是復(fù)雜工程能力就挺弱的。而計算機(jī)則不但能在視覺元件上匹敵人類，在處理復(fù)雜工程上也一樣可以加強(qiáng)和優(yōu)化。
-集體能力。人類建立了龐大的集體智慧，以壓倒性統(tǒng)治其他物種。從早期的語言和大型社區(qū)的形成，到文字和印刷的發(fā)明，再到互聯(lián)網(wǎng)的普及。人類的集體智慧是我們統(tǒng)治其它物種的重要原因之一。而計算機(jī)在這方面比我們要強(qiáng)的很多，一個運(yùn)行特定程序的人工智能網(wǎng)絡(luò)能夠經(jīng)常在全球范圍內(nèi)自我同步，這樣一臺計算機(jī)學(xué)到的東西會立刻被其它所有計算機(jī)學(xué)得。而且計算機(jī)集群可以共同執(zhí)行同一個任務(wù)，分歧、自私自利等這些人類特有的東西未必會出現(xiàn)在計算機(jī)身上。
人工智能很可能通過可自我改進(jìn)的程序達(dá)到通用人工智能，且它不會將“人類智能”視為重要的里程碑 -- 從我們的角度來看，它只是一個相對標(biāo)志 -- 而且沒有任何理由到達(dá)我們的水平后就“停止”。考慮到即使是與人類智力相當(dāng)?shù)腁GI也比人類更具有優(yōu)勢，很明顯，它只會在短暫的一瞬間打擊人類智力，然后進(jìn)入超越人類智力的領(lǐng)域。
當(dāng)它發(fā)生時，可能會讓我們大吃一驚。原因是，從我們的角度來看，A) 雖然不同種類動物的智力各不相同，但從物種主宰的我們來看，任何動物的智力都遠(yuǎn)低于我們，并且B)我們認(rèn)為最聰明的人和最愚蠢的人相去甚遠(yuǎn)。有點像這樣：
因此，隨著人工智能向人類水平靠近，我們會認(rèn)為它只是變得相對動物來說更聰明了。然后，當(dāng)它觸及人類的最低能力時，我們會說，“哇哦，它就像一個笨笨的人。 好可愛！” 但問題是，從智能的大局來看，人和人的智能的差別，比如從最愚笨的人類到愛因斯坦的差距，其實是不大的。所以當(dāng)人工智能達(dá)到了腦殘級別的智能后，它會很快變得比愛因斯坦更加聰明：
之后會怎樣？
我希望你享受現(xiàn)在的閱讀時光，因為接下來這個話題將變得不正常和可怕，而且會保持這種狀態(tài)。我想在這里停下來提醒您，我要說的每一件事都是真實的 -- 真實的科學(xué)和來自眾多最受尊敬的思想家和科學(xué)家對未來的真實預(yù)測。切記！
正如我上面所說，我們目前大多數(shù)實現(xiàn)AGI的模型，都涉及AI自我改進(jìn)。一旦到達(dá)AGI，即便不是通過自我改進(jìn)的方法形成的，也足夠聰明到可以根據(jù)需要開始自我改進(jìn)。
這正是我們要引出一個重磅概念的地方：遞歸式自我改進(jìn)。
它是這樣工作的：某個級別的人工智能系統(tǒng) -- 比方說村里的大傻 -- 是一個為實現(xiàn)可自我改進(jìn)而編織的程序。一旦它做到了，它就變得更聰明了 -- 也許在某個時間點它達(dá)到了愛因斯坦的水平 -- 所以當(dāng)它努力提高智力，有了愛因斯坦的水平時，它就更容易實現(xiàn)更大的提升。這些提升使其它將比任何人類都聰明得多，從而使其能夠?qū)崿F(xiàn)更大的飛躍。就如同飛輪效應(yīng)一般，提升越來越大，且越來越快，AGI在智能上飆升很快就達(dá)到了ASI系統(tǒng)的超級智能水平。這就稱為智能大爆炸！
關(guān)于人工智能還需多長時間達(dá)到人類水平的通用智能，還存在著一些爭論。一項對數(shù)百名科學(xué)家的調(diào)查顯示，我們可能能夠達(dá)到AGI的年份的中位數(shù)是2040年，也就是距離現(xiàn)在只有25年了（又1/3過去了，進(jìn)步我們看到了），這聽起來沒什么，但是要記住，很多這個領(lǐng)域的思想家認(rèn)為從AGI強(qiáng)人工智能到ASI超人工智能的會快得多。就像下面這很可能會發(fā)生：
第一個人工智能系統(tǒng)需要幾十年才能達(dá)到低級通用智能，但它終于發(fā)生了。一臺計算機(jī)能夠理解它周圍的世界，就像一個四歲的人類一樣。突然間，在達(dá)到那個里程碑的一個小時內(nèi)，系統(tǒng)推出了統(tǒng)一廣義相對論和量子力學(xué)的宏大物理學(xué)理論，這是人類無法確定的事情。90分鐘后，AI變成了ASI，比人類聰明170,000倍。
如此強(qiáng)的超級智能是我們所無法理解的，就像一只黃蜂無法理解凱恩斯經(jīng)濟(jì)學(xué)一樣。在我們的世界里，聰明意味著130智商，愚蠢意味著85智商 -- 我們沒有一個詞能來形容12,952的智商。
我們所知道的是，人類在地球上的絕對統(tǒng)治背后有一個顯而易見的規(guī)則：智慧帶來力量。這意味著當(dāng)我們創(chuàng)造出ASI時，它將成為地球生命史上最強(qiáng)大的存在，包括人類在內(nèi)的所有生物都將屈居其下 -- 這可能會在未來幾十年內(nèi)便發(fā)生。
如果我們的大腦能夠發(fā)明WiFi，那么，比我們聰明100倍、1000倍甚至是10億倍的東西，應(yīng)該可以輕易的隨意掌控世界上每個原子的位置，我們想象的一切魔法、如同至高無上的上帝般擁有的每一種力量，對ASI來說或許就像開關(guān)燈一般簡單。創(chuàng)造永葆青春之術(shù)、治愈疾病、解決饑荒、操縱天氣以保護(hù)地球上生命的未來、甚至是讓人類獲得永生，這一切突然都成為可能。也有可能是地球上所有生命的立即終結(jié)。就我們而言，如果ASI出現(xiàn)，地球上就會有一個全能的上帝 -- 對我們來說最重要的問題是：
文中提及的參考文獻(xiàn)：
求關(guān)注，后續(xù)馬上來，END
登錄dreamcast.aispacelab.cn，開啟AI奇幻旅程！
聯(lián)系客服
