人工智能帶來的風(fēng)險可能讓人感到不堪重負(fù)。那些因為智能機(jī)器而失去工作的人會發(fā)生什么？人工智能能否影響選舉結(jié)果？如果未來的人工智能決定不再需要人類并試圖擺脫我們怎么辦？
這些都是合理的問題，不過我們有理由相信我們可以應(yīng)對這些問題：這不是我們第一次因為重大創(chuàng)新而引入的新威脅，而且那些威脅我們都解決掉了。
無論是汽車的問世還是個人電腦和互聯(lián)網(wǎng)的興起，人們在其他變革時刻中都安然無恙——盡管經(jīng)歷了很多動蕩，但是最終都變得更好。比如，在第一輛汽車上路后不久，就發(fā)生了第一起車禍。但我們沒有禁止汽車——我們采取了限速、安全標(biāo)準(zhǔn)、駕照要求、酒后駕駛法律和其他交通規(guī)則。
小編：這一段，蓋茨是想說，以AI為代表的第四次工業(yè)革命的出現(xiàn)和前三次工業(yè)革命一樣，都帶來了新威脅，但是都可以妥善解決。
這個論斷我只能同意一半：同意“都帶來了新威脅”，但是暫時不同意“都可以妥善解決”。原因是，AI的發(fā)展軌跡可能是人類所不能預(yù)測的，因為我們正在經(jīng)歷著技術(shù)奇點(diǎn)。這和前三次工業(yè)革命人類所經(jīng)歷的非常不同。這也是為什么人類一直擔(dān)心AI可能毀滅人類，卻從來沒人擔(dān)心前三次工業(yè)革命中的技術(shù)，比如，汽車會毀滅人類。
所以，從這一點(diǎn)上，蓋茨還是非常樂觀的。當(dāng)然了，樂觀不是壞事，關(guān)鍵是要建立在可信的知識體系和實踐上。
關(guān)于人工智能到底能帶來什么風(fēng)險，沒人知道所有答案。事實是，人工智能的未來既不像一些人認(rèn)為的那樣悲觀，也不像其他人認(rèn)為的那樣美好。風(fēng)險是真實存在的，但我對能夠管理它們感到樂觀。
01 由人工智能生成的深度偽造和虛假信息可能破壞選舉和民主
人工智能擴(kuò)展了虛假文本的問題，使幾乎任何人都能夠創(chuàng)建虛假的音頻和視頻，即所謂的深度偽造。如果你收到一個聲音消息聽起來像是你的孩子說：“我被綁架了，請在接下來的10分鐘內(nèi)將1000美元匯到這個銀行賬戶，并不要報警”，它會產(chǎn)生遠(yuǎn)比一封相同內(nèi)容的電子郵件更可怕的情感沖擊。
從更大的規(guī)模上看，由人工智能生成的深度偽造可能被用于試圖影響選舉。當(dāng)然，引發(fā)對選舉合法獲勝者的疑問并不需要復(fù)雜的技術(shù)，但人工智能將使其更加容易實現(xiàn)。
我們當(dāng)然還沒有解決虛假信息和深度偽造的問題。但有兩件事讓我保持謹(jǐn)慎樂觀。一是人們有能力學(xué)會不輕信一切。隨著騙局變得越來越復(fù)雜，許多人也變得越加警惕。我們需要對深度偽造建立同樣的防護(hù)機(jī)制。
另一個讓我有希望的是，人工智能可以幫助識別深度偽造并創(chuàng)建它們。例如，英特爾已經(jīng)開發(fā)出了一種深度偽造檢測器，政府機(jī)構(gòu)DARPA正在研發(fā)技術(shù)來確定視頻或音頻是否被篡改。
這將是一個循環(huán)的過程：有人找到了檢測欺詐行為的方法，其他人則想出了如何反擊的辦法，還有其他人開發(fā)了反反欺詐措施，以此類推。這不會是完美的成功，但我們也不會無助。
小編：這確實是一個相互的、循環(huán)制約的過程，就好像軟件病毒和殺病毒軟件一樣，就看是魔高一尺，還是道高一丈了。
同時，不可忽視的是，隨著AI越來越普及，應(yīng)用的門檻越來越低，AI詐騙事件也越來越多了。
而談起人類面對詐騙的表現(xiàn)，我就沒那么樂觀了。這不是說人們不提防，或者說不吸取教訓(xùn)，而是“敵人”太狡猾！加之，一方面，各國還沒有在立法上及時跟進(jìn)；另一方面，人們對于AI本身以及AI詐騙的認(rèn)識還遠(yuǎn)遠(yuǎn)不夠，這將成為AI詐騙的溫床。
02 人工智能使對個人和政府進(jìn)行攻擊變得更加容易
不同于傳統(tǒng)的黑客，他們需要通過暴力破解（嘗試足夠多的次數(shù)）來尋找軟件中可以利用的漏洞，很多時候這種方法并不奏效，同時需要足夠多的時間和耐心。
AI時代，人工智能模型將通過幫助黑客編寫更有效的代碼加速這個過程。他們還將能夠利用關(guān)于個人的公共信息，如他們的工作地點(diǎn)和朋友是誰，來開發(fā)比我們今天看到的更高級的釣魚攻擊。
當(dāng)然，人工智能也可以被用于正面的目的。政府和私營部門的安全團(tuán)隊需要擁有最新的工具，在犯罪分子利用之前找出并修復(fù)安全漏洞。
所以，我們不應(yīng)該試圖暫時阻止人們實施人工智能的新發(fā)展。因為網(wǎng)絡(luò)犯罪分子不會停止制造新的工具。希望利用人工智能設(shè)計核武器和生物恐怖襲擊的人也不會停下來。阻止他們的努力需要以同等的速度進(jìn)行。
小編：看到這段，我想起了3月29日，在由圖靈獎得主、深度學(xué)習(xí)三巨頭之一約書亞·本吉奧，埃隆·馬斯克，《人類簡史》作者尤瓦爾·赫拉利等千人聯(lián)名發(fā)表的公開信中，確實沒有比爾蓋茨的名字。
這封公開信呼吁所有AI實驗室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)，為期至少6個月，以確保人類能夠有效管理其風(fēng)險。
這也是人類可怕的地方：你永遠(yuǎn)不知道誰，在哪里，掌握了什么技術(shù)，在或者想做什么。
03 人工智能將奪走人們的工作
在接下來的幾年里，人工智能對工作的主要影響將是幫助人們更高效地完成工作。無論是在工廠還是在辦公室處理銷售電話和應(yīng)付賬款，這都是事實。最終，人工智能會足夠擅長表達(dá)思想，以至于可以為你撰寫電子郵件并管理你的收件箱。你只需用簡單的英語或其他任何語言發(fā)出請求，就能生成一份豐富的工作報告。
當(dāng)生產(chǎn)力提高時，這對社會是有益的。它給人們更多時間去做其他事情，無論是在工作上還是在家庭中。而對于那些幫助他人的需求，比如教學(xué)、照顧病人和支持老年人等，永遠(yuǎn)不會消失。但確實有些工人在我們向以人工智能為動力的工作場所過渡時需要得到支持和再培訓(xùn)。這是政府和企業(yè)的責(zé)任，他們需要妥善管理，以避免工人被拋在后頭，避免類似于美國制造業(yè)就業(yè)崗位減少期間對人們生活產(chǎn)生的沖擊。
小編：不知道蓋茨是否有注意到：因為ChatGPT的出現(xiàn)導(dǎo)致的行業(yè)焦點(diǎn)重聚，比如，大廠們都裁撤了元宇宙團(tuán)隊，和工作效率&質(zhì)量的提高，已經(jīng)讓很多人都失了業(yè)。
任正非說，未來的職場上只有兩類人：一類是會用AI工具的人，一類是創(chuàng)造AI工具的人。壓根就不存在第三類人，即不會用AI工具的人。
希望大家至少都成為會用AI工具的人！
04 人工智能繼承我們的偏見并編造事實
幻覺是指當(dāng)人工智能自信地提出一些顯然不正確的主張時發(fā)生的情況。
為什么會發(fā)生幻覺和偏見問題？因為人工智能模型實質(zhì)上是更復(fù)雜版本的代碼，可以讓你的電子郵件應(yīng)用程序預(yù)測你即將輸入的下一個詞：它們掃描大量文本——在某些情況下幾乎包括所有在線文本，并分析其中的人類語言模式。
當(dāng)你向人工智能提問時，它會查看你使用的單詞，然后搜索與這些單詞經(jīng)常相關(guān)的文本片段。如果你寫下“列出制作煎餅的配料”，它可能會注意到“面粉、糖、鹽、發(fā)酵粉、牛奶和雞蛋”這些詞組經(jīng)常與該短語一起出現(xiàn)。然后，根據(jù)它對這些單詞通常出現(xiàn)順序的了解，生成一個答案。（使用這種方式的人工智能模型被稱為transformer，GPT-4就是其中之一。）
這個過程解釋了為什么人工智能可能會出現(xiàn)幻覺或表現(xiàn)出偏見。它對你提出的問題或告訴它的事情沒有背景理解。
同樣地，人工智能模型會繼承訓(xùn)練文本中蘊(yùn)含的任何偏見。例如，如果一個模型閱讀了很多關(guān)于醫(yī)生的內(nèi)容，而這些文本主要提到男性醫(yī)生，那么它的回答將假設(shè)大部分醫(yī)生都是男性。
盡管一些研究人員認(rèn)為幻覺是一個固有的問題，但我并不認(rèn)同。我對AI模型隨著時間的推移可以被教會區(qū)分事實和虛構(gòu)持樂觀態(tài)度。例如，OpenAI正在這方面進(jìn)行有希望的工作。
小編：人工智能產(chǎn)生幻覺的直接后果是，它一本正經(jīng)的胡說八道。比如，前兩天，我讓它給我整理李玟的歌曲清單時，它居然“大言不慚”地告訴我：《真的愛你》《想你的夜》等等明顯不是李玟的歌曲，都是李玟原創(chuàng)的？！
這也是為什么我們一直強(qiáng)調(diào)：盡量不要問它你一點(diǎn)都不懂的東西，因為你無法判斷給出的信息的真?zhèn)危?br>
05 學(xué)生不會學(xué)會寫作，因為人工智能將替他們完成工作
許多教師對人工智能將如何破壞他們與學(xué)生的工作方式感到擔(dān)憂。
同時，已經(jīng)有一些人工智能工具正在學(xué)習(xí)如何判斷某個作品是由人還是由計算機(jī)編寫的，比如，OpenAI自己開發(fā)的GPTZero。但是有些教師并不試圖阻止學(xué)生在寫作中使用人工智能——實際上，他們鼓勵這樣做。
今年1月，一位名叫Cherie Shields的資深英語教師在《Education Week》上發(fā)表了一篇文章，介紹了她如何在課堂上使用ChatGPT。它幫助她的學(xué)生從論文的開頭開始，到寫提綱，甚至給予他們關(guān)于作品的反饋。
人工智能在寫作和批判性思維方面還有另一種幫助方式。特別是在這些早期階段，當(dāng)幻覺和偏見仍然是一個問題時，教育工作者可以讓人工智能生成文章，然后與學(xué)生一起核實事實。像我資助的Khan Academy和OER Project等教育非營利組織為教師和學(xué)生提供免費(fèi)在線工具，重視對提法進(jìn)行測試。辨別真假的能力比什么都重要。
小編：這不禁讓我想起了當(dāng)2月份，全美高校全面禁止學(xué)生在校使用ChatGPT的時候，時任斯坦福大學(xué)人工智能、機(jī)器人與未來教育中心主任的蔣里博士卻明確要求學(xué)生全部用ChatGPT寫作業(yè)，并且說這是進(jìn)步。
他說，既然技術(shù)擋不住，那干脆就擁抱它，為什么要禁止一個這么牛的工具？！這不是我們向前發(fā)展的方向。
另外，根據(jù)當(dāng)時一份斯坦福大學(xué)的調(diào)研，有17%的學(xué)生已經(jīng)承認(rèn)，他們平時在家做作業(yè)已經(jīng)在用ChatGPT了。
我非常同意蓋茨和蔣里博士的觀點(diǎn)，先進(jìn)的東西改變不了，我們就和它融合，為我所用。面對ChatGPT的挑戰(zhàn)，大學(xué)教授在出題的時候需要更有水準(zhǔn)，這也許不是一件壞事。畢竟，對于很多學(xué)生來說，老師的思維高度就是他們那時的天花板了。你覺得呢？
06 接下來會發(fā)生什么？
我相信，我們有更多的理由持樂觀態(tài)度，相信我們可以在最大程度上利用人工智能的好處的同時管理風(fēng)險。但我們需要迅速行動。
政府需要建立對人工智能的專業(yè)知識，以便能夠制定明智的法律和法規(guī)來應(yīng)對這項新技術(shù)。他們將需要處理虛假信息和深度偽造、安全威脅、就業(yè)市場的變化以及對教育的影響。舉個例子：法律需要明確哪些使用深度偽造是合法的，并且需要規(guī)定如何標(biāo)示深度偽造，以便每個人都能理解何時他們所看到或聽到的內(nèi)容并非真實。
小編：各國正在相繼推出法律法規(guī)，這方面是很值得期待的！
最后，我鼓勵每個人盡可能多地關(guān)注人工智能的發(fā)展。這是我們一生中最具變革性的創(chuàng)新，一個健康的公眾辯論將依賴于每個人對技術(shù)、其好處和風(fēng)險的了解。好處將是巨大的，相信我們可以管理風(fēng)險的最好理由是，我們以前已經(jīng)做到了。
