近幾天，一個「無人機(jī)殺死美國士兵」的新聞在網(wǎng)上發(fā)酵得沸沸揚(yáng)揚(yáng)。「無人機(jī)殺死美國空軍操作員」的新聞甚囂塵上，一眾AI大佬都怒了。

一位空軍人工智能方向的負(fù)責(zé)人說：「控制無人機(jī)的AI殺死了操作員，因?yàn)槟莻€人阻止它實(shí)現(xiàn)目標(biāo)。」

輿論一時嘩然，這條新聞也在全網(wǎng)被瘋轉(zhuǎn)。

隨著這個消息越傳越廣，甚至驚動了AI大佬們，甚至引得了大佬們的震怒。

LeCun、吳恩達(dá)、陶哲軒紛紛辟謠——這只是一個假設(shè)的「思想實(shí)驗(yàn)」罷了，并不涉及任何AI智能體或強(qiáng)化學(xué)習(xí)。

對此，吳恩達(dá)痛心呼吁，究竟哪些才是真正的風(fēng)險(xiǎn)，我們應(yīng)該誠實(shí)地面對。

AI無人機(jī)抗命，擊殺人類操作員

在皇家航空學(xué)會舉辦的防務(wù)會議上，美國空軍AI方向負(fù)責(zé)人說：「AI殺死了操作員，因?yàn)槟莻€人阻止它完成目標(biāo)」，讓在場眾人嘩然。

隨后，美國的一眾媒體對此事大肆報(bào)道，一時人心惶惶。

究竟是怎么回事？

其實(shí)，這無非又是一次美國媒體抓住了「AI毀滅人類」這個大眾喜聞樂見的新聞點(diǎn)，進(jìn)行的一番夸張炒作罷了。

「曲別針制造機(jī)」是哲學(xué)家Nick Bostrom在2003年提出的一個概念。

強(qiáng)大的AI是得到的指示是盡可能多地制造紙夾。但隨后，它會不斷地尋求更多資源。

在2022年，Hamilton就曾在一次采訪中提出這個嚴(yán)峻的問題——

AI也非常脆弱，很容易被欺騙和被操縱。

官方辟謠：是上?！缚谡`」了

這位負(fù)責(zé)人就出來公開「澄清」：「我們從未進(jìn)行過那個實(shí)驗(yàn)，我們也不需要進(jìn)行這個實(shí)驗(yàn)，就能意識到這是一個可能的結(jié)果，」Hamilton表示，「盡管這是一個假設(shè)的例子，但這說明了AI驅(qū)動能力帶來的現(xiàn)實(shí)挑戰(zhàn)，這就是為什么空軍致力于道德開發(fā)AI。」

此外，美國空軍也急忙發(fā)布官方辟謠稱，「Hamilton上校承認(rèn)他在FCAS峰會的演講中『口誤』，『無人機(jī)AI失控模擬』是一個來自軍事領(lǐng)域以外的假設(shè)性『思想實(shí)驗(yàn)』，基于可能的情況和可能的結(jié)果，而不是美國空軍的真實(shí)世界模擬?！?/span>

目前，團(tuán)隊(duì)努力的方向是完成F-16飛機(jī)的自主化。

2022年12月，美國國防部的研究機(jī)構(gòu)DARPA就曾宣布，AI成功地控制了一架F-16。

是AI的風(fēng)險(xiǎn)，還是人類的風(fēng)險(xiǎn)？

在軍事領(lǐng)域之外，依賴AI進(jìn)行高風(fēng)險(xiǎn)的事務(wù)已經(jīng)導(dǎo)致了嚴(yán)重的后果。

最近，一位律師在聯(lián)邦法院提交文件時被發(fā)現(xiàn)使用了ChatGPT，ChatGPT隨口胡謅，捏造了一些案例，而這位律師居然把這些案例當(dāng)作事實(shí)引用了。

還有一名男子受到聊天機(jī)器人的自殺鼓勵后，真的選擇了自殺。

這些事例表明，AI模型遠(yuǎn)非完美，可能會偏離正常軌道，給用戶帶來傷害。

對此，吳恩達(dá)譴責(zé)道：媒體這種不負(fù)責(zé)任的炒作會混淆視聽，分散人們的注意力，妨礙我們?nèi)プ⒁獾秸嬲膯栴}。

而不少「理中客」網(wǎng)友認(rèn)為，這就是一個常見的媒體烏龍罷了。

陶哲軒首先概括了關(guān)于AI的不實(shí)信息的三種形式——

一種是有人惡意使用AI生成文本、圖像和其他媒體形式以操縱他人；另一種是AI胡說八道的幻覺被當(dāng)真了；第三類則源于人們對AI技術(shù)的理解不夠深刻，才會讓一些離譜的故事不經(jīng)驗(yàn)證就被大肆瘋傳。

這種故事之所以讓人共鳴，說明人們對AI技術(shù)的實(shí)際能力水平還很陌生，很不安。

以后的軍備競賽，都是AI競賽

還記得上文中出現(xiàn)的那架無人機(jī)嗎？

它其實(shí)就是波音聯(lián)合澳大利亞研制的忠誠僚機(jī)項(xiàng)目——MQ-28A幽靈蝙蝠（Ghost Bat）。

忠誠僚機(jī)（Loyal Wingman）的核心是人工智能技術(shù)，按照預(yù)設(shè)程序自主飛行，與有人機(jī)飛行員進(jìn)行配合的情況下，具備很強(qiáng)的態(tài)勢感知能力。

忠誠僚機(jī)的一個關(guān)鍵作用，就是替飛行員和有人戰(zhàn)斗機(jī)擋子彈，所以忠誠僚機(jī)基本就是一個消耗品。

畢竟，無人戰(zhàn)斗機(jī)的價(jià)值，要比有人戰(zhàn)斗機(jī)和飛行員小太多了。

忠誠僚機(jī)的發(fā)展離不開先進(jìn)、可靠的人工智能技術(shù)。

訓(xùn)練人工智能模型最重要的是什么？當(dāng)然是數(shù)據(jù)啊！巧婦難為無米之炊，沒有數(shù)據(jù)，再好的模型也沒效果。

說不定未來的空戰(zhàn)，就是比誰的AI模型更智能。

把對方的所有AI全部消滅就可以獲得勝利了，而沒有真正的人類傷亡，或許是另一種「和平」？