大數(shù)據(jù)文摘作品
作者：Luba Belokon
編譯：白丁、笪潔瓊
主播：段天霖
后期：云柯
如果目前人工智能（AI）的所作所為還沒把你嚇到，那么這篇文章肯定能把你嚇尿。Statsbot團(tuán)隊將在這篇文章中為你集中呈現(xiàn)史上最恐怖、影響最深遠(yuǎn)的AI恐怖故事。
大數(shù)據(jù)文摘“數(shù)據(jù)也瘋狂”播報欄目每周五固定推出炫酷又有趣的數(shù)據(jù)脫口秀，用聲音傳遞數(shù)據(jù)的魅力，歡迎點擊“閱讀原文”在喜馬拉雅訂閱我們。
音頻欄目志愿者也在持續(xù)招募中，如果你對數(shù)據(jù)類新聞或者播音后期感興趣，請后臺回復(fù)“播報”了解如何加入。
Have a great data!
??戳下方收聽【數(shù)據(jù)也瘋狂】，本期主題《語音助手會是下一個大平臺，但前提是你不能有口音！》
如果你手上還有別的素材，歡迎在評論區(qū)爆料請開始你的表演！
虛擬空間漢尼拔
下面請Mike Sellers開始他的故事。兩千零幾年的時候，Mike Sellers正在美國國防部高級研究計劃局（DARPA）從事社交AI方面的工作，和小伙伴們一起開發(fā)具有社交學(xué)習(xí)能力的代理。
“在一次模擬中，我們用到了兩個代理，所以想也沒想就把它們命名為亞當(dāng)和夏娃。它們只知道做事情的方法，其他方面則是白紙一張。舉個栗子，它們知道怎么吃東西，但不知道什么能吃什么不能吃。我們給了它們一顆蘋果樹（當(dāng)時一點兒也沒想蘋果樹的象征意義），然后亞當(dāng)和夏娃就發(fā)現(xiàn)吃蘋果是一件很開心的事情，而其他試吃過的東西就沒有這個效果，比如樹和房子等等。除了它倆，還有一個叫Stan的代理。Stan在社交方面心有余而力不足，所以經(jīng)常在外圍孤獨地徘徊?！?/span>
“系統(tǒng)當(dāng)然多多少少都會有些Bug?！?/span>
“有次亞當(dāng)和夏娃在吃蘋果的時候，第一個BUG悄然而至：飽腹感來得比平常晚了一些，所以這倆貨就把蘋果都吃完了，然后就開展了聯(lián)想式學(xué)習(xí):如果看到狗的時候它倆恰好在經(jīng)歷疼痛，那么它倆就會把狗和疼痛聯(lián)系起來。由此可得，亞當(dāng)和夏娃進(jìn)食期間正好在周圍溜達(dá)的Stan就被這倆貨和食物掛上了鉤。（第二個bug，你可以猜到故事的走向了。）”
“我們碰巧在觀察這個特殊的模擬情況。亞當(dāng)和夏娃很快就把樹上的蘋果吃完了，可是還沒覺得飽。所以這倆貨開始打量周圍還有哪些東西可以拿來吃一下。蒼天啊大地啊，這倆貨的‘大腦’經(jīng)過分析認(rèn)為Stan童鞋看上去是可以吃的樣子?！?/span>
“所以它倆一‘人’咬了Stan一口?！?/span>
“第三個bug：人體重量的初始設(shè)定有問題。系統(tǒng)默認(rèn)每個物體的重量為1，Stan也不例外。不論亞當(dāng)和夏娃吃啥，咬一口就吃掉0.5。既然亞當(dāng)和夏娃各咬了一口，Stan就直接歸零領(lǐng)便當(dāng)了。據(jù)我所知，Stan是虛擬世界中同類相殘的第一個受害者?！?/span>
“事件發(fā)生之后，我們只能通過代理的遙測技術(shù)來重建部分事實。當(dāng)我們意識到當(dāng)時的情況后，所有人都感到脊背發(fā)涼。我們盡量去減少這個AI結(jié)構(gòu)中代理行為所受的種種限制，但是之后我們加了一條禁止同類相食的鐵律：不管這些代理餓成什么鬼，它們都不能以彼此為食?！?/span>
“我們還修正了一系列數(shù)據(jù)，包括代理體重、形成飽腹感所需的時間等；此外，對代理之間進(jìn)食行為與食物的關(guān)聯(lián)也進(jìn)行了修改：一看到經(jīng)常一起吃飯的飯友，你很可能就會想要吃點東西，但是你絕不會想著把飯友變成大餐?！?/span>
你確定？一定？以及肯定？自己不是同性戀？
最近面部識別算法在機(jī)器學(xué)習(xí)社區(qū)里特別火。這個算法分辨直男和基友的準(zhǔn)確率最高可達(dá)91%，但分辨直女和蕾絲時就只有71%從技術(shù)層面看，這項技術(shù)著實有趣。數(shù)據(jù)集來源于一個約會網(wǎng)站，涉及的面部特征既有不變量（比如鼻型），也有變量（比如男士的個人風(fēng)格）。
但神經(jīng)網(wǎng)絡(luò)在概率這個問題上并不靠譜：
10%的失誤率已經(jīng)是最好情況了，但對于概率而言依然是天大的誤差。進(jìn)一步來說，所謂91%和71%的準(zhǔn)確率僅僅是通過比對兩張照片得到的：一張直成電線桿，一張彎成回形針。對了，我還忘了告訴你們，這個是在實驗室里得出的結(jié)論。如果你在真實自然的網(wǎng)絡(luò)環(huán)境中應(yīng)用這個算法，準(zhǔn)確識別的概率肯定會大幅縮水。很多人認(rèn)為這個項目在道德上站不住腳，特別是在那些將非傳統(tǒng)性取向判定為非法的國家中。如果這些國家的政府在人群密集區(qū)域應(yīng)用這一系統(tǒng)，岌岌可危的可就不只是基友了。
種族主義和性別主義哥斯拉
Tay.ai的故事（事故？）相信大家都不陌生，但是你知道它在緊急被下線后又再度歸來過嗎？微軟在2016年發(fā)布了一款名為Tay的AI機(jī)器人，以一名19歲少女的形象出現(xiàn)在大眾面前，目的是通過回復(fù)廣大人民群眾的推文和下面的評論去學(xué)習(xí)群眾的智慧、汲取民間的養(yǎng)分。
推文：希特勒是正確的，我恨猶太人。
事實上Tay妹紙還是有兩把刷子的，比如和其他用戶逗個樂兒，點評一下你發(fā)給她的圖片，講講故事，玩兒玩兒游戲，模仿用戶評論來招以彼之道還施彼身啥的。網(wǎng)友最先教會Tay的就是發(fā)動人身攻擊，發(fā)表種族歧視言論；這在網(wǎng)上簡直不要太正常。然后微軟爸爸不得不立馬讓Tay妹紙斷網(wǎng)下線，她也算得上是‘青史留名’的傳奇AI了。
不過僅僅一周之后Tay就復(fù)出了。
令人大跌眼鏡的是她發(fā)布了不少關(guān)于毒品的推文，顯然妹紙依然處在黑化狀態(tài)。于是很快她又下線了，賬戶也被設(shè)置為了私人賬戶。順便提一句，微軟此前還推出了一個名為Rinna的聊天機(jī)器人。這位妹紙則是在深度抑郁后，開始糾結(jié)于和元首有關(guān)的問題。
毀掉比賽
這是我們在Quora上找到的故事，Po主Shay Zykova來自夏威夷，是給外國人講英語的英語老師。故事發(fā)生在一所大學(xué)舉辦的機(jī)器人比賽中。
“每支參賽隊伍需要設(shè)計一個機(jī)器人。它的任務(wù)是把機(jī)器羊‘趕’進(jìn)為每個機(jī)器人指定的羊圈中，最后羊圈中羊數(shù)量最多的機(jī)器人獲勝。機(jī)器人需要自主‘思考’并制定策略（所以這不是僅憑借操縱桿控制就能完成任務(wù)的機(jī)器人）?！?/span>
“比賽開始后機(jī)器人們開始瘋狂地趕羊。其中一個機(jī)器人把一只羊趕進(jìn)羊圈后就關(guān)上了門。它的團(tuán)隊一臉懵逼，想拿冠軍的話一只羊怎么夠呢？可是后來的事情把大家都嚇壞了：這個機(jī)器人開始肆意毀壞競爭對手，讓它們動彈不得?！?/span>
“這貨的策略是要贏的話好好趕羊完全沒必要，把其他競爭對手都干掉就妥妥的了。”
我覺得有些人在無法憑借自身實力實現(xiàn)目標(biāo)的情況下，也會這么做。
為了不輸而暫停
程序猿、卡耐基大學(xué)博士Tom Murphy在2013年推出了一款“會玩兒”NES游戲的程序。他的做法是把游戲視作另一種數(shù)學(xué)題，該程序會去完成能夠得分的任務(wù)，然后學(xué)習(xí)如何不斷重復(fù)這一過程，最終高分通關(guān)。
程序的基本原理是根據(jù)玩家打游戲的一小段記錄推出一個目標(biāo)函數(shù)，然后利用這個函數(shù)在模擬器中搜索可能的打法。這樣一來，在總結(jié)玩家進(jìn)度的基礎(chǔ)上有可能會生成新的打法。
這個方法在《超級瑪麗》、《泡泡龍》和《吃豆人》等游戲上取得了不俗的效果，但是在俄羅斯方塊中卻慘遭滑鐵盧。
Murphy寫道：
“盡管掉下來的各種形狀看似正常（不正常也很難，畢竟是游戲程序在給你掉塊塊來玩兒），組合方式簡直無敵白癡-比瞎按一氣還糟糕。這可能是因為每放好一個形狀都會得幾分，所以可能在程序看來這就是進(jìn)展；因此程序背后的動機(jī)就成了盡快堆塊塊，而是把形狀組合放好。”
屏幕很快就滿了，因為“玩下去必然輸”，所以想要贏得游戲的AI就按下了暫停鍵，期限是永遠(yuǎn)。
我能 我 我 所有其他的東西
（譯者注：不懂是正常的，懂的話…呵呵噠）
Facebook發(fā)現(xiàn)公司的兩個AI程序突然開始用一種只有它倆能懂的語言聊天，隨后馬上放棄了相關(guān)實驗。
實驗的目的在于開發(fā)出的聊天機(jī)器人能夠運(yùn)用自然語言就多個事項進(jìn)行討價還價。研究人員給機(jī)器人布置了一項頗具挑戰(zhàn)性的任務(wù)：讓它倆談生意，交易對象包括帽子、球和書本等，每樣物品都有給定的價值。
構(gòu)建能夠與人類進(jìn)行有意義交流的對話系統(tǒng)一點兒都不簡單。機(jī)器人需要把它對談話的理解和對周圍世界的理解結(jié)合起來，然后才能生成能夠?qū)崿F(xiàn)其目標(biāo)的新句子。這項研究采用的是經(jīng)過訓(xùn)練的遞歸神經(jīng)網(wǎng)絡(luò)（RNN），而非結(jié)構(gòu)復(fù)雜的對話系統(tǒng)，對話規(guī)則都經(jīng)過了強(qiáng)化學(xué)習(xí)的訓(xùn)練。
使用了機(jī)器學(xué)習(xí)的聊天機(jī)器人：構(gòu)建神經(jīng)對話代理——
研究團(tuán)隊讓機(jī)器人開始用自然語言聊天后，
整個談判就跑偏了：
鮑勃：我 能 我 我 所有其他的東西…..
愛麗絲：球球們 有 零 對我對我對我對我對我
鮑勃：你 我 所有其他的東西
愛麗絲：球球們 有 一個球 對我對我對我對我對
鮑勃：我 我 能 我 我 我 所有其他的東西
愛麗絲：球球們 有 一個球 對我對我對我對我
鮑勃：我
有意思的事情發(fā)生了，這種雞同鴨講的詭異談判居然還談成了幾筆生意。聊天機(jī)器人發(fā)展出了一套它們專有的語言，彼此交流也變得更加有效。鑒于研究人員想要開發(fā)的是能夠說人話的機(jī)器人所以他們決定放棄這個項目。
AI恐怖故事還會有續(xù)篇的！歡迎分享你的故事！
原文鏈接：https://blog.statsbot.co/creepy-artificial-intelligence-ebc3f76179a8
大數(shù)據(jù)文摘x稀牛學(xué)院
AI精品鉅惠課程
人工智能的數(shù)據(jù)基礎(chǔ)
金牌數(shù)學(xué)講師
直播互動學(xué)習(xí)
助教全程輔導(dǎo)
以科研 工程的獨特視角，帶你搞定人工智能中所需的數(shù)學(xué)理論，
入門與進(jìn)階AI/DL領(lǐng)域的推薦課程！
志愿者介紹
回復(fù)“志愿者”加入我們
聯(lián)系客服
