過去，F(xiàn)acebook等社交平臺(tái)上的直播內(nèi)容一直為人類所掌控，但AI的出現(xiàn)正在改變這一切。
一周以前，美國黑人男子費(fèi)蘭多·卡斯提爾(Philando Castile)遭美國警察射殺，其女友用手機(jī)在Facebook上直播了整個(gè)過程，但不久后，這段視頻因?yàn)椤凹夹g(shù)故障”而被清除。余波未平，就在昨天，另一個(gè)槍擊視頻在該社交媒體上瘋傳。事發(fā)地點(diǎn)為弗吉尼亞州的諾?？顺?，一名黑人青年與兩名友人在車上聽音樂時(shí)遭遇槍擊，這名黑人男子也直播了此次事件，而視頻并沒有被刪。
隨著直播上涌現(xiàn)越來越多的暴力內(nèi)容，F(xiàn)acebook和Periscope等社交平臺(tái)正在不斷摸索他們應(yīng)該在篩選用戶可見信息上扮演什么角色，以及如何讓自己的審查團(tuán)隊(duì)完成信息審查任務(wù)。
對(duì)于第二個(gè)問題，他們萌生了一個(gè)想法：利用AI過濾信息。
紐約的Dextro公司正致力于利用機(jī)器學(xué)習(xí)來解讀視頻的聲音和圖象信息，其聯(lián)合創(chuàng)始人大衛(wèi)·盧安(David Luan)表示：“各大科技公司已經(jīng)掌握了相關(guān)技術(shù)，能夠屏蔽直播或者錄制視頻中的情色信息?！边@類視頻分析軟件已經(jīng)投入使用，對(duì)Periscope、YouTube、Facebook等發(fā)布的視頻進(jìn)行監(jiān)測(cè)，過濾暴露的情色內(nèi)容。
“我們能夠挑出包含槍支或者游行畫面的視頻。”盧安說。并且速度很快，他透露，一旦視頻發(fā)布，只需300毫秒，就能確認(rèn)視頻內(nèi)的所有信息。對(duì)于Facebook這種擁有16.5億用戶的社交平臺(tái)而言，快速篩選信息極其關(guān)鍵。因?yàn)橐曨l一經(jīng)傳播，影響巨大。
盧安表示，總的來說，過去兩年在圖象識(shí)別上取得了很大的進(jìn)展。包括Dextro在內(nèi)的公司運(yùn)用算法和模型提取流媒體視頻中的概念，幫助公司和用戶尋找最有意思的內(nèi)容，或者找到更加相關(guān)的視頻。同樣地，AI正在熟練掌握分析圖像和視頻的技術(shù)。Twitter的AI團(tuán)隊(duì)Cortex就利用大型仿真神經(jīng)網(wǎng)絡(luò)，實(shí)時(shí)掌握Periscope的用戶發(fā)聵信息，優(yōu)化用戶推薦內(nèi)容。
而此前在人臉識(shí)別、物體識(shí)別等靜態(tài)圖象識(shí)別技術(shù)上“下了大賭注”并且已經(jīng)取得很大進(jìn)展的Facebook，現(xiàn)在也致力于視頻分析系統(tǒng)的研究和開發(fā)工作。
“有趣的是，如今人工智能算法報(bào)告的“敏感”圖片比人類報(bào)告的更多，”Facebook機(jī)器學(xué)習(xí)應(yīng)用團(tuán)隊(duì)的負(fù)責(zé)人Joaquin Candela在三月接受TechCrunch的采訪時(shí)表示，“我們?nèi)绻軌蚶萌斯ぶ悄軐?duì)各項(xiàng)信息100%把關(guān)，人們接觸到的“敏感”圖片就會(huì)越少?！?/p>
AI還可以對(duì)視頻中“開心”或者“憤怒”的畫面打上關(guān)鍵字標(biāo)簽或者進(jìn)行全方位的描述。Clarifai也是一家利用機(jī)器學(xué)習(xí)分析視頻文件的公司，它的軟件能識(shí)別11000種不同的物體和場(chǎng)景。該公司的聯(lián)合創(chuàng)始人兼CEO Mathew Zeiler表示，AI可以通過熟悉打架場(chǎng)景中人們攥緊拳頭的畫面來識(shí)別視頻中的打斗場(chǎng)面。如果能讓AI熟悉各種武器的圖片，那么很多情況就在我們的掌握之中，Zeiler說道，“因?yàn)槲覀兛梢蕴崆翱吹竭@些武器的畫面?！盇I一旦確認(rèn)了目標(biāo)，就會(huì)立即采取行動(dòng)——比如關(guān)閉視頻或者更換審查者。
盡管研究者們?cè)凇敖虝?huì)”計(jì)算機(jī)辨別靜態(tài)圖像的道路上取得了顯著的進(jìn)展，但分析視頻畢竟要艱難得多。為此，Twitter的AI團(tuán)隊(duì)利用高性能圖形處理器，組裝出了一臺(tái)超級(jí)計(jì)算機(jī)，專門進(jìn)行視頻分析研究。
Detrox的盧安表示，人工智能沒有辦法完全像人類一樣把握情景語境，“如果某人遭遇了十分激烈的質(zhì)問，且被質(zhì)問的方式很不恰當(dāng)，那么就需要從這個(gè)場(chǎng)景的關(guān)鍵點(diǎn)去把握整個(gè)事件，但是人工智能并不具備縱觀全局的分析能力?！?/p>
比如，在美國頗負(fù)盛名的高校內(nèi)，一名黑人砸碎一扇描繪棉花田里黑奴的彩色玻璃窗的行為背后的含義；或是英國宣布脫歐計(jì)劃后，曼切斯特一群白人青少年與一名突然沖上電車、皮膚黝黑的男子爭(zhēng)辯下隱藏的微妙詆毀言辭，都是AI無法辨別的。此類場(chǎng)景中的文化和歷史信息，AI無法捕捉，至少現(xiàn)在是不行的。
然而，在Diamond Reynolds的直播視頻里，AI識(shí)別到了警察對(duì)準(zhǔn)費(fèi)蘭多·卡斯提爾(Philando Castile)的槍口以及在車座上血流不止的這位黑人小伙。AI及時(shí)過濾了這條視頻，但如果換成是某個(gè)人對(duì)此進(jìn)行審查，處理方式就很難說了。
Facebook利用AI清除不良信息的力度尚不明確，但迄今為止，人類依然掌控著審查系統(tǒng)。一旦用戶直播或上傳的視頻點(diǎn)擊率過高，那這段視頻就會(huì)被發(fā)送至該社交平臺(tái)的四大審查中心，分別位于門洛帕克、奧斯丁、都柏林、海德拉巴。這四個(gè)城市的審查者們負(fù)責(zé)遏制違反Facebook社區(qū)標(biāo)準(zhǔn)的文件流的傳播。威脅、自殘、“危險(xiǎn)組織”、欺凌、犯罪活動(dòng)、“違禁物品”、裸露、仇恨言論、宣揚(yáng)暴力等都是社區(qū)標(biāo)準(zhǔn)中明令禁止的內(nèi)容。
Facebook今年移除的視頻中，有一條來自巴黎。畫面顯示，一個(gè)ISIS的效忠者非法殺死了一名高級(jí)警方指揮官和一名警察。另一條來自美國密爾沃基，三個(gè)青年上傳了一段情色視頻。然而芝加哥大街上，一名男子錄下了自己白天被謀殺的過程并上傳到了臉書主頁上，這條視頻卻并沒有被刪。
眼下，人類審查系統(tǒng)仍必不可少，部分原因在于AI無法對(duì)所有的情景做出準(zhǔn)確的判斷。盡管在尋找暴力跡象方面，AI比人類快得多，但是分析復(fù)雜的情形和事件時(shí)，還得由人類出馬，比如前文提到的曼切斯特青年與路人發(fā)生的爭(zhēng)執(zhí)。
不過，一切都在發(fā)生改變。盧安說道，“如今，AI的發(fā)展日新月異?！贝送?，手勢(shì)識(shí)別技術(shù)突飛猛進(jìn)也加快了AI成熟的腳步，盡管AI現(xiàn)在還無法識(shí)別隱藏的武器，不過今年年底的時(shí)候，就很可能實(shí)現(xiàn)這一目標(biāo)。
雖然AI能夠?qū)彶榈膬?nèi)容越來越細(xì)化，但并不意味著人類對(duì)信息的把控和過濾完全成為過去式。對(duì)于任何網(wǎng)絡(luò)平臺(tái)而言，最關(guān)鍵的日常仍然是人類用戶之間標(biāo)記和傳遞的各種各樣的信息。因?yàn)榭偟恼f來，這些被標(biāo)記的信息代表了許多用戶想要瀏覽的內(nèi)容。此外，在篩選符合公眾利益和價(jià)值的信息上，人類審查員的角色勢(shì)不可替代的。
Facebook對(duì)其平臺(tái)上發(fā)布的視頻的判斷標(biāo)準(zhǔn)仍不明確。也許隨著AI不斷發(fā)展，其辨別準(zhǔn)確性會(huì)大幅提升，從而承擔(dān)更多審查重任，F(xiàn)acebook、Periscope等社交網(wǎng)絡(luò)對(duì)視頻的管制也會(huì)隨之更加清晰透明。
聯(lián)系客服
