Sora一鍵生成AI人的震撼還沒褪去，網(wǎng)上的假人已經(jīng)悄悄咪咪地大批出現(xiàn)了。
上個月，中國香港警方通報了一起香港史上最大的詐騙案，涉案金額高達(dá)2億港幣。受害人是一名跨國公司員工，他受邀參加一場線上會議，領(lǐng)導(dǎo)、同事、財務(wù)科科長都在。會議上，在“領(lǐng)導(dǎo)”的指揮下，他把2億港元先后分15次轉(zhuǎn)入了指定賬戶。
大公網(wǎng)
直到一周后，受害者才發(fā)現(xiàn)事情不對，整個線上會議中就他一個“真人”，其他人，全是用AI換臉的“假人”。
人工智能大模型浪潮席卷全球已經(jīng)一年，很多行業(yè)被深刻地改變了，而AI數(shù)字人已經(jīng)率先滲透進(jìn)我們的生活。
低價、方便，一鍵生成
聽起來離譜，但AI換臉和AI數(shù)字人確實(shí)是離我們最近的AI技術(shù)，甚至比ChatGPT還近。
不需要專業(yè)的設(shè)備，不需要復(fù)雜的操作，像剪映這樣的視頻制作軟件，早已將數(shù)字人的門檻降到近乎為零，免費(fèi)、簡單、速度快。
從應(yīng)用商店下載剪映之后，點(diǎn)擊“開始創(chuàng)作”，隨意從相冊中選擇一段視頻或一張照片。之后，選擇“新建文本”，在文本編輯選項(xiàng)中就可以看到AI數(shù)字人了。
剪映
目前，剪映提供了35款數(shù)字人，從鄰家阿姨到拉丁美女，從爽朗校草到西裝白男，各種不同的人種、年齡、聲線、姿態(tài)隨意選擇。
數(shù)字人的口型會根據(jù)文案調(diào)整，講話抑揚(yáng)頓挫，頭部和手部隨講解自然運(yùn)動，如果不是左上角的“AI生成”水印，真的很難區(qū)分到底是專業(yè)主播還是數(shù)字人。
我自己也做了一個｜剪映
不妨大膽一點(diǎn)：用AI自動生成文案，之后用AI翻譯成英文，最后再用外國AI數(shù)字人講一遍，五分鐘就做好了一個質(zhì)量尚可的1080p廣告大片。做視頻根本不需要團(tuán)隊(duì)，文案、翻譯、主播、剪輯，都可以是AI自己。
寫得還挺像回事｜剪映
在商業(yè)賽道上，數(shù)字人的表現(xiàn)更是一騎絕塵。
京東早在2022年就上線了“言犀”數(shù)字人主播。這個數(shù)字人能閱讀商品的介紹之后，自動生成賣點(diǎn)文案，并完成口播。它主打的是“閑時直播”，幫助店鋪在深夜、清晨等時間段填補(bǔ)直播空白。
根據(jù)京東官方數(shù)據(jù)，2023年雙11期間，超過4000家品牌的直播間用上了數(shù)字主播，閑時直播的轉(zhuǎn)化率增長了 30%。
百度也推出了“慧播星”數(shù)字人方案，并打出了全?？谔枺柗Q只需要三步，最快三分鐘就能創(chuàng)建一個自己的數(shù)字人主播。此外還有騰訊智影、百度智能云曦靈平臺、華為云盤古數(shù)字人等等產(chǎn)品可以選擇。
就像你想的那樣，騙子來了
從文案到視頻都由AI生成，還真有人這么做了。
成本降低是數(shù)字人騙局能規(guī)?；那疤釛l件——當(dāng)騙子自己一人五分鐘就能做成一條質(zhì)量尚可的視頻，那些曾經(jīng)歸于真人出鏡視頻的可信度已經(jīng)蕩然無存了。
如果你經(jīng)常刷短視頻，時不時就能看到一些雞湯營銷號，“人生的八個真相”、“女人過了30歲要懂的七件事”，“如何做才能在五年后和同齡人拉開差距”，都是它們的熱門話題。
最近，一些濃眉大眼的老外也加入了這個賽道。比如下面這個：
一個外國美女，站在鏡頭前面講著英文，娓娓道來“低谷時牢記的七條原則”。什么“不要隨意評價別人”“逢人只說三分話，不可全拋一片心”……
仔細(xì)一看，她講的英語也是散裝機(jī)翻英文。比如把“做人要有城府”翻譯成“must have a city government”。
對不懂英文，也不?？纯萍夹侣劦挠脩魜碚f，這類視頻的迷惑性相當(dāng)之大，他們很難分辨哪些內(nèi)容是真人，哪些內(nèi)容是AI。
微信視頻號上有一支“GPT談不生孩子如何養(yǎng)老”的視頻廣為流傳，點(diǎn)贊轉(zhuǎn)發(fā)都有上萬條，評論區(qū)的叔叔阿姨們對AI的見地嘖嘖稱奇。
但實(shí)際上，那個視頻的原作者只是將一段網(wǎng)上流傳很久的文案輸入GPT，讓GPT朗讀出來而已。
一樣的話從AI嘴里說出來似乎更有說服力了，流量就這么到手｜微信視頻號
“老外數(shù)字人”也是一樣。同樣的文案，換成英文由老外來講，似乎天然就自帶了某種“外來和尚”式的正確性，更有利于傳播。也有一些賬號反其道行之，讓數(shù)字人老外講一口蹩腳的“洋味兒中文”。
去年十月，這類“假老外數(shù)字人賬號”開始在短視頻平臺流行，有些賬號僅僅發(fā)了三四十條視頻就漲粉數(shù)十萬，很多作品都有超過一萬的點(diǎn)贊量。
至于他們變現(xiàn)的手段，最直接的就是賣貨。比如某個育兒話題的賬號，在粉絲增長之后，用老外的口吻介紹了各種育兒圖書。不少家長都信以為真，還有人夸數(shù)字人“言語清晰，大方有力”。
各種膚色的“專家團(tuán)隊(duì)”｜微信視頻號
把貨買回去之后，才發(fā)現(xiàn)根本不是那回事兒。
微信視頻號
是誰偷了我的臉？
看著這些生動活潑的假人，我不由好奇，AI數(shù)字人的臉是哪來的？
在《黑鏡》第六季《Joan is Awful》一集里，大明星和流媒體簽署了協(xié)議，之后的電視劇不用親自參演，只要用AI把臉換到替身或者模型身上，鈔票就不停滾滾來。至于流媒體用自己的臉演了些什么，明星毫不知情。
這張臉也可能是你｜Joan is Awful
《黑鏡》還是想象力匱乏了，影片中的未來早已到來，而且用人的臉連錢都不給。
三月初，有媒體報道了烏克蘭視頻博主Olga Loiek的離奇遭遇：她原本只是一個YouTube上粉絲一萬的小博主，她偶然發(fā)現(xiàn)，中國的很多網(wǎng)絡(luò)平臺上竟然出現(xiàn)了以自己的臉作為模板的AI數(shù)字人短視頻。
這個數(shù)字人自稱娜塔莎，31歲，住在俄羅斯。賬號內(nèi)容大都是以俄羅斯女性身份夸贊中國，并借機(jī)帶貨俄羅斯產(chǎn)品，粉絲數(shù)達(dá)到20多萬。
2022年，一些短視頻平臺上出現(xiàn)過一個名為“俄羅斯娜娜”的賬號，濾鏡拉滿把自己換臉成俄羅斯人，路線和“娜塔莎”如出一轍。粉絲數(shù)一度突破180多萬，隨后被平臺封禁。但在那之前，她已經(jīng)通過帶貨獲利數(shù)十萬元。
看起來都有點(diǎn)恐怖谷了｜俄羅斯娜娜
更麻煩的是，此類詐騙行為幾乎是零風(fēng)險的。受害者往往遠(yuǎn)在國外，無法直接追責(zé)。而它們帶貨的商品不是假冒偽劣產(chǎn)品，消費(fèi)者也無法投訴。只有在被戳穿之后，由平臺自行監(jiān)督。但那時，騙子往往已經(jīng)賺到盆滿缽滿，跑路開下一個號去了。
在過去，雖然也有相關(guān)特效軟件可以實(shí)現(xiàn)人臉模仿，但所需的技術(shù)難度非一般人可為。而AI大模型，讓這一操作的難度降到幾乎為零。根據(jù)媒體報道，仿冒Loiek的運(yùn)營團(tuán)隊(duì)使用的，是一款名為HeyGen的AI軟件，月費(fèi)只要幾十美元，所需素材，不過是當(dāng)事人的幾段視頻。
數(shù)字人誕生不到兩年，已經(jīng)攪渾了短視頻和直播賽道，技術(shù)的進(jìn)步和降價如此之快，連《黑鏡》里預(yù)測的未來都顯得落伍了，誰知道下一步AI會把我們帶進(jìn)怎樣的世界里呢？我也不確定那是不是更好的世界。
作者：谷子，翻翻
聯(lián)系客服
