鳳凰網(wǎng)《風(fēng)暴眼》出品
文｜不語 編輯｜文驊
爆料郵箱：all_cj@ifeng.com
編者按：自從“假靳東”騙姐姐錢的生意走紅后，收割中老年群體，幾乎成了社交平臺上賺錢之道。盡管平臺一直試圖取締虛假賬號，但無奈新興玩法層出不窮。
這不，AI技術(shù)的流行，還意外帶火了“電商博主”，去年開始，網(wǎng)上涌現(xiàn)了一批冒充俄羅斯女孩的賬號，雖然仿似低配版的“靳東戀愛人設(shè)”，沒有甜言蜜語，而且只會迎合中老年大叔的喜好，說些中俄友誼、喜歡中國男人的話，但是短短一個月，依然能積攢數(shù)十萬粉絲。
這些賬號背后，從賣軟件、養(yǎng)號，到賣貨甚至詐騙，早已衍生出一條灰色產(chǎn)業(yè)鏈?；谀繕?biāo)群體的定位，它們大多兜售的都是20-100元的單價生意。
01“我臉被盜了”
“那里不是一個人，而是一群克隆我的人，每個人都得到了數(shù)千個點贊和評論”, 今年春節(jié)后，烏克蘭網(wǎng)紅Olga Loiek以《有人在中國把我克隆》為題發(fā)布了一則控訴視頻，她站在鏡頭前，雙手緊握，語氣中帶著憤怒與無奈。
據(jù)Olga Loiek講述，她的面孔和聲音在中文網(wǎng)絡(luò)上被非法盜用，被肆意操控用于創(chuàng)建多達(dá)數(shù)十個短視頻賬號。這些賬號名稱各異，內(nèi)容五花八門，但核心點卻出奇一致——將Olga Loiek塑造為一個熱愛中國的俄羅斯姑娘形象，進(jìn)而推銷各類俄羅斯特色商品。
Olga Loiek在社交平臺控訴臉被盜
鳳凰網(wǎng)《風(fēng)暴眼》了解到，春節(jié)前，國內(nèi)短視頻平臺上涌現(xiàn)出不少這樣的“俄羅斯美女”博主，它們敏銳地捕捉到了短視頻平臺的流量紅利以及消費者對異國風(fēng)情美女的濃厚興趣與追求，將其作為謀求財富的捷徑。
這些博主有著精致的面容，用流利的中文講述著“中俄友好”、“中國好”的話題。但如同Olga Loiek所講，短視頻里的人都是AI技術(shù)的產(chǎn)物，是盜用她人面孔批量化生成的虛假形象。
雖然仔細(xì)分辨不難看出是假的，譬如人的表情顯得僵硬，口型不對，也沒有什么動作。視頻偶爾還會出現(xiàn)掉幀的情況，但很多粉絲似乎并沒有產(chǎn)生絲毫懷疑，不僅積極點贊，而且還在評論區(qū)留言，“你很漂亮”、“我很想見到你”、“請回復(fù)我消息”等，有的甚至?xí)蛯Ψ剿叫拧?/p>
王軍從2023年起，便踏入了自媒體創(chuàng)業(yè)的大潮， AI俄羅斯美女帶貨，正是他近期研究的一門新生意。他向鳳凰網(wǎng)《風(fēng)暴眼》介紹，打造這樣一個博主非常簡單。第一步便是從外網(wǎng)找美女素材，即盜臉，“最好是選擇豐滿型或者可愛型”。有了美女素材后，再通過HeyGen等AI肖像克隆軟件進(jìn)行面部替換和表情調(diào)整，一個“俄羅斯美女”博主就誕生了。
不光俄羅斯美女，任何國家的美女形象，都可以借助技術(shù)生成，但是這兩年俄羅斯美女的人設(shè)更流行。
這類賬號的粉絲受眾以三四線城市40歲以上的中年男人為主，新榜編輯云飛揚稱，這些視頻的形式和抖音上一些情感博主很像，會采用非常濃烈的濾鏡和特效，就會被當(dāng)他們誤以為是真的。
一旦積累了足夠的粉絲，它們便開始利用短視頻平臺的櫥窗功能進(jìn)行商品銷售，主要銷售的是價格親民、單價低于100元的俄羅斯特色商品，以降低消費者的決策門檻。
雖然目前尚未出現(xiàn)帶貨成績特別亮眼的此類博主，但由于制作成本低、難度小，一個人可以同時運營數(shù)十甚至上百個賬號。當(dāng)賬號數(shù)量成倍增加時，銷售數(shù)據(jù)也將變得非常可觀。
02 培訓(xùn)機構(gòu)賺瘋了
技術(shù)革新的洪流中，總是潛藏著無數(shù)的新機遇。當(dāng)“AI俄羅斯美女”這一概念火起來后，無數(shù)的逐風(fēng)者涌入這片藍(lán)海。
在閑魚平臺上，搜索“AI俄羅斯美女”，共出現(xiàn)上百條結(jié)果。其中，既有出售HeyGen積分的，也有出售HeyGen平替軟件的，更有甚者，直接出售制作和運營的相關(guān)教程。其中一家商家頗具誘惑地宣傳道：“趕快做個俄羅斯AI美女賬號吧，20多天粉絲就能漲粉50萬。”
一些“AI俄羅斯美女博主”甚至也下場做起了教程培訓(xùn)的生意，“我們主要教視頻制作，并提供變現(xiàn)思路，價格是998元，做得好一個視頻就回本了”，他向鳳凰網(wǎng)《風(fēng)暴眼》透露，有學(xué)員30天就積累了16萬粉絲。
王軍是最早吃到紅利的的一批人。春節(jié)期間，當(dāng)大多數(shù)人都在享受假期時，王軍卻忙得不可開交。在推出俄羅斯美女制作的相關(guān)教程后，今年1月份，就有一百多人主動聯(lián)系他，“感覺大家都想從風(fēng)口上分一杯羹”。
這些學(xué)員背景各異，有對短視頻平臺充滿好奇的新手，也有希望借此機會增加額外收入的職場人士，還有專門做短視頻的機構(gòu)。他們毫不掩飾賺錢欲望，讓王軍賺得盆滿缽滿，按照每人798元的價格來算，王軍1月份就有將近20萬的收入。
王琳是眾多在此領(lǐng)域?qū)で髾C會中的一員。她是一家廣告公司的設(shè)計師，每天都被繁重的工作和無盡的加班所困擾，這樣的生活讓她感到窒息，急切地想要尋找一個出口。她把目光投向了短視頻平臺，希望將其作為自己職業(yè)生涯的突破口，將來逃離那份令人壓抑的工作。
從2023年下半年，她開始嘗試發(fā)布一些記錄生活的Vlog，但結(jié)果卻令人失望，視頻的流量大多停留在500左右，點贊的也幾乎都是親朋好友，她一度懷疑自己是否適合從事短視頻。
春節(jié)期間，她在網(wǎng)絡(luò)上瀏覽到一些關(guān)于AI俄羅斯美女的文章，“2個月漲粉63W，帶貨傭金10W+”、“用AI制作俄羅斯美女來帶貨，櫥窗都賣瘋了”，似乎在這個風(fēng)口上，觸手可及，這讓她心動不已。
疑似AI俄羅斯美女博主用交朋友、嫁中國人等話題吸引粉絲
她花899元報名參加一家培訓(xùn)機構(gòu)，對方主要提供了視頻的制作流程和一些要用到的軟件。經(jīng)過一個星期的摸索，她發(fā)布了自己的第一條視頻。這條視頻的文案借鑒了“要嫁中國男人的思路”，并在此基礎(chǔ)上進(jìn)行了一些微調(diào)和修改。
令她驚喜的是，視頻一經(jīng)發(fā)布，便迅速獲得了兩三萬的流量。隨著后續(xù)三條視頻的陸續(xù)推出，她的粉絲數(shù)量也迅速攀升，很快就突破了5000大關(guān)。
但王琳入局還是太晚了。
Olga的視頻發(fā)布后，迅速在網(wǎng)絡(luò)上發(fā)酵，各大平臺加強了對此類AI賬號的監(jiān)管，Olga Loiek在視頻中提到的“娜塔莎”等博主賬號悄無聲息的被封禁，而一些合成俄羅斯美女的賬號要么停止更新，要么清空賬號，以避免受到處罰。
以一位名為“俄羅斯小妹”的博主為例，她宣稱自己是在中國生活了14年的俄羅斯人，并愛上了中國，成功吸引到2.8萬的粉絲。但如今她的視頻已經(jīng)全部清空，唯一留下的痕跡是櫥窗里展示的9件商品。
風(fēng)暴席卷之下，無一能幸免。王琳的賬號，尚未來得及展示櫥窗的商品，便慘遭封禁。這背后是源于盜臉本身就是一種違法行為。
上海正策律師事務(wù)所董毅智律師向鳳凰網(wǎng)《風(fēng)暴眼》表示，用AI技術(shù)為他人換臉換聲并發(fā)布視頻，可能涉嫌侵權(quán)，根據(jù)《中華人民共和國民法典》，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。
然而，盜臉的惡劣影響并不僅限于此。
03 危險的機器
一扇新的技術(shù)大門緩緩打開，后面的世界充滿了未知，光點綴的夜空、蜿蜒曲折的小徑、巍峨的山峰以及清澈的小溪，這一切美景或許都存在，但同樣可能只是表象。
在別有用心的人手上，它似乎變成了一臺危險的機器，一個誹謗他人、欺詐他人的灰色武器。
100多人購買AI俄羅斯美女的櫥窗商品
據(jù)《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐案件呈現(xiàn)出驚人的增長趨勢，增長率高達(dá)3000%。
鳳凰網(wǎng)《風(fēng)暴眼》注意到，已經(jīng)有多名博主公開曝光了自己被AI盜臉和制造黃色謠言的經(jīng)歷。2023年7月3日，擁有數(shù)百萬粉絲的網(wǎng)紅“@小野”就曾揭露自己的面部圖像被AI技術(shù)用于制作換臉?biāo)矫芤曨l，甚至有人散布關(guān)于她的不實色情謠言。
值得注意的是，被AI盜臉?biāo)鶄Φ牟粌H僅是女性群體。近年來，利用AI合成技術(shù)進(jìn)行的詐騙案件屢屢發(fā)生，引起了廣泛關(guān)注。
2023年5月有媒體報道稱，福州一家公司老板在短短10分鐘內(nèi)被騙走了430萬元。詐騙團(tuán)伙利用AI盜臉和擬聲技術(shù)冒充熟人進(jìn)行視頻通話實施詐騙。警方介紹稱，這類AI詐騙手段還包括聲音合成、AI換臉以及轉(zhuǎn)發(fā)語音等，其成功率幾乎接近100%。
最近，香港警方成功偵破了一起大規(guī)模的AI“深度偽造”詐騙案。詐騙者通過YouTube等社交軟件收集公司高管的音視頻資料，并利用深度合成技術(shù)進(jìn)行換臉處理提前生成視頻。他們在Zoom在線會議上使用這些偽造的視頻成功欺騙了公司職員，涉案金額高達(dá)2億港元。
這起案件中的被騙職員所看到的每一個人物和聽到的每一個聲音都是詐騙者通過精心偽造的“AI換臉、換聲”技術(shù)制作的，這種高度逼真的偽造技術(shù)讓人防不勝防。
當(dāng)技術(shù)背后的動機變得含糊不清時，它就如同一臺被啟動的潛在危險機器，隨時可能釋放出無法預(yù)測的風(fēng)險和后果。如何保護(hù)生活邊界不被人工智能技術(shù)侵犯，已經(jīng)演變成了一個緊迫而重要的現(xiàn)實問題。