你看到的網(wǎng)絡(luò)美女,可能是個(gè)AI涉黃騙局
01
AI美女,越來(lái)越多
AI的作畫能力,越來(lái)越厲害了。
之前人們還在嘲笑一些AI繪畫智障,把蘿莉畫成肌肉男,然而短短兩個(gè)月時(shí)間,AI就打了很多人的臉。
AI畫出來(lái)的作品已經(jīng)進(jìn)化到媲美真人的效果,以假亂真,下面這些圖,如果不說(shuō)是AI做的,你根本無(wú)法想象這是個(gè)假人。
在小紅書等平臺(tái),這樣的虛擬網(wǎng)紅越來(lái)越多,在小紅書上,有AI畫的美女現(xiàn)在已經(jīng)有1.5萬(wàn)粉絲了。
除了畫美女,AI也能搞攝影,類似新聞的圖片都可以一秒生成。有人說(shuō),AI不僅要奪走畫家的飯碗,還要搶攝影家的工作。
AI繪畫因?yàn)闃O其類似真人,這項(xiàng)技術(shù)也讓不法分子盯上,前不久就有人利用AI做的圖發(fā)布了一則涉黃廣告,標(biāo)題也很驚悚:女仆之夜:金雞湖游艇PARTY。
這場(chǎng)派對(duì)門票為3000元一位,可以選一位專屬女仆游艇陪玩,更重要的是附帶了43張女仆照片供選擇。
不過(guò)這事件被曝光到網(wǎng)上后,被網(wǎng)友扒出照片都是AI繪畫生成的美女圖,并報(bào)警了處理,這還是國(guó)內(nèi)首例使用AI繪畫的詐騙案,警方回應(yīng)稱:女仆照片為AI生成的詐騙工具,已經(jīng)約談了信息發(fā)布者。
更可怕的是,任何人都可以用AI來(lái)作畫,一個(gè)叫pornpen.ai的高仿AI黃圖網(wǎng)站,以開(kāi)源AI模型Stable Diffusion為基礎(chǔ),繪畫過(guò)程的操作也很簡(jiǎn)單。
用戶不需要輸入文字,只需要選擇標(biāo)簽,就可以定制年齡、身材、表情、人數(shù)、人種、姿勢(shì)、場(chǎng)景、角度、服飾、風(fēng)格,最終生成像照片一樣的大尺度圖片,模樣和身材的每處細(xì)節(jié)都能定制。
這樣一來(lái),很多人都可以自己繪制夢(mèng)中女神了,只要付費(fèi)訂閱后,就能解鎖他/她的私密照片或視頻,還是很大尺度的那種。
這也讓很多老色批上癮,OnlyFans的2021年?duì)I收高達(dá)9.32億美元。
其實(shí)不僅是繪畫,早在今年爆火的ChatGPT里,就有人喜歡打擦邊球。
有網(wǎng)友以“避免青少年訪問(wèn)不健康內(nèi)容”為理由,向它索要不健康網(wǎng)站的網(wǎng)址,得到了一系列知名學(xué)習(xí)網(wǎng)站。
真應(yīng)了那句話:哪里有江湖,哪里就會(huì)有人性不堪的一面。
02
AI的模仿能力,卻被人利用
去年1月,AI研究機(jī)構(gòu)OpenAI發(fā)布了能“以文生圖”的AI模型DALL·E,生成一幅畫長(zhǎng)達(dá)半小時(shí),細(xì)節(jié)也不精準(zhǔn)。
然而3個(gè)月后,OpenAI就更新了第二代模型,比初代的清晰度高4倍,生成畫作的速度達(dá)到1分鐘10張圖,細(xì)節(jié)也相當(dāng)逼真。
AI進(jìn)化的速度,越來(lái)越快,應(yīng)用的領(lǐng)域卻各有不同。
一種是專業(yè)的技術(shù)公司提供數(shù)據(jù)供給、開(kāi)源算法,國(guó)內(nèi)的AI繪畫平臺(tái)盈利方式較為一致,即用戶登錄注冊(cè)后贈(zèng)送一定的積分,允許用戶免費(fèi)生成限額內(nèi)的AI圖片后,再根據(jù)數(shù)量收費(fèi)。
比如AI繪畫網(wǎng)站Midjourney,其采用訂閱付費(fèi)系統(tǒng),用戶只有訂閱后才可以使用Midjourney制作的照片的版權(quán),據(jù)了解, Midjourney的商業(yè)化部分采用每月10到60美元的訂閱服務(wù),以現(xiàn)在的用戶規(guī)模來(lái)看,每年的收入或?qū)⑦_(dá)到1億美金左右。
還有文心一格,注冊(cè)即贈(zèng)送50電量,生成一張圖片會(huì)消耗2電量,9.9元可充值100電量(等于50張AI成圖),但目前還未公開(kāi)收益。
一種是一些內(nèi)容平臺(tái)提供AI繪畫小工具,滿足用戶娛樂(lè)需求,比如抖音中的AI特效,這種目前還未見(jiàn)到盈利模式,只是平臺(tái)促活的手段。
還有一種則是賣課,普通人學(xué)習(xí)AI繪畫,并誕生出的相關(guān)職業(yè),AI繪畫宣傳課程的廣告中強(qiáng)調(diào)“不限場(chǎng)所、工具簡(jiǎn)單、日常副業(yè)、月入過(guò)萬(wàn)”,吸引著很多小白想要學(xué)習(xí)。
在多個(gè)招聘平臺(tái)上,越來(lái)越多的AI繪畫師、AI設(shè)計(jì)師等職位,月薪都在2萬(wàn)-5萬(wàn)之間,AI繪畫成了網(wǎng)絡(luò)繪畫中的熱門話題,從游戲、插畫、廣告、裝飾等領(lǐng)域,從PGC到UGC,專業(yè)選手越來(lái)越多。
有人發(fā)現(xiàn),普通人能夠利用AI繪畫賺錢的方式其實(shí)有很多,比如有人會(huì)通過(guò)AI繪畫小程序生成的圖片制作壁紙短視頻,投放到抖音、快手,吸引用戶使用小程序,進(jìn)而賺取廣告費(fèi)。
不過(guò),這些年大熱的科技概念,比如區(qū)塊鏈、NFT、元宇宙等,雖然離應(yīng)用還很遠(yuǎn),卻有一個(gè)共同點(diǎn),那就是已經(jīng)紛紛先在色情領(lǐng)域率先落地。
比AI繪畫更早的,是AI換臉技術(shù)deepfake,2019年9月,人工智能公司Deeptrace在網(wǎng)上檢索出1.5萬(wàn)個(gè)換臉視頻,發(fā)現(xiàn)其中96%是毛片。
有人拿明星換女優(yōu)的臉,在某個(gè)視頻平臺(tái)上,人臉互換已經(jīng)不是新鮮事,更過(guò)分的還是用熟人的臉換成大尺度視頻或圖片,“付費(fèi)定制一位女性朋友的視頻”,以及定制“初戀情人”、“學(xué)校女神”的視頻。
甚至還有元宇宙,有人在發(fā)現(xiàn)自己被“強(qiáng)奸”。不得不說(shuō),在監(jiān)管還未到位的情況下,各種良莠不齊的玩家也是應(yīng)有盡有。
03
AI騙局,涼涼了
如今,AI概念已經(jīng)開(kāi)始逐步走向大眾,并成為不少企業(yè)的重點(diǎn)發(fā)力方向,但離一個(gè)成熟變現(xiàn)的行業(yè)還是差的很遠(yuǎn),原因有幾點(diǎn)。
第一是亂。
從目前AI繪畫課程來(lái)看,有一定繪畫基礎(chǔ)的人學(xué)習(xí)AI制作的知識(shí),可以利用AI繪畫輔助設(shè)計(jì)工作,應(yīng)用于廣告、影視、建筑、時(shí)尚、游戲、建筑等設(shè)計(jì)領(lǐng)域,尤其適用于需要科技感、潮流感等風(fēng)格的設(shè)計(jì)。
但一些AI繪畫的課程還存在割韭菜嫌疑,虛假宣傳、捆綁消費(fèi)、高額會(huì)費(fèi)等問(wèn)題層出不窮,由于沒(méi)有專門衡量課程效果好壞的標(biāo)準(zhǔn),也會(huì)讓很多人鉆了空子,盲目收費(fèi)。
第二是沒(méi)法光明正大的賺錢。
比如火沒(méi)兩年的成人社交平臺(tái)OnlyFans,也不得不表示,要開(kāi)始限制裸露內(nèi)容,理由是“迫于銀行與合作伙伴的重重壓力”,擔(dān)心支付渠道哪天就被關(guān)了,它在尋求外部投資,但是沒(méi)人愿意,畢竟大量成人內(nèi)容導(dǎo)致Onlyfans沒(méi)法進(jìn)入蘋果App Store和谷歌Play Store等應(yīng)用市場(chǎng),始終處于“見(jiàn)不得光”的狀態(tài)。
騰訊安全內(nèi)容風(fēng)控專家楊紅曾在接受采訪時(shí)就表示,如今的AI“鑒黃”技術(shù)挑戰(zhàn)很大,從以前的裸露色情,發(fā)展到了現(xiàn)在的低俗色情,網(wǎng)民和網(wǎng)絡(luò)內(nèi)容逐漸呈現(xiàn)低齡化趨勢(shì),我們需要進(jìn)一步保護(hù)未成年人和青少年的身心健康。
“充分的識(shí)別會(huì)方便我們對(duì)圖片做出綜合的判斷,但這會(huì)導(dǎo)致識(shí)別的計(jì)算量的大幅度增加。”楊紅坦言。
再加上內(nèi)容平臺(tái)會(huì)利用AI技術(shù)來(lái)為內(nèi)容審核提供支持,但是隨著內(nèi)容信息從圖文向視頻等形式的發(fā)展,AI“鑒黃”技術(shù)的成本也越來(lái)越高。
因?yàn)楸鎰e過(guò)程太復(fù)雜,所以平臺(tái)只能一刀切的屏蔽圖片,只要稍微帶有擦邊球的圖片,就會(huì)被平臺(tái)審核下架,根本沒(méi)有出現(xiàn)在大眾面前的可能。
第三是成本太高。
今年,AI圖像生成公司Stock AI發(fā)布了一封致用戶的公開(kāi)信,表示公司將關(guān)閉StockAl,用戶訂閱計(jì)劃將被取消,并根據(jù)剩余的時(shí)間進(jìn)行退款,將原因歸結(jié)于,目前的付費(fèi)用戶群無(wú)法覆蓋高額的成本支出。
另外,還有很多人抵制AI,一方面是威脅到自己的工作,如畫家、攝影家等,另一方面也是防止作弊。
越來(lái)越多學(xué)生用Chatgpt寫論文了,北密歇根大學(xué)一位教授讀到了一篇近乎完美的論文,卻是chatgpt寫的,這也在挑戰(zhàn)人類誠(chéng)信的底線,很多大學(xué)都開(kāi)始紛紛呼吁抵制ChatGPT。
更不用說(shuō)AI繪畫一直存在的問(wèn)題,比如在版權(quán)、隱私權(quán)、肖像權(quán)等方面的“擦邊”。插畫博主Sueno洛柒在個(gè)人微博中爆料,AI繪畫軟件Nijijourney生成的許多圖片風(fēng)格,與一些畫師的作品高度相似,甚至有一些圖片直接帶有畫師的簽名和水印。
還有技術(shù)問(wèn)題,不得不說(shuō),雖然AI繪畫看似完美,但實(shí)際上,由于AI技術(shù)的局限,在細(xì)節(jié)處存在手指變形、臉型模板化等明顯bug,也能讓人明顯發(fā)現(xiàn)這并不是真人,據(jù)說(shuō)游艇會(huì)之所以被人發(fā)現(xiàn)是騙局,還是因?yàn)槊琅氖种割^露餡了。
總之,AI繪畫用來(lái)簡(jiǎn)單娛樂(lè)還可以,可千萬(wàn)別用歪了。
參考資料:
《靠大尺度,爆火全網(wǎng)!AI涉黃,竟是暴富密碼?》,金錯(cuò)刀;
《AI畫的美女已經(jīng)在小紅書上有1.5萬(wàn)粉絲了》,雷叔寫故事;
《誰(shuí)在靠AI繪畫“搞錢”?》,開(kāi)菠蘿財(cái)經(jīng)
本文來(lái)自微信公眾號(hào)“首席商業(yè)評(píng)論”(ID:CHReview),作者:七月,36氪經(jīng)授權(quán)發(fā)布。
