“帥哥”“美女”高頻率更新，分享穿搭、養(yǎng)生等秘籍，視頻細節(jié)滿滿，也未設置AI生成提示，出鏡者就一定是真人嗎？
能問出這個問題的人，多是“不易受騙體質(zhì)”，反之，就需要提高警惕了——媒體日前調(diào)查發(fā)現(xiàn)，有人利用AI造假，無底線博眼球，作為起號變現(xiàn)捷徑，雖然部分視頻存在明顯技術破綻，但瀏覽、點贊、評論量依舊不少。社交平臺上還有不少AI造假起號教程，情感、養(yǎng)生、顏值類是“重災區(qū)”，也有不少網(wǎng)友求購和出售賬號，“百萬粉絲的號要十幾萬元”。
AI造假起號，重點是造假。最淺顯的假，是畫面以假亂真：《人工智能生成合成內(nèi)容標識辦法》要求對AI生成合成內(nèi)容進行顯示標識和隱式標識，主流網(wǎng)絡平臺也普遍升級AI內(nèi)容識別系統(tǒng)，一些人依然通過各種手段避開審核，甚至傳授繞過平臺“AI打標”的經(jīng)驗，存的是什么心思？
所謂“教育專家”“養(yǎng)生專家”輸出的觀點中，不乏違背科學原則、極端絕對的說法，暗藏誤導風險，當用戶互動咨詢時，賬號背后的運營者還會借機推送“三無”產(chǎn)品。起號成功后，大多賬號會隱藏AI引流內(nèi)容，開始掛櫥窗帶貨、引流賣課；有的順勢打出“AI起號實戰(zhàn)”噱頭，將自身包裝成“成功案例”售賣起號課程；還有一部分賬號被明碼標價進行售賣。如此糊弄用戶，無視消費者知情權，無異于“深度造假”。
在“百萬粉絲網(wǎng)紅疑遭勒索后自殺”等網(wǎng)絡謠言背后，也有AI造假起號的身影。或生成數(shù)字人，或通過“文生圖、圖生圖、圖生視頻”流程生成視頻，一些人傳播低俗獵奇信息，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡空間秩序。這一層面的造假，影響更為廣泛。
從技術層面看，AI造假起號黑灰產(chǎn)業(yè)鏈是技術異化的結(jié)果。在別有用心之人與平臺的技術攻防戰(zhàn)中，平臺需不斷提高對深度偽造內(nèi)容的檢測精度，打擊和防范濫用AI行為。需要進一步思考的是，有商家提到“現(xiàn)在平臺風控很嚴，賬號會升值”，有其現(xiàn)實邏輯。AI加持下，批量起號的成本和門檻大大降低，只要平臺不能百分百識別出違規(guī)內(nèi)容，就會有賬號依舊能多手段變現(xiàn)，甚至成為大號。而“變臉”帶貨涉嫌侵犯消費者權益，直接售賣賬號違背反電信網(wǎng)絡詐騙法“任何單位和個人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號”，這不是平臺單方面可以解決的。
其實，在AI普及之前，就有人通過造謠等手段起號。技術治理能減少濫用AI帶來的破壞力，但斬斷違規(guī)賬號流量變現(xiàn)的利益鏈條，才是從根源打擊黑灰產(chǎn)業(yè)鏈的關鍵。AI造假起號怎么罰，買賣賬號如何處理，如何完善公眾參與亂象治理機制……唯有進一步完善相關規(guī)則，方能更好凈化內(nèi)容生態(tài)。
來源：南方日報 作者：維辰
掃一掃分享本頁
