6月9日至10日，在上證指數(shù)一度站上3400點的當口，多位財經(jīng)博主的自媒體賬號遭遇“貍貓換太子”。
有賬號被盜后發(fā)布疑似為股市“殺豬盤”引流的廣告，有賬號被盜后開始冒充號主本人和粉絲“一對一”私聊，將粉絲引向詐騙陷阱。
據(jù)被盜號者自述，其賬號所屬的企業(yè)被偽造的“人臉識別”授權更換了法人，之后再通過法人權限取得了賬號控制權，才有了之后的一系列疑似詐騙舉動。
“代過人臉識別”已經(jīng)成為一條隱秘的黑灰產(chǎn)產(chǎn)業(yè)鏈。多名黑灰產(chǎn)從業(yè)者都表示可以代過人臉驗證，價格在560元到1400元不等。
螞蟻集團AI核身安全高級專家崔征兩表示，目前人臉識別被攻破一般有兩種情況，一種是人臉呈現(xiàn)突破風險，也就是通過假臉（3D頭模，面具、高清屏等）惡意攻擊刷臉并成功完成人臉驗證，尤其是3D頭模、高清屏類高端手法；另一種是人臉注入突破風險，通過技術注入手法攻擊刷臉并成功完成人臉驗證，“AIGC發(fā)展迅猛，AI換臉改變了攻擊內(nèi)容的生成方式，被黑灰產(chǎn)利用，為各行業(yè)帶來了非常大的挑戰(zhàn)。”
浙江墾丁律師事務所主任律師張延來表示，盜號并群發(fā)詐騙信息涉及非法侵入計算機信息系統(tǒng)罪、詐騙罪、侵犯公民個人信息罪。而要堵住這一詐騙“漏洞”，建議引入多重認證機制，以及為企業(yè)關鍵信息變更設置“高風險提醒”機制。
560元“包過”人臉識別
通過更換法人更改自媒體賬號控制權成新型詐騙方式
“早上8點左右，我名下的小號突然開始大量群發(fā)詐騙信息。”“臨近半夜12點多的時候發(fā)現(xiàn)被盜號了，盜號的人發(fā)了類似給股市殺豬盤引流的廣告。”
6月10日晚間，“遠方青木”“表舅是養(yǎng)基大戶”等自媒體發(fā)文揭露其名下賬號突然遭遇盜號。其中“遠方青木”在文中詳述了其名下小號（粉絲約60萬）被盜始末，表示盜號者通過人臉識別的方式在6月3日讓賬號所在企業(yè)的原法人“授權”更換了新法人，最終在6月10日凌晨1點左右重置了賬號密碼，并在8點左右群發(fā)了詐騙信息。
在這一流程中，最關鍵的更換法人信息的系統(tǒng)如此容易“被攻破”嗎？
一名黑灰產(chǎn)從業(yè)者表示“可以通過工商人臉驗證，收費560元，先款后做。”對于提出的疑問“如果過不了怎么辦？”對方表示“包過！”另一名黑灰產(chǎn)從業(yè)者則表示可以采用擔保交易通過工商人臉識別系統(tǒng)，其采用擔保交易，收費200USDT（一種掛鉤美元的虛擬幣）。還有人報價5000元兜售“可以通過工商人臉識別的技術”。
一些黑灰產(chǎn)從業(yè)者甚至在宣傳中明確指出了具體的地方政務系統(tǒng)，包括浙里辦、豫事辦、海易辦等，并表示“基本（攻破）政務都沒問題”。
而在其展示的一個通過人臉驗證的演示視頻中，生成出的人臉在極短的時間內(nèi)可以做出諸如“搖頭”“張嘴”“眨眼”等動作。而在重復兩次人臉識別后，該虛擬人臉恰好“對上”了人臉識別系統(tǒng)要求的“搖頭”指令，成功通過人臉測試。
黑灰產(chǎn)平臺發(fā)布的廣告以及“過人臉”測試視頻。
有熟悉財稅行業(yè)的人士表示，上述黑灰產(chǎn)已經(jīng)形成一個成熟的產(chǎn)業(yè)鏈，“你甚至能在一些財稅所里找到寫有‘解決工商變更法人股東失聯(lián)處理’的廣告。”
之前此類變更的目的更多表現(xiàn)在不知情者“被法人”，以及代領營業(yè)執(zhí)照等行為上，而在本次的案例中，通過更換法人更改自媒體賬號控制權成了一個新穎的詐騙方式。有網(wǎng)友在6月11日表示，“我關注的很多財經(jīng)號都發(fā)了類似信息，主要是引導下載新的App。”
崔征兩告表示，黑灰產(chǎn)通過不法手段獲得包括人臉和證件等用戶信息，進一步地，通過AIGC算法生成一段符合驗證要求的真人活體臉的圖片和視頻，視頻里包含簡單的認證動作，比如張嘴搖頭等。生成符合驗證的視頻后，攻擊者通過攻破手機系統(tǒng)，劫持攝像頭或者控制人臉鏈路的方式，直接注入人臉系統(tǒng)中突破人臉驗證。身份類證件，如身份證以及營業(yè)執(zhí)照等，都可以通過類似的方式進行突破。
可見，此類詐騙手法涉及公眾號賬號主體公司股東、法人的身份信息泄露，攻破人臉識別系統(tǒng)，以及找到法人頂替者三塊“灰色地帶”，而且已經(jīng)有了成熟的產(chǎn)業(yè)鏈。
“繞過或破解了政務系統(tǒng)的人臉識別驗證流程，本質(zhì)上屬于非法侵入或操控國家機關計算機系統(tǒng)，觸及非法侵入計算機信息系統(tǒng)罪；向公眾群發(fā)詐騙信息，誘騙他人轉(zhuǎn)賬或支付，涉嫌構成詐騙罪；非法收集、使用、買賣企業(yè)法人的人臉信息、身份證信息、聯(lián)系方式等個人信息，則也可能觸犯《中華人民共和國刑法》第二百五十三條侵犯公民個人信息罪。”張延來表示。
深度偽造算法與安全防御算法相互博弈
專家：人臉識別驗證機制過于單一 建議引入多重認證機制
網(wǎng)絡安全研究專家、北京漢華飛天信安科技有限公司總經(jīng)理彭根表示，這類事件的發(fā)生主要是由于AI技術使得虛擬“人臉”越來越真實，“現(xiàn)在我們的人臉識別技術在和AI做對抗，識別真?zhèn)卧絹碓诫y，堵住這樣的漏洞只能依靠技術升級。”
國家網(wǎng)信辦此前發(fā)布的《人臉識別技術應用安全管理規(guī)定（試行）（征求意見稿）》明確，人臉識別技術使用者應當每年對圖像采集設備、個人身份識別設備的安全性和可能存在的風險進行檢測評估，并根據(jù)檢測評估情況改進安全策略，調(diào)整置信度閾值，采取有效措施保護圖像采集設備、個人身份識別設備免受攻擊、侵入、干擾和破壞。
螞蟻數(shù)科安全總監(jiān)王磊表示，黑產(chǎn)團伙往往通過非法渠道購買公民隱私信息（如身份證號、人臉照片），用AI生成虛假人臉活體視頻、劫持攝像頭篡改采集內(nèi)容，來達到欺騙平臺（如進行賬戶盜用）的目的，“螞蟻數(shù)科在服務外部機構身份安全的實戰(zhàn)中發(fā)現(xiàn)，某些機構遭遇Deepfake（深度偽造）攻擊濃度超千分之3，且黑產(chǎn)團伙持續(xù)保持活躍。”
在王磊看來，深度偽造算法與安全防御算法，是一個相互博弈的過程，“我們建議網(wǎng)絡平臺建立具備實時安全對抗能力的人臉識別系統(tǒng)，及時采集新型攻擊手段，人臉識別的模型需要高效更新反制手段。此外，網(wǎng)絡平臺需要有完善的業(yè)務風控策略，從注冊、登錄、業(yè)務開通或支付等環(huán)節(jié)多層次監(jiān)控，警惕異地登錄、設備更換等異常行為。”
6月13日，有平臺方表示下一步也在考慮升級相關的技術驗證手段，以遏制黑灰產(chǎn)。
除了技術升級外，增加除了人臉識別外的多重防控系統(tǒng)以及在政務平臺設置“高風險提醒機制”也是可供選擇的解決手段。
崔征兩表示，應對人臉識別風險，一般的防護措施是建立多重防控體系。其中包括：首先，對手機和鏈路的加固與防控，防止或者檢測到攻擊者對設備和鏈路的攻擊；其次，研發(fā)應對deepfake的能力，應對deepfake攻擊；同時，進行多因子的校驗，人臉之外，可以增加短信、當時網(wǎng)絡環(huán)境、是否為本人常用設備等手段多重驗證；最后，人臉識別的安全防控不是單一的算法，而是一套嚴謹周密、持續(xù)演進的防御系統(tǒng)，因此需要建立基于人的行為偏好等數(shù)據(jù)的多維風控體系。
奇安信集團行業(yè)安全研究中心主任裴智勇表示，人臉和指紋都屬于生物識別的范疇，它們都具有可以復制的特點，但在網(wǎng)絡驗證中，它們并不是一個特別安全的密鑰，“我們在實驗中發(fā)現(xiàn)，雖然使用電腦生成的3D圖像，跟真人對比有很大失真，但這種圖像是專門針對某個人臉識別系統(tǒng)做的，識別系統(tǒng)需要什么數(shù)值，圖像反饋出相應的數(shù)值，就能騙過人臉識別的系統(tǒng)。”他建議，使用人臉識別技術應加入其他的驗證手段進行輔助，比如常見的短信驗證、電話驗證或大數(shù)據(jù)驗證，這樣相對更安全。
張延來也表示，人臉識別驗證機制過于單一，建議引入多重認證機制，如結(jié)合動態(tài)短信驗證碼+人臉識別+歷史設備登錄行為等。
他還建議，企業(yè)關鍵信息變更可設置“高風險提醒”機制，“所有與賬號綁定的企業(yè)主體在工商層面如有重大變更（法人、股東、對公電話等），應通過短信、App彈窗等渠道提醒現(xiàn)有企業(yè)成員及平臺方；網(wǎng)絡平臺在系統(tǒng)檢測到‘企業(yè)主體發(fā)生重大變更’且存在異常可能時，可以啟動人工審核機制。”
（來源：新京報）
掃一掃分享本頁
