接到“弟弟”的借錢電話后轉賬數萬元，被屏幕對面的“好友”騙走數百萬元，“多人視頻會議”中竟然只有自己是真人……近期，全國各地接連曝光多起電信詐騙案件，其共同特點是詐騙分子利用AI合成技術“換臉”“換聲”，這種深度偽造導致受害者“耳聽為虛”“眼見也非實”。
當前，詐騙分子得以構建復雜的虛擬場景，通過合成視頻、音頻增加詐騙的可信度，呈現出AI技術普及、應用多元、身份偽造具體化以及作案模式精準化等特點。
今年某地警方披露的一起案件令人瞠目結舌。一家跨國公司地方分部的職員受邀參加總部首席財務官發起的“多人視頻會議”，并按要求先后轉賬多次，將2億港元分15次轉到5個賬戶內。實際上，那場會議中，除了他自己以外，其余與會人員全部是詐騙團隊通過“AI換臉”和“AI換聲”偽造的。
近年來，通過AI實現的聲音和畫面深度偽造技術門檻不斷降低，過去諸如影視大片中才能出現的場景，如今只需要在互聯網上花費數元購買一個軟件就能一鍵生成。但如果用“放大鏡”仔細觀察一些AI詐騙案件，則會發現“變聲換臉”的AI技術應用，往往只是電信詐騙的最后一環。
隱私信息泄露往往是前置條件。為了獲取某個人的聲音，不法分子甚至通過撥打騷擾電話進行采集，而后僅通過通話錄音，就能偽造出對方的聲音。個人在社交平臺上展示的影像資料，也讓不法分子可以輕松獲取個人肖像信息。
盡管電信詐騙工具一直在變，但防范仍是不變的第一要務，防范優于打擊。詐騙得手，往往是利用了人性的弱點。詐騙者會利用受害者的恐懼心理、應急狀態，冒充領導、公檢法人員、親友等，讓被騙者亂了分寸。對普通人來說，應當樹立“耳聽和眼見不一定為實”的意識，提升破解“障眼法”的能力，一旦遇到“掏腰包”的關鍵環節就要高度警惕。
在增強個人防范能力的同時，技術防范也同樣重要。針對科技手法花樣翻新的AI電詐，需要用科技應對科技，用“魔法打敗魔法”。
一方面，互聯網平臺等需要保障公民個人信息尤其是生物特征等敏感信息的安全。另一方面，可以推廣數字水印等鑒偽技術，使其幫助檢測和揭露被AI篡改的內容。對于重要應用場景中的人臉識別技術，應修補漏洞，防范手機攝像頭權限被惡意利用，以技術反制不法行為，將群眾與電詐風險進行“無感”隔離。（董雪） |
