周志宏：破解AI詐騙難題須雙“法”齊下

　　作者：周志宏 稿源：時評界 編輯：洪小兵

　　包頭警方近日發(fā)布一起利用AI實施電信詐騙的典型案例。有騙子通過AI換臉和擬聲技術佯裝好友，對福州市某科技公司法人代表郭先生實施詐騙，在視頻聊天“核實”對方身份后，郭先生10分鐘內(nèi)被騙子騙走430萬元。(科技日報6月2日)

　　這幾天，AI換臉詐騙的話題引發(fā)社會關注。

　　所謂AI詐騙，就是利用AI技術，模仿、偽造他人的聲音、面孔、視頻等信息，進行欺騙、敲詐、勒索等的犯罪活動。通常情況下，騙子會通過撥打騷擾電話等方式，錄音提取詐騙對象及其重要關系人的聲音特征，再利用AI技術進行語音合成，使詐騙對象放松警惕，進而用偽造的聲音實施詐騙。問題的嚴重性，同時也是識別AI換臉詐騙的難點在于，人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人;還有，騙子會利用AI技術，將他人的臉換成指定人的臉，冒充詐騙對象的親人、朋友，通過合成視頻或照片的方式來“以假亂真”，擾亂詐騙對象的視線，進而實施詐騙。

　　由于AI詐騙具有高度逼真、難以追蹤、針對性強、手段多樣的特點，受害者往往難以分辨真假，從而放松和降低警惕。再者，犯罪分子隱匿在網(wǎng)絡的陰暗角落，也給警方偵破帶來困難。

　　面對AI技術濫用風險，必須要用法，要雙“法”齊下，以有效整治AI詐騙。這個“法”既包括科學技術方法的應用，也包括剛性治理的法律法規(guī)。

　　在科學技術方面，目前，打擊電信網(wǎng)絡詐騙的科技裝備發(fā)展迅速。據(jù)報道，由廈門市美亞柏科信息股份有限公司研發(fā)的“AI-3300慧眼視頻圖像鑒真工作站”，不僅能鑒定利用傳統(tǒng)偽造手段篡改的影像，而且對利用深度偽造技術進行了換臉、美顏、生成人臉、同圖或異圖復制篡改的影像也能夠進行鑒定，可以為公安、司法行業(yè)提供技術支持;在法律法規(guī)方面，去年12月發(fā)布的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，對人臉生成、替換、操控，合成人聲、仿聲等都進行了明確約束。這項規(guī)定發(fā)布實施后，此前一款主打AI換臉的App在被監(jiān)管部門約談后進行下架處理，處理原因為“如此換臉侵犯了公民的肖像權”。

　　就普通百姓而言，AI詐騙也不是完全“防不勝防”。不過，需要大家有甄別的“慧眼”。雖然AI生成的語音和表情已經(jīng)相當逼真，但仍然可能存在一些不自然的細節(jié)。具體細節(jié)包括AI生成語音的節(jié)奏、音高變化和AI生成圖像的面部表情過渡等，這些細節(jié)均與原始視頻有較大的差別。更何況，目前，對AI進行判斷與甄別的技巧有很多。在視頻通話的過程中，用戶可以讓對方展現(xiàn)全身特征，再觀察人臉是否出現(xiàn)消失或特殊變化，以檢測是否存在面部置換的可能性，這是一。再者，用戶可以讓對方用一張白紙在臉前緩慢晃動，觀察是否出現(xiàn)閃爍現(xiàn)象，以此判斷是否可能存在換臉現(xiàn)象。

　　其實，無論多厲害的騙局，歸根結底都是用欺詐的手段獲取對方信任，以謀取公私財物。對于個人來說，多方驗證、確認身份，才能避免和防范騙局的發(fā)生。尤其是在涉及金錢、財產(chǎn)和隱私等重要事項時，更要小心謹慎，可要求對方提供更多證據(jù)、進行更多交流，并核實其身份和回答的準確性，以排除AI技術欺騙的可能。據(jù)此，公眾在平時要有警惕高風險行為的意識。對于緊急轉賬、提供大額保證金或其他不尋常要求，要保持警惕，并仔細核實真實性。在不能確定真實身份時，要格外留意，不要被高額回報或緊迫情況迷惑，不要著急匯款，避免上當受騙。

　　相關部門要強化對主打AI換臉的App的監(jiān)管，發(fā)現(xiàn)問題，及時處理，該約談的約談，該下架的下架，別讓AI技術換臉肆意騙人、坑害人;警方須加大查處力度，對利用AI技術，模仿、偽造他人的聲音、面孔、視頻等信息，進行欺騙、敲詐、勒索等犯罪活動依法嚴厲打擊，震懾犯罪，保障公民的肖像權不受侵犯。