今年是AI技術爆發的元年，全球很多公司都推出了類似ChatGPT的產品，它們可以自動學習生成不同的圖片、視頻、文本、聲音等，為各種場景提供了智能化的解決方案。但越來越成熟的AI技術也被不法分子盯上了。
以往，朋友間相互借錢，會事先進行電話語音或者視頻確認，以防被騙。但近來，因為「AI換臉」導致受害者被欺詐的問題時常出現，如今視頻和電話也不能夠完全相信了。
河南省反詐騙中心近日發布了一起「AI換臉」電信網絡詐騙案。
據報道，安陽市民雷某與一個人陌生人加了QQ好友，對方自稱是其朋友「崔某」，他準備向雷先生借錢。
為了讓雷某相信，「崔某」還打來一通視頻電話，雷某看到視頻中的人確實是「崔某」本人，只不過視頻時間很短，也沒有說話。經過驗證後，性格豪爽的雷某答應了借錢，並向對方提供的卡號轉帳98萬元。
但當轉帳後雷某再打視頻電話確認時，發現對方竟然是用QQ自動回復。這時，雷某意識到自己可能被騙並立即報警。
民警經研判分析，鏡頭中的「崔某」應是嫌疑人使用的「AI」換臉技術。隨後將資金凍結，不過只凍結成功了68萬元，另外30萬元已經被取走。好在後續民警確認了銀行卡主的身份，最終將不法分子抓捕。
這已不是第一起冒充熟人進行的「AI換臉」電詐案。今年5月，一公司法人代表被騙子利用人工智慧「換臉」技術詐騙430萬元。
騙子不僅獲取了受害人和好友的關係信息，還掌握了很多受害人好友的圖片、音視頻信息用來訓練模型，最終在視頻通話時藉助 AI 換臉和擬聲技術進行詐騙。這類詐騙案件標誌著電信詐騙進入智能化、定製化時代，專屬於每個人的詐騙劇本或許正在路上。詐騙已經進化到如此可怕的程度，值得所有人謹慎對待。
在實際生活中，很多人連純文字聊天都分不清真偽，想要一眼辨別出 AI 照片和 AI 視頻也實屬強人所難了，更別說還有各種以假亂真的 AI 語音、AI 換臉甚至實時的 AI 換臉視頻聊天。微信通話，視頻聊天，以假亂真，防不勝防。
我們不得不接受一個事實，AI換臉、合成聲音的技術已相當成熟，這就說明了AI換臉的成本已相當低，換個角度看就是，使用AI詐騙的成本已相當低。
據媒體報道，製作一套「露臉且說話」視頻成本低至數十元，只需提供正面照就能生成視頻，不僅眼睛、嘴巴、頭會動，如果提供文字口型也能對上，一個晚上就能完工。
難道對待這類新型詐騙就沒有辦法了？
對此，警方提示，對突如其來的電話保持警惕，即使是來自你認識的人，因為來電顯示的號碼可能是偽造的。如果有人自稱「熟人」「領導」通過社交軟體、簡訊以各種理由誘導你匯款，務必通過電話、見面等途徑核實確認，不要未經核實隨意轉帳匯款，不要輕易透露自己的身份證、銀行卡、驗證碼等信息。另外，不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等；陌生連結不要點，陌生軟體不要下載，陌生好友不要隨便加，防止手機、電腦中病毒及微信、QQ等被盜號。如不慎被騙或遇可疑情形，請注意保護證據，並立即撥打96110報警。最後，期待相關部門加強對人工智慧技術的監管和對違法行為的打擊力度，維護網絡秩序和公眾利益。
編輯：CC