生成式AI技術(shù)，如GPT-4等強(qiáng)大的語(yǔ)言模型的廣泛普及，已經(jīng)逐步開(kāi)展應(yīng)用。這種對(duì)未來(lái)技術(shù)的期待之余，不得不面對(duì)AI技術(shù)可能被濫用的風(fēng)險(xiǎn)，甚至已經(jīng)有一些犯罪分子已開(kāi)始巧妙地利用AI技術(shù)進(jìn)行電信詐騙。

當(dāng)下最積極學(xué)習(xí)的除了學(xué)生，就是騙子了，隨著人工智能的迅猛發(fā)展，詐騙團(tuán)伙的詐騙手段也越來(lái)越科技化。

近日，兩起利用AI換臉實(shí)施詐騙的案例引發(fā)關(guān)注。福州市某科技公司法人代表郭先生10分鐘內(nèi)被人用AI換臉詐騙430萬(wàn)元；5月25日，某詐騙分子使用了一段9秒鐘的智能AI換臉視頻，佯裝“熟人”，導(dǎo)致何先生被詐騙245萬(wàn)。

隨著AI技術(shù)的進(jìn)步，AI換臉的門(mén)檻確實(shí)也越來(lái)越低。“以前AI換臉還需要一兩百?gòu)垐D片，現(xiàn)在不同角度的照片，一般5到8張就可以生成很不錯(cuò)的模型了。”

人工智能興起，我們正處于尋找最佳應(yīng)用場(chǎng)景與商業(yè)落地的關(guān)鍵期。如果不能妥善解決相關(guān)的安全和隱私問(wèn)題，也許會(huì)對(duì)人工智能的前景產(chǎn)生負(fù)面影響，形成對(duì)AI發(fā)展的壓力。

AI詐騙：為何成功率極高？

AI詐騙者能夠逐步訓(xùn)練出能夠模擬人類(lèi)行為和語(yǔ)言的AI，甚至能制作出極為逼真的虛假視頻或音頻。這些偽造的內(nèi)容極度真實(shí)，讓識(shí)別真假變得異常困難，從而大大提高了詐騙者的欺騙效果。

數(shù)字化社會(huì)，每個(gè)人都在生成大量的數(shù)字化信息，詐騙者可以通過(guò)大數(shù)據(jù)分析來(lái)獲取被詐騙對(duì)象的行為習(xí)慣。因?yàn)樵p騙者往往擁有比受害者更多的信息和技術(shù)資源，信息和技術(shù)的不對(duì)稱(chēng)性，無(wú)疑成為了AI詐騙的一大優(yōu)勢(shì)。

AI詐騙與傳統(tǒng)詐騙相比，成本更低

AI技術(shù)的發(fā)展，改變了許多領(lǐng)域的工作方式。還深刻地改變了詐騙的形態(tài)，使得電信詐騙更加難以防范。并且AI詐騙具有高度自動(dòng)化的特點(diǎn)，經(jīng)過(guò)適當(dāng)訓(xùn)練的AI模型能夠在無(wú)人工干預(yù)的情況下自動(dòng)運(yùn)行。

GitHub等開(kāi)源社區(qū)上，有開(kāi)源使用的AI換臉軟件等等，很多相關(guān)的技術(shù)社區(qū)、論壇、貼吧，有大量小白入門(mén)系列教程，價(jià)格甚至只要幾塊錢(qián)。

魔法打敗魔法，發(fā)掘技術(shù)的價(jià)值

AI技術(shù)顯然已成為詐騙的主要戰(zhàn)場(chǎng)，人們?cè)谏缃黄脚_(tái)上進(jìn)行大量的在線活動(dòng)和社交互動(dòng)，為詐騙者提供了豐富的目標(biāo)選擇和信息來(lái)源，一旦被識(shí)別出來(lái)，他們往往已經(jīng)騙取了大量財(cái)富，并逃之夭夭。

正如同一把錘子可以用來(lái)建房子也可以用來(lái)破壞房子，AI技術(shù)為社交平臺(tái)帶來(lái)更好的用戶體驗(yàn)，本身是一件好事，關(guān)鍵在于借助機(jī)器學(xué)習(xí)等先進(jìn)技術(shù)，如何使用。顯然，騙子們比普通人更用心鉆研，更早意識(shí)到技術(shù)的價(jià)值。

面對(duì)AI技術(shù)濫用風(fēng)險(xiǎn)，如何整治AI詐騙，防止AI作惡？

關(guān)鍵在一個(gè)“法”字。這個(gè)“法”既包括科學(xué)技術(shù)方法的應(yīng)用，也包括剛性治理的法律法規(guī)。

在科學(xué)技術(shù)方面，打擊電信網(wǎng)絡(luò)詐騙的科技裝備發(fā)展迅速。此類(lèi)裝備不僅能鑒定利用傳統(tǒng)偽造手段篡改的影像，而且對(duì)利用深度偽造技術(shù)進(jìn)行了換臉、美顏、生成人臉、同圖或異圖復(fù)制篡改的影像也能夠進(jìn)行鑒定，可以為公安、司法行業(yè)提供技術(shù)支持。

而在法律法規(guī)方面，2022年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都進(jìn)行了明確約束。該項(xiàng)規(guī)定發(fā)布實(shí)施后，此前一款主打AI換臉的App在被監(jiān)管部門(mén)約談后進(jìn)行下架處理，處理原因?yàn)椤叭绱藫Q臉侵犯了公民的肖像權(quán)”。

及時(shí)掌握網(wǎng)絡(luò)安全態(tài)勢(shì) 盡在傻蛋網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)

【網(wǎng)絡(luò)安全監(jiān)管部門(mén)】免費(fèi)試用

本文來(lái)源:互聯(lián)網(wǎng)

如涉及侵權(quán)，請(qǐng)及時(shí)與我們聯(lián)系，我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。
電話：400-869-9193 負(fù)責(zé)人：張明