2024-03-10
3月10日,最高檢新媒體發(fā)布虛擬數(shù)字人天妤共創(chuàng)反詐視頻《小心!AI陷阱》,以短劇的形式展現(xiàn)真實AI詐騙套路,以檢察信息技術(shù)為切入點,結(jié)合科幻感十足的虛擬人場景,有效提升廣大群眾的反詐意識。
“媽媽救我!”短片中,母親接到視頻來電,女兒哭著說自己被綁架了,隨即綁匪索要30萬贖金。母親大驚失色隨即準(zhǔn)備向綁匪轉(zhuǎn)賬。檢察技術(shù)專家與虛擬數(shù)字人天妤對視頻進(jìn)行多次分析,確認(rèn)該視頻為AI換臉深度偽造而成,并進(jìn)入虛擬空間還原犯罪過程,就此將一場由AI技術(shù)炮制而成的“綁架案”及時扼殺在搖籃里。
視頻中的場景取自最高檢檢察技術(shù)信息研究中心,劇本創(chuàng)作時得到相關(guān)聲紋鑒定、深度偽造等方面的技術(shù)專家支持,對檢察信息技術(shù)進(jìn)行最大程度的真實再現(xiàn)。
如今AI技術(shù)發(fā)展日新月異,掃描人像就能換臉、采集人聲就能定制變聲。AI技術(shù)在為人們帶來便利的同時,也可能給電信網(wǎng)絡(luò)詐騙分子提供了可趁之機(jī)。當(dāng)前,有一些犯罪分子利用AI技術(shù)合成他人的面孔、聲音,制造逼真的深度偽造圖像,實施精準(zhǔn)的電信網(wǎng)絡(luò)詐騙。這類騙局通常會在短時間內(nèi)給被害人造成較大的經(jīng)濟(jì)損失和心理傷害。面對高科技手段的新型詐騙,廣大群眾更需要擦亮眼睛,了解AI詐騙常見套路,謹(jǐn)防上當(dāng)受騙。
長期以來,最高檢新媒體在法治宣傳方面進(jìn)行多種創(chuàng)新嘗試,首次與虛擬數(shù)字人合作AI詐騙普法宣傳,是對互聯(lián)網(wǎng)新技術(shù)的創(chuàng)新應(yīng)用,也是法治宣傳領(lǐng)域的一次獨特創(chuàng)新。