近日，包頭市公安局公布福州市某科技公司法人代表郭先生因?yàn)锳I換臉，10分鐘內(nèi)被騙430萬(wàn)元的案件引發(fā)對(duì)人工智能安全的廣泛熱議。

對(duì)此，馬上消費(fèi)人工智能研究院智能核身專家馮月表示，“活體防偽、中介識(shí)別等技術(shù)的核心功能便是能夠避免人臉識(shí)別的自身缺陷，有效識(shí)別照片、視頻、面具、仿真模型等，特別是本事件中出現(xiàn)的換臉、變聲欺詐行為?！?

對(duì)于AI帶來(lái)的潛在風(fēng)險(xiǎn)，“AI教父”辛頓在接受《紐約時(shí)報(bào)》采訪時(shí)曾如此表示，“相較于氣候變化，AI可能對(duì)人類的威脅‘更緊迫’。”

【資料圖】

結(jié)合現(xiàn)實(shí)，此言并非“危言聳聽”。在AIGC以迅雷之勢(shì)掀起AI發(fā)展新起點(diǎn)的同時(shí)，潘多拉魔盒中的“惡”已在逐步顯現(xiàn)。

防范技術(shù)之“惡”：眼見不一定為實(shí)

據(jù)“平安包頭”微信公眾號(hào)消息近日顯示，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元，幸運(yùn)的是336.84萬(wàn)元被騙資金已經(jīng)被攔截，而其中用到的便是“智能AI換臉和擬聲技術(shù)”。他們是怎么做到的呢？

這是一個(gè)復(fù)雜的過程，從新聞本身看，受害人郭先生的視角里主要是被換臉技術(shù)和擬聲技術(shù)所欺騙，但事件背后可能還暗含了一些其它條件，比如犯罪分子是通過什么渠道與受害人建立的聯(lián)系、如何獲取的相關(guān)社交軟件的賬號(hào)、如何知道他需要冒充誰(shuí)、如何獲取對(duì)應(yīng)的圖像和聲音物料、以及如何挑選被害人。

如果我們聚焦到換臉技術(shù)和擬聲技術(shù)兩個(gè)關(guān)鍵問題上，它主要的難題就是基礎(chǔ)數(shù)據(jù)的獲取、訓(xùn)練框架、實(shí)時(shí)渲染三項(xiàng)。數(shù)據(jù)層面上，從社交媒體等社工庫(kù)可以獲取冒充對(duì)象的影音信息，亦或者是從丟失的黑產(chǎn)手機(jī)的相冊(cè)、聊天記錄中提取。訓(xùn)練框架上，目前國(guó)內(nèi)幾個(gè)主流的短視頻平臺(tái)的剪輯軟件中都支持換臉特效，并且沒有警示信息，國(guó)外的開源框架中合成方法超過30種。在實(shí)時(shí)渲染上，通過對(duì)手機(jī)刷機(jī)、安裝侵入軟件等攻擊操作也可以實(shí)現(xiàn)劫持渲染。

因此，“眼見不一定為實(shí)”，技術(shù)背后總有處心積慮之“惡”，不可不防。

防患于未然，用“魔法”打敗“魔法”

風(fēng)險(xiǎn)不可避免，又該怎樣利用“魔法”打敗“魔法”？

目前，許多金融機(jī)構(gòu)已有相關(guān)的落地舉措與相關(guān)技術(shù)應(yīng)用。比如活體防偽、中介識(shí)別等技術(shù)在金融業(yè)務(wù)場(chǎng)景中也已得以應(yīng)用。

“活體防偽、中介識(shí)別等技術(shù)的核心功能便是能夠避免人臉識(shí)別的自身缺陷，有效識(shí)別照片、視頻、面具、仿真模型等，特別是本事件中出現(xiàn)的換臉、變聲欺詐行為?！?馬上消費(fèi)人工智能研究院智能核身專家馮月表示，”馬上消費(fèi)金融基于此類技術(shù)創(chuàng)新，目前能夠做到將99%的批量欺詐攻擊攔截在外，有效防范偽造信息、中介代辦、偽冒申請(qǐng)、多頭借貸、電信詐騙等風(fēng)險(xiǎn)?！?/p>

相較于處于整體環(huán)節(jié)末端的金融機(jī)構(gòu)，更前一步的，社交軟件有義務(wù)引入鑒偽機(jī)制，并實(shí)時(shí)對(duì)用戶進(jìn)行通話鑒真提醒，標(biāo)記對(duì)端用戶是否有行為異常、圖像偽造異常、聲音偽造異常。更早的風(fēng)險(xiǎn)提示信息，可以更有效地阻隔風(fēng)險(xiǎn)結(jié)果的發(fā)生。

除平臺(tái)方面的相關(guān)落地，公眾也可以采取一些自救措施，目前有一類技術(shù)可以保障用戶的數(shù)據(jù)不被用于換臉、變聲，這類技術(shù)叫對(duì)抗樣本技術(shù)。以人臉圖像為例，通過對(duì)該圖像混入肉眼不可見的對(duì)抗擾動(dòng)蒙版，可以使換臉技術(shù)失效。用戶可以使用該類技術(shù)對(duì)自己社交媒體公開的圖像、語(yǔ)音等媒體信息進(jìn)行對(duì)抗保護(hù)后再公開。

最后，“防范意識(shí)”是一切“魔法”的基石，公眾也需加強(qiáng)對(duì)于個(gè)人物品、信息的安全性保護(hù)。

“不要隨便點(diǎn)擊不明的短信鏈接、郵件鏈接等，不隨意掃描不明來(lái)源二維碼、下載APP，不輕易提供人臉等個(gè)人生物信息給他人，不輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息，不過度公開或分享動(dòng)圖、視頻等。”馮月建議。”無(wú)法保證手機(jī)等移動(dòng)設(shè)備不丟失，可以在平時(shí)定期清理微信聊天記錄，具有親近關(guān)系的人隱藏相關(guān)痕跡，將手機(jī)相冊(cè)加密、或者啟動(dòng)手機(jī)的數(shù)據(jù)保護(hù)功能等，這些日常行為都有可能將詐騙攔截在外。“

久久為功、循序漸進(jìn)。防范人工智能技術(shù)被“惡用”，仍將是數(shù)字化時(shí)代下的核心課題。