當前位置:舉報首頁 > 網絡安全知識>

聲音合成、換臉、轉發微信語音……AI詐騙防不勝防

來源:法制日報 作者: 2019-07-26 17:53:42

最近,2019防范治理電信網絡詐騙論壇在中國互聯網大會期間舉行。

據論壇內容顯示,機器學習、人工智能、大數據等熱點技術已被犯罪分子用于實施詐騙。比如上游黑產利用機器學習、人工智能,突破互聯網企業的驗證碼體系,或是利用人工智能技術惡意注冊,獲取號碼資源,提供給犯罪分子實施詐騙。

隨著科技的進步,花樣翻新的電信網絡詐騙令人防不勝防。

“技術一直以來都是雙刃劍,我們在享受技術帶來便利、新奇的同時,也會面臨技術被濫用帶來的風險。”中國傳媒大學政法學院法律系副主任鄭寧說。

詐騙手段不斷翻新

四種形式防不勝防

隨著技術的更新,詐騙手段也不斷翻新,那么AI詐騙主要有什么方式呢?

對此,鄭寧總結了四種AI詐騙形式,并詳細介紹了其中的原理。

據鄭寧介紹,第一種是轉發微信語音。騙子通過盜取微信號,然后提出轉賬要求,多數人會選擇要求對方語音回復,這時騙子會轉發之前的語音,從而獲取信任,進而獲得錢款。雖然目前微信語音是不能轉發的,但騙子可以通過提取語音文件或者安裝增強版微信(一般是基于xposed框架的插件),實現轉發語音。

“對于這種詐騙形式,群眾只需提高警惕,直接電話聯系,即可識破騙局。此外,即使要求對方語音回復,也可提出具體的要求,比如要求對方提供身份信息、說明轉賬原因等,避免騙子利用之前的語音蒙混過關。”鄭寧說。

鄭寧談到的第二種騙術是聲音合成。具體的操作是騙子通過騷擾電話等錄音來提取某人聲音,獲取素材后進行聲音合成,從而可以用偽造的聲音騙過對方。

鄭寧說,通過神經網絡和機器學習技術可以達到合成聲音的效果。第一個利用神經網絡生成人類自然語音的,就是DeepMind的WaveNet。WaveNet(波網)是一個用于生成原始音頻的深度神經網絡。它是由倫敦人工智能公司DeepMind的研究人員創建的。此技術通過使用用真實語音記錄訓練的神經網絡方法直接模擬波形,能夠生成聽起來相對真實的類人聲音。

據了解,2016年,谷歌在加拿大蒙特利爾大學建立的人工智能實驗室(MILA)。基于聲音合成技術,MILA在2017年4月成立了Lyrebird公司。在其網站DEMO部分,可以聽到官方合成的足以以假亂真的特朗普以及奧巴馬的聲音。美國有位記者用機器合成的句子和家里人打電話做實驗,他的家人完全分不清楚真假。

“合成的聲音有明顯的痕跡,但WaveNet可以把合成痕跡明顯的機器語音,轉換成更加流暢自然的語音,與人類聲音之間的差異大幅降低,目前在鬼畜視頻界做得風生水起。而Lyrebird則更進一步,它可以基于音色、音調、音節、停頓等多種特征,來定義某個人的聲音,然后生成更加擬真的聲音。”鄭寧說。

鄭寧補充說,第三種是AI換臉。視頻通話的可信度明顯高于語音和電話,但利用AI換臉,騙子可以偽裝成任何人。第四種是通過AI技術篩選受騙人群,通過分析公眾發布在網上的各類信息,騙子會根據所要實施的騙術對人群進行篩選,從而選出目標人群。例如實施情感詐騙時,可以篩選出經常發布感情信息的人群;實施金融詐騙時,可以篩選出經常搜集投資信息的人群。

對此,中國人民大學法學院教授劉俊海說:“AI技術用于詐騙已經不是新鮮事,因為任何技術一旦出現,不法分子就會想到利用新技術來實施犯罪。”

加強個人信息保護

提高警惕防范詐騙

詐騙手法在不斷翻新,那么廣大群眾該如何預防,防止被騙呢?

鄭寧提出了兩點建議。第一是驗證,提高警惕是防范詐騙的最好方式,在涉及錢款時,群眾要提高安全意識,通過電話、視頻等方式確認對方是否為本人,在不能確定真實身份時,可將到賬時間設定為“2小時到賬”或“24小時到賬”,以預留處理時間。此外,可以選擇向對方銀行匯款,避免通過微信等社交工具轉賬。因微信等工具均會綁定銀行卡,向對方銀行卡轉賬,一方面便于核實對方信息,確認錢款去向;另一方面,對方能通過短信通知得知轉賬信息,此外,即使是本人操作,也不影響對方提取錢款。

“第二是保護個人信息,注重隱私保護。社交平臺的發展加大了保護個人信息的難度,民眾將越多的個人信息暴露在網絡上,遭受詐騙的概率越高。實施詐騙需要獲取當事人的個人信息,網絡共享加上AI技術,騙子搜集整理當事人的個人信息更為便捷。因此,為避免騙子借用個人信息實施詐騙,民眾應當加強個人信息保護意識,以防止騙子利用AI技術掌握大量個人信息并對人物性格、需求傾向等進行刻畫,從而有針對性地實施詐騙。”鄭寧說。

在劉俊海看來,預防被騙的關鍵就是人們要提高自我保護意識,不要過于輕信網絡上的信息,而且不要抱有僥幸心理,時刻記住天上不會掉餡餅,地上卻會有陷阱。

即使人們時刻小心著被騙,但詐騙卻一直存在,讓人防不勝防,那么在日常生活中人們該如何防范呢?

對此,鄭寧說,首先是相互提示,共同預防。親戚朋友間要互相提示,相互宣傳,因中老年人被騙較多,青年人要及時做好家中老人的宣傳防范工作,提醒、告誡老年人接到電話、收到短信,只要是不認識、不熟悉的人和事,均不要理睬,以免被誘被騙。

“其次是拒絕誘惑,民眾應當避免占便宜心理,警惕陌生人提供的好處;再次是謹慎處理金錢交易,無法確認對方身份時,拒絕交易;最后是保護網絡賬號及密碼、手機號、身份證、家庭住址、親屬關系等個人敏感信息,不隨意提供上述敏感信息。”鄭寧說。

充分利用人工智能

提升反詐騙精準度

對于這種利用新技術的詐騙該如何整治?

鄭寧提出了四條監控整治建議:第一,即時通信、網絡社交等平臺企業應當加強賬戶管理,防止他人盜用用戶賬號及密碼,建立風險提示制度,出現賬號異常登錄等情況時對用戶進行風險提示;第二,利用以大數據分析和智能預警算法為基礎的AI技術進行反網絡詐騙,在工信部等部門的主導下,利用大數據優勢,將相關數據通過反詐騙機制進行共享,進而提高反詐騙的精準度;第三,建立專門人工智能安全機構,制定人工智能標準,對AI技術進行管理和監督,監督AI技術在不同領域內的應用;第四,采取措施保證人工智能系統使用的數據被合理限制、管理和控制,以此來保護隱私權,在保護數據安全的情況下,不禁止利用AI技術造福公眾。

同時,劉俊海也提出了自己的建議。他說,希望監管部門和司法機關要善于駕馭使用AI技術,并且關注公眾反映最突出的問題。

“消費者反映的最集中、最突出的問題,往往是監管機關、司法機關在監管和執法當中的漏洞和盲區。規范監管就應當致力于消除監管漏洞、盲區以及真空地帶,真正打造一個信息共享、快捷高效、無縫對接、有機銜接的預防合作機制。”劉俊海說。

科技的發展雖然會給人們的生活水平帶來便利,但同時也會出現許多問題,那么應當如何減少科技發展所帶來的安全隱患?

鄭寧分析稱,科技發展與人民生活是相輔相成的,科技發展使得人民生活質量有了極大的提高,因此應當大力促進科技發展。但也要認識到科技的兩面性,科技發展的同時也會產生一些負面影響,應當清楚認識并接受這一點,從而更加理性地看待科技發展,也有助于采取積極措施應對科技發展的負面影響。

在鄭寧看來,正如AI技術可以被用于詐騙,也可以被用于反詐騙。利用技術的方式不同,帶來的影響也不同。因此,在面對一項技術時,不僅要關注技術本身,更要關注技術的用途,將技術用于提高生活質量。(記者韓丹東 實習生姜珊)

(原標題:如何降低技術被濫用帶來的風險


黄金历史数据下载