犯罪分子利用AI技術實施詐騙專家支招

如何降低技術被濫用帶來的風險

□　本報記者 　韓丹東

□　本報實習生 姜 珊

最近，2019防范治理電信網絡詐騙論壇在中國互聯網大會期間舉行。

據論壇內容顯示，機器學習、人工智能、大數據等熱點技術已被犯罪分子用于實施詐騙。比如上游黑產利用機器學習、人工智能，突破互聯網企業的驗證碼體系，或是利用人工智能技術惡意注冊，獲取號碼資源，提供給犯罪分子實施詐騙。

隨著科技的進步，花樣翻新的電信網絡詐騙令人防不勝防。

“技術一直以來都是雙刃劍，我們在享受技術帶來便利、新奇的同時，也會面臨技術被濫用帶來的風險。”中國傳媒大學政法學院法律系副主任鄭寧說。

詐騙手段不斷翻新

四種形式防不勝防

隨著技術的更新，詐騙手段也不斷翻新，那么AI詐騙主要有什么方式呢?

對此，鄭寧總結了四種AI詐騙形式，并詳細介紹了其中的原理。

據鄭寧介紹，第一種是轉發微信語音。騙子通過盜取微信號，然后提出轉賬要求，多數人會選擇要求對方語音回復，這時騙子會轉發之前的語音，從而獲取信任，進而獲得錢款。雖然目前微信語音是不能轉發的，但騙子可以通過提取語音文件或者安裝增強版微信(一般是基于xposed框架的插件)，實現轉發語音。

“對于這種詐騙形式，群眾只需提高警惕，直接電話聯系，即可識破騙局。此外，即使要求對方語音回復，也可提出具體的要求，比如要求對方提供身份信息、說明轉賬原因等，避免騙子利用之前的語音蒙混過關。”鄭寧說。

鄭寧談到的第二種騙術是聲音合成。具體的操作是騙子通過騷擾電話等錄音來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

鄭寧說，通過神經網絡和機器學習技術可以達到合成聲音的效果。第一個利用神經網絡生成人類自然語音的，就是DeepMind的WaveNet。WaveNet(波網)是一個用于生成原始音頻的深度神經網絡。它是由倫敦人工智能公司DeepMind的研究人員創建的。此技術通過使用用真實語音記錄訓練的神經網絡方法直接模擬波形，能夠生成聽起來相對真實的類人聲音。

據了解，2016年，谷歌在加拿大蒙特利爾大學建立的人工智能實驗室(MILA)。基于聲音合成技術，MILA在2017年4月成立了Lyrebird公司。在其網站DEMO部分，可以聽到官方合成的足以以假亂真的特朗普以及奧巴馬的聲音。美國有位記者用機器合成的句子和家里人打電話做實驗，他的家人完全分不清楚真假。

“合成的聲音有明顯的痕跡，但WaveNet可以把合成痕跡明顯的機器語音，轉換成更加流暢自然的語音，與人類聲音之間的差異大幅降低，目前在鬼畜視頻界做得風生水起。而Lyrebird則更進一步，它可以基于音色、音調、音節、停頓等多種特征，來定義某個人的聲音，然后生成更加擬真的聲音。”鄭寧說。

鄭寧補充說，第三種是AI換臉。視頻通話的可信度明顯高于語音和電話，但利用AI換臉，騙子可以偽裝成任何人。第四種是通過AI技術篩選受騙人群，通過分析公眾發布在網上的各類信息，騙子會根據所要實施的騙術對人群進行篩選，從而選出目標人群。例如實施情感詐騙時，可以篩選出經常發布感情信息的人群;實施金融詐騙時，可以篩選出經常搜集投資信息的人群。

對此，中國人民大學法學院教授劉俊海說：“AI技術用于詐騙已經不是新鮮事，因為任何技術一旦出現，不法分子就會想到利用新技術來實施犯罪。”

加強個人信息保護

提高警惕防范詐騙

詐騙手法在不斷翻新，那么廣大群眾該如何預防，防止被騙呢?

鄭寧提出了兩點建議。第一是驗證，提高警惕是防范詐騙的最好方式，在涉及錢款時，群眾要提高安全意識，通過電話、視頻等方式確認對方是否為本人，在不能確定真實身份時，可將到賬時間設定為“2小時到賬”或“24小時到賬”，以預留處理時間。此外，可以選擇向對方銀行匯款，避免通過微信等社交工具轉賬。因微信等工具均會綁定銀行卡，向對方銀行卡轉賬，一方面便于核實對方信息，確認錢款去向;另一方面，對方能通過短信通知得知轉賬信息，此外，即使是本人操作，也不影響對方提取錢款。

“第二是保護個人信息，注重隱私保護。社交平臺的發展加大了保護個人信息的難度，民眾將越多的個人信息暴露在網絡上，遭受詐騙的概率越高。實施詐騙需要獲取當事人的個人信息，網絡共享加上AI技術，騙子搜集整理當事人的個人信息更為便捷。因此，為避免騙子借用個人信息實施詐騙，民眾應當加強個人信息保護意識，以防止騙子利用AI技術掌握大量個人信息并對人物性格、需求傾向等進行刻畫，從而有針對性地實施詐騙。”鄭寧說。

在劉俊海看來，預防被騙的關鍵就是人們要提高自我保護意識，不要過于輕信網絡上的信息，而且不要抱有僥幸心理，時刻記住天上不會掉餡餅，地上卻會有陷阱。

即使人們時刻小心著被騙，但詐騙卻一直存在，讓人防不勝防，那么在日常生活中人們該如何防范呢?

對此，鄭寧說，首先是相互提示，共同預防。親戚朋友間要互相提示，相互宣傳，因中老年人被騙較多，青年人要及時做好家中老人的宣傳防范工作，提醒、告誡老年人接到電話、收到短信，只要是不認識、不熟悉的人和事，均不要理睬，以免被誘被騙。

“其次是拒絕誘惑，民眾應當避免占便宜心理，警惕陌生人提供的好處;再次是謹慎處理金錢交易，無法確認對方身份時，拒絕交易;最后是保護網絡賬號及密碼、手機號、身份證、家庭住址、親屬關系等個人敏感信息，不隨意提供上述敏感信息。”鄭寧說。

充分利用人工智能

提升反詐騙精準度

對于這種利用新技術的詐騙該如何整治?

鄭寧提出了四條監控整治建議：第一，即時通信、網絡社交等平臺企業應當加強賬戶管理，防止他人盜用用戶賬號及密碼，建立風險提示制度，出現賬號異常登錄等情況時對用戶進行風險提示;第二，利用以大數據分析和智能預警算法為基礎的AI技術進行反網絡詐騙，在工信部等部門的主導下，利用大數據優勢，將相關數據通過反詐騙機制進行共享，進而提高反詐騙的精準度;第三，建立專門人工智能安全機構，制定人工智能標準，對AI技術進行管理和監督，監督AI技術在不同領域內的應用;第四，采取措施保證人工智能系統使用的數據被合理限制、管理和控制，以此來保護隱私權，在保護數據安全的情況下，不禁止利用AI技術造福公眾。

同時，劉俊海也提出了自己的建議。他說，希望監管部門和司法機關要善于駕馭使用AI技術，并且關注公眾反映最突出的問題。

“消費者反映的最集中、最突出的問題，往往是監管機關、司法機關在監管和執法當中的漏洞和盲區。規范監管就應當致力于消除監管漏洞、盲區以及真空地帶，真正打造一個信息共享、快捷高效、無縫對接、有機銜接的預防合作機制。”劉俊海說。

科技的發展雖然會給人們的生活水平帶來便利，但同時也會出現許多問題，那么應當如何減少科技發展所帶來的安全隱患?

鄭寧分析稱，科技發展與人民生活是相輔相成的，科技發展使得人民生活質量有了極大的提高，因此應當大力促進科技發展。但也要認識到科技的兩面性，科技發展的同時也會產生一些負面影響，應當清楚認識并接受這一點，從而更加理性地看待科技發展，也有助于采取積極措施應對科技發展的負面影響。

在鄭寧看來，正如AI技術可以被用于詐騙，也可以被用于反詐騙。利用技術的方式不同，帶來的影響也不同。因此，在面對一項技術時，不僅要關注技術本身，更要關注技術的用途，將技術用于提高生活質量。