近期，許多手機(jī)廠商推出自研或接入第三方大模型的手機(jī)智能體，如超級(jí)小愛、藍(lán)心智能、Bixby等。這些智能體在大模型和人工智能（AI）技術(shù)支撐下，可以化身用戶“貼身助理”，自主完成點(diǎn)咖啡、群發(fā)微信紅包等操作。
“享受手機(jī)智能體帶來便利的同時(shí)，我們也要清醒地意識(shí)到，這種便利是通過讓渡個(gè)人隱私數(shù)據(jù)換來的。”北京信息科技大學(xué)計(jì)算機(jī)學(xué)院信息安全系主任、網(wǎng)絡(luò)空間安全學(xué)科副教授劉慧勇告訴記者，當(dāng)AI開始“接管”手機(jī)，“用隱私換便利”這一老問題便在新技術(shù)應(yīng)用場景中再次出現(xiàn)。如何保護(hù)用戶隱私，是手機(jī)智能體健康發(fā)展無法回避的議題。
無障礙功能暗藏風(fēng)險(xiǎn)
記者通過查閱多個(gè)手機(jī)智能體發(fā)布會(huì)發(fā)布的信息發(fā)現(xiàn)，此類智能體多以AI技術(shù)為核心，整合語音識(shí)別、自然語言處理以及多模態(tài)感知能力，具備信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能，實(shí)現(xiàn)了從基礎(chǔ)問答到主動(dòng)服務(wù)的跨越，手機(jī)儼然成了用戶的“貼身助理”。其中，少部分手機(jī)廠商通過內(nèi)置本地化端側(cè)大模型，進(jìn)一步提升了人機(jī)交互的自然流暢度。
“手機(jī)智能體的使用是建立在大量數(shù)據(jù)收集和使用基礎(chǔ)上的。為實(shí)現(xiàn)AI讀屏以及模擬點(diǎn)擊等功能，用戶往往需要開啟無障礙功能。”重慶大學(xué)計(jì)算機(jī)學(xué)院副教授李瑞遠(yuǎn)在接受記者采訪時(shí)說。
他解釋道，無障礙功能是安卓系統(tǒng)為殘障人士打造的一項(xiàng)專屬功能，包括讀屏、放大屏幕、自動(dòng)點(diǎn)擊、增強(qiáng)音頻、更改字幕等便捷操作，旨在讓殘障人士和普通人一樣使用智能手機(jī)。手機(jī)智能體要實(shí)現(xiàn)“接管”手機(jī)，需要用戶授權(quán)開啟無障礙服務(wù)權(quán)限，再借助AI讀屏功能，訪問手機(jī)全部應(yīng)用，并像人一樣獲取、理解、分析屏幕界面元素，包括銀行卡信息、特殊密碼鍵盤和聊天記錄。最終，模擬人的手指在手機(jī)上完成線上購物、轉(zhuǎn)賬、下載軟件等操作。
劉慧勇進(jìn)一步說，用戶一旦開啟無障礙功能，相當(dāng)于給手機(jī)安裝了一張萬能門禁卡。用戶在使用語音助手、智能推薦等功能時(shí)，手機(jī)智能體可無限制地獲取地理位置、應(yīng)用使用頻率、微信消息等隱私數(shù)據(jù)。部分手機(jī)智能體還會(huì)在用戶不知情的情況下，自動(dòng)開啟無障礙權(quán)限，“默默”收集用戶隱私數(shù)據(jù)。
“手機(jī)中的通訊錄、短信記錄、通話記錄等信息都屬于敏感信息。操作系統(tǒng)通常對(duì)其設(shè)權(quán)限保護(hù)機(jī)制，手機(jī)應(yīng)用需經(jīng)用戶顯示授權(quán)后才能獲取。”劉慧勇說，然而，當(dāng)用戶借助手機(jī)智能體完成語音發(fā)微信、一鍵發(fā)紅包等操作時(shí)，情況有所不同。此類操作需要跨應(yīng)用進(jìn)行捆綁授權(quán)，在此過程中，操作系統(tǒng)會(huì)開放短信或微信權(quán)限，以確保相關(guān)功能順利實(shí)現(xiàn)。
多方發(fā)力守護(hù)個(gè)人數(shù)據(jù)安全
“技術(shù)的便利性與隱私風(fēng)險(xiǎn)，是一對(duì)天然的矛盾。而行業(yè)標(biāo)準(zhǔn)和法律法規(guī)的出臺(tái)常常滯后于技術(shù)應(yīng)用。”劉慧勇認(rèn)為，當(dāng)前，手機(jī)智能體所收集、使用的數(shù)據(jù)流轉(zhuǎn)于手機(jī)終端廠商、智能體開發(fā)者、云服務(wù)商等多個(gè)主體間，其所有權(quán)、使用權(quán)和控制權(quán)歸屬難以界定。一旦發(fā)生數(shù)據(jù)泄露，由于追責(zé)鏈條長，難以有效溯源。
劉慧勇舉例，部分安全性不高的手機(jī)智能體，可能借助無障礙功能，在微信群中自動(dòng)發(fā)送紅包并誘導(dǎo)他人點(diǎn)擊，將資金轉(zhuǎn)入不法分子賬戶，造成用戶財(cái)產(chǎn)損失；抑或是將收集到的各類信息出售給第三方公司，造成算法歧視等。“由于技術(shù)規(guī)范和防護(hù)機(jī)制的缺乏，用戶即便遭受損失，也很難通過有效途徑挽回。”劉慧勇說。
對(duì)此，劉慧勇建議，手機(jī)廠商與操作系統(tǒng)平臺(tái)應(yīng)不斷完善相關(guān)技術(shù)，改善用戶數(shù)據(jù)處置流程，構(gòu)建更加智能化的內(nèi)部防御系統(tǒng)，防止智能體技術(shù)在演進(jìn)過程中出現(xiàn)隱蔽的數(shù)據(jù)濫用問題。
此外，李瑞遠(yuǎn)建議，手機(jī)廠商應(yīng)盡量提供支持端側(cè)AI的手機(jī)智能體應(yīng)用。云側(cè)AI雖然能提供更便利的服務(wù)，但用戶數(shù)據(jù)需頻繁上傳云端，隱私暴露風(fēng)險(xiǎn)較大。而端側(cè)AI支持?jǐn)?shù)據(jù)在手機(jī)等終端設(shè)備上進(jìn)行計(jì)算和處理，最大限度地減少數(shù)據(jù)傳輸，是一種“更私密”的技術(shù)解決方案。
西南政法大學(xué)民商法學(xué)院講師任龍龍說，技術(shù)的落地離不開法律法規(guī)的約束。當(dāng)前，《中華人民共和國民法典》以及《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等法律，包括2025年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》等法規(guī)，都對(duì)數(shù)據(jù)、個(gè)人信息、生成式AI等新興技術(shù)的使用進(jìn)行了規(guī)定。然而，手機(jī)智能體作為新興技術(shù)應(yīng)用，目前仍存在一些法律模糊地帶。
任龍龍建議，職能部門應(yīng)積極出臺(tái)相關(guān)政策、加大監(jiān)管力度，通過構(gòu)建更精細(xì)的法律規(guī)則體系，細(xì)化數(shù)據(jù)分類，清晰界定數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)等，避免出現(xiàn)惡意授權(quán)導(dǎo)致的隱私泄露事件。
“在相關(guān)技術(shù)和法規(guī)尚未完善的情況下，用戶應(yīng)增強(qiáng)安全防范意識(shí)。”任龍龍說，在使用手機(jī)智能體時(shí)，消費(fèi)者應(yīng)謹(jǐn)慎開啟無障礙功能，關(guān)閉智能體免密支付授權(quán)功能，定期查看手機(jī)隱私報(bào)告，及時(shí)發(fā)現(xiàn)并處理智能體的異常行為。
