“幫我點份附近的午餐”“幫我創建一個面對面的群聊,數字為××××,並將群聊的名字改成××××”……隨著手機智慧助手的出現,用戶只需説出心中所想,就能輕鬆調用各類第三方App,自動完成打車、導航、點餐、寫評論、發微信等各種任務。
這極大地簡化了手機操作流程,讓生活變得輕鬆又高效,因而贏得了大量用戶的青睞。但與此同時,關於資訊暴露、隱私裸奔以及安全隱患的質疑聲也不絕於耳。
接受《法治日報》記者採訪的專家介紹,不少手機智慧助手主要通過AI多模態大模型,在繞過第三方App授權的基礎上,以識屏+模擬點擊的方式來實現各種功能。所謂識屏,就是對手機螢幕進行截屏,然後理解、分析螢幕內容;而模擬點擊則是利用手機系統的“無障礙許可權”,識別當前螢幕中的按鈕坐標,繞過第三方App授權直接點擊,操作其內部功能。
“這種方式雖然實現了便捷的操作,但也帶來了巨大的隱私風險,如遭遇駭客攻擊、用戶數據洩露、轉移賬號資金等。”有專家指出。
存在隱私裸奔風險
記者嘗試發現,有的手機智慧助手需要用戶授權開啟無障礙服務許可權,有的則默認開啟無障礙服務,更有甚者,沒有提供關閉無障礙開關的選項。
據了解,無障礙服務,是安卓系統為殘障人士精心打造的一項貼心功能,旨在讓他們也能像普通人一樣便捷地使用智慧手機。通過這項服務,視障人士可以借助螢幕閱讀器“聽”到螢幕上的文字資訊,從而實現與手機的交互;行動不便的人士則可以利用自動點擊等功能,減少手動操作的困難。
根據安卓無障礙服務的介紹,無障礙服務主要包括使用螢幕閱讀器(即讀屏)、更改顯示設置(如放大螢幕、顏色反轉)、互動控件(如開關控制、自動點擊)、音頻和字幕(如聲音增強器、更改字幕格式)等。
這也意味著,無障礙服務可以監控手機上的全部應用,獲取螢幕上所有的界面元素。
北京市君益誠律師事務所合夥人楊子江介紹,用戶一旦開啟無障礙服務,手機螢幕上的所有資訊就會被手機智慧助手獲取,包括個人身份、聊天記錄、地址乃至密碼框內輸入的內容。再加上無障礙服務的自動點擊功能,用戶的資金安全也可能岌岌可危。“這就像是在手機上開了一個‘後門’,他人可以隨便進出,也可以順手牽羊。”
“在智慧助手以前,無障礙服務除了輔助殘障人士,另一大用途實際上是在木馬、外挂等非法軟體上。一般來説,木馬軟體會偽裝成正常App,誘導用戶在下載後開啟無障礙服務。一旦開啟,木馬軟體就會監控頁面和鍵盤情況,竊取支付密碼。隨後木馬軟體會隨時觀察用戶是否在使用手機(是否鎖屏),如果一段時間未使用,木馬軟體就會自動點開錢包軟體、轉走資金。”楊子江説。
在北京潞豐律師事務所合夥人黃艷看來,無障礙許可權雖然能為有特殊需求的群體提供實質性的幫助,但對於普通用戶來説,還是應謹慎開啟此類許可權,因為系統對這些功能的調用限制相對較少,理論上它幾乎可以執行所有的螢幕操作,容易引發數據濫用或過度採集資訊的問題,給用戶財産安全與個人隱私帶來風險,還可能造成不正當競爭等市場秩序問題。
謹慎授予相關許可權
據了解,手機智慧助手高度依賴雲端大模型,大量的用戶指令理解、截屏後識別螢幕的工作,不是在手機內完成,而是傳輸到雲端處理。
對此,楊子江直言,這可能會帶來更大的安全隱患,大量用戶數據被手機廠商獲取。這和所謂的“端側大模型”相悖,也加大了數據洩露的風險。而且手機大模型的訓練需要大量的用戶數據,手機廠商是否會把截屏來的用戶數據投喂給大模型做訓練,投喂前是否經過了妥善的數據脫敏,用戶也無從得知。
楊子江説,用戶如果需要使用手機智慧助手,應當注意充分了解開啟無障礙服務後使用智慧助手的網路安全風險;仔細閱讀手機內智慧助手相關的隱私政策,了解被蒐集的數據範圍、用途和存儲路徑;在使用時密切關注智慧助手的動向,避免誤操作;在使用後儘快關閉無障礙服務;涉及支付、轉賬等場景時儘量避免讓智慧助手輔助操作,關閉智慧助手能調用的App免密支付。
黃艷説,用戶在使用手機助手時應當謹慎授予無障礙許可權,注意授權許可權,仔細閱讀相關服務協議、隱私政策,並定期審查已授權的應用列表、賬戶設置中的隱私選項,及時撤銷不再需要或可疑的應用許可權、刪除不必要的賬戶和數據,保持作業系統和應用程式的更新,使用加密和匿名工具等,理性使用社交媒體資訊分享,以減少潛在威脅。
完善立法加強監管
在楊子江看來,手機智慧助手的推廣使用,需要經過App和消費者的雙重同意。手機智慧助手應與其調用的App合作,從該App提供的介面調用和啟動操作,配合App的安全管控措施;並向消費者清晰告知其使用相關許可權及是否可能存在數據洩露和安全風險。
楊子江説,為了確保消費者能夠真正理解並自願同意手機智慧助手系統軟體的用戶協議和隱私政策,從而有效地行使對個人資訊的控制權,應當對消費者資訊的告知同意規則採取改進措施,提升告知同意流程的透明度和有效性。
“首先是明確手機智慧助手系統軟體的告知內容。需以簡潔明瞭的語言制定用戶隱私政策,並突出顯示關鍵資訊,如處理個人資訊的主體、第三方共用情況、資訊使用目的等。對於敏感個人資訊,應在隱私政策中特別標注,並在每次收集時通過彈窗等形式明確獲得用戶同意。”楊子江説。
其次是優化用戶的同意機制,採用明示同意方式,即用戶通過主動點擊“同意”按鈕來表達對隱私政策的認可。可以考慮引入電子簽名作為同意方式,以增強用戶對其授權行為的重視。同時,根據資訊敏感度的不同,可以採取差異化的同意策略,對於高度敏感的個人資訊,則始終需要用戶的明確同意。
黃艷説,手機智慧助手在使用過程中涉及手機廠商、第三方大模型公司、App、雲服務等眾多主體,數據在不同主體間流動,導致各方在用戶隱私保護和數據安全上的責任關係難以區分,給監管帶來挑戰。雖然一些手機廠商已經在保護個人資訊、化解用戶隱憂上進行了一定程度的完善,但仍然存在數據用途説明不夠清晰、普通用戶難以充分認知隱私政策及潛在安全隱患、難以避免第三方濫用無障礙許可權的風險等問題。
此外,現有監管法律法規如網路安全法、數據安全法、個人資訊保護法、《網路數據安全管理條例》等雖然對新興技術的數據處理活動作出了特殊規定,但在新技術應用初期,難免會存在一些模糊地帶,仍然存在法律規制滯後的問題。
楊子江説,從市場環境和競爭的角度看,手機AI助手還可能涉嫌不正當競爭。第三方App的流量入口轉移到AI助手,而且App本身的開屏廣告、用戶使用時長等營利機制均受到干擾,這很可能有損App廠商的利益。
“AI助手未經授權利用現有App的功能去開展服務,如同寄生在這些App上搭便車,競爭秩序也可能因此被扭曲。為確保合規,宣稱第三方App零適配的AI智慧體廠商,同樣有必要獲得第三方App公司的授權。”楊子江説。
黃艷説,手機智慧助手推廣使用的健康發展,離不開技術更新、行業自律、完善監管等方面的協同治理。一方面,企業應當加強技術研發,完善用戶數據處置流程的合法合規性,構建更加智慧化的內部防禦系統,實時監測和攔截潛在的網路攻擊和數據洩露風險,提高用戶數據的安全性和隱私保護水準。另一方面,職能部門應積極出臺相關政策、加大法律規制和監管力度,厘清手機廠商、第三方大模型公司、App、雲服務等各方在用戶數據安全保密方面應承擔的責任,防範應對智慧手機助手使用帶來的隱私洩露風險。
(責任編輯:張紫祎)