警惕人臉識別背後的“盲區”

　　刷臉一時快，問題卻不少。

 

　　人臉識別技術開始在很多場景落地，相應的紛爭也接踵而至。

 

　　2019年10月，杭州一位消費者因當地野生動物園要求消費者刷臉入園，將動物園告上法庭，被稱為“中國人臉識別第一案”。

 

　　近日，南都個人資訊保護研究中心發佈了《人臉識別落地場景觀察報告》，揭開目前我國人臉識別應用背後的“盲區”。

 

 

　　2019年10月，南都個人資訊保護研究中心人工智慧倫理課題組成員來到位於北京朝陽區和豐台區兩個公租房小區，對該小區的人臉識別系統進行實地測試。

 

　　當課題組成員嘗試拍攝小區居民照片後，把手機照片對準居民樓下的人臉識別機器時，機器裏傳出了一聲清脆的“門鎖已開、您請進”。隨之而來的是樓道門打開，課題組成員輕而易舉地走了進去。

 

　　因價格便宜，公租房長期存在違規轉租轉借現象，這一直是管理者頭疼的問題。2019年1月，北京市住建委發佈《關於進一步加強公共租賃住房轉租轉借行為監督管理工作的通知》，提出納入北京市保障房建設計劃的公租房項目應全面採用人臉識別、智慧門鎖等技術，強化人臉識別等技術措施與門禁相結合，實現非承租家庭成員不得隨意進入樓棟單元門。

 

　　課題組成員挑選了幾個公租房小區進行測試。他們發現，有的小區人臉識別安全技術不過關。“我們使用的其實並不是高清照片。”課題組成員馮群星表示。目前，人臉識別技術可以大致分為2D和3D識別技術，前者通過2D攝像頭成像，後者通過3D攝像頭立體成像。

 

　　一般而言，3D技術的安全性高，但成本也高。有專家表示，用照片能夠刷開的基本是2D人臉識別設備和普通攝像頭，這種情況可通過更換成紅外雙目攝像頭、加入改良演算法等方式來避免虛假照片的攻擊。

 

　　除了安全問題，馮群星和同事還發現，有的小區的人臉識別技術設備對殘障人士“不友好”。在一些小區大門口，人臉識別閘機的攝像頭高度約為1.2~1.6米，一般人可正常通行，但坐輪椅的殘障人士就很難達到攝像頭的高度，“這些問題也跟北京市公租房相關管理部門反映了，他們非常重視，目前在查實和整改這些問題了”。

 

　　走出社區，課題組成員還走進了校園、商場、公共廁所等場所，體驗人臉識別設備的便利性和安全性。

 

　　在北京，課題組成員發現，人臉識別進校園雖然沒有被廣泛宣傳，但普及程度並不低。一些學校把人臉識別系統用於門禁、課堂考勤以及監測課程品質。有學生表示，目前自己所在的學校課堂的人臉識別系統能檢測出學生的抬頭率和前排就坐率，從而監測老師的課程品質。但也有學生擔憂，這樣的技術涉嫌侵犯自己的隱私。

 

　　課題組成員發現，在教育領域，目前一些教育機構在宣傳資料中聲稱可通過人臉識別掌握學生情緒。課題組成員以家長身份暗訪時，一家教育機構的一位老師發來視頻，在視頻中，後臺系統可隨時檢測學生的情緒，並向老師發出“孩子似乎不高興”等提醒。

 

　　課題組成員還實地走訪了應用人臉識別技術的北京兩家商城。其中一家商城通過人臉識別記錄顧客的消費軌跡，如果導遊帶來的顧客有消費，則導遊可獲得返利。然而，這些並未徵得顧客的同意，多位顧客告訴研究員，並不知道自己被刷臉、行蹤被記錄。

 

　　位於西單的一家商場利用入口處的人臉識別攝像頭來統計客流量。相關工作人員稱該系統只統計數據，不儲存顧客照片。課題組成員認為，目前人臉識別在商場場景下的主要問題是，沒有向顧客做到充分告知並徵得知情同意。

 

 

　　除了實地調研，課題組還進行了線上問卷，主要調查了公眾對於人臉識別的態度，包括用到人臉識別以後是否更方便、更安全，收回有效樣本6154份。

 

　　問卷數據顯示，半數以上受訪者遇到過人臉識別不出的問題，其中，公租房、交通、校園、商場和其他場景下的比例分別為59.33%、59.86%、63.28%、58.87%和60.33%。

 

　　有受訪者反饋，帽子、眼鏡、化粧、光線、角度等因素都會影響人臉識別的準確率。還有受訪者表示，人臉識別顯示屏上沒有提示，不知道該把臉放在哪個位置，掌握不好距離攝像頭的遠近。

 

　　在公租房、商場、校園等多個場景下，均有六成以上的受訪者認為有人臉識別更安全，不過，也有不少受訪者表示擔心人臉識別數據洩露。其中，79.31%的受訪者擔心把人臉數據交給運營者之後，運營者沒有足夠能力保證數據不洩露。65.17%的受訪者擔心換臉視頻等網路虛假資訊增多，49.57%的受訪者擔心不法分子利用偽造資訊實施詐騙或盜刷。

 

　　在透明度上，近半數受訪者表示沒有簽署隱私政策或不確定是否簽署了隱私政策，四成以上的受訪者表示不知道自己的人臉數據怎樣被儲存。當被問及是否希望可以查看到自己被存儲資訊的情況並有刪除的渠道時，83.37的受訪者選擇的是“是”，呈現壓倒性佔比。

 

　　網路安全法明確網路運營者收集、使用個人資訊，應當遵循合法、正當、必要的原則，公開收集、使用規則，明示收集、使用資訊的目的、方式和範圍，並經被收集者同意。

 

　　課題組成員認為，人臉識別技術落地速度快，場景多，但刷臉應用是否正當必要值得考慮。在技術應用過程中，需要充分採納公眾意見，論證應用的正當性和必要性。在系統設計中，應引入更多人性化的考量。“人臉識別是一種新技術，人臉識別由趨勢變成基礎設施的時候，應該考慮到社會的弱勢群體，而不是造成新的社會不公平。”

 

　　報告建議，政府部門加強相關立法，規定人臉識別的準入場景、準入條件，明確企業的資質，明確一旦違規應該接受何種處罰。

 

　　2019年伊始，中央網信辦、工信部、公安部、市場監管總局四部門聯合發佈《關於開展App違法違規收集使用個人資訊專項治理的公告》，並於2019年在全國範圍組織開展App違法違規收集使用個人資訊專項治理，拉開了個人資訊收集與使用的強監管序幕。

 

　　對於人臉識別技術的監管，App專項治理工作組副組長洪延青認為，還是要先區分技術的不同用途，再考慮用不同的法律框架去規範。在工作中，洪延青發現，目前人臉識別技術至少有六種用途，計數、識別、認證、監控、偽造和窺探。在計數上，企業用人臉識別技術通常是為了計算使用某個産品的使用數量，不涉及到認證功能，對於這種用途，是否需要人臉特徵才能達到計數的目的，洪延青覺得，很有必要進一步探究，“殺雞要不要用牛刀？”

 

　　在識別和認證用途上，人臉識別技術一般識別一個人是誰，然後通過認證，甚至是與數據庫進行匹配來推送一些資訊給商家。洪延青認為，在這種情況下可以採用個人資訊保護框架來進行規制。對視頻變臉、偽造這類行為，可以依據肖像權的相關法規進行規範，對於窺探這類行為，應該放在人格權、隱私權的相關範疇，進行規範。（寧迪）