當前位置: 中國教育 > 滾動新聞 >

人臉識別技術進校園 教育部:加以限制、管理

來源: 中國青年報 | 作者: | 時間: 2019-09-12 | 責編: 徐虹

原標題:校園拒絕攝像頭

最近,一些能夠識別人臉的攝像頭翻進國內學校的院墻,備受輿論指摘。不管學生是蹺課,還是上課打瞌睡、玩手機都逃不過這個人臉識別系統的“法眼”。這雙冷酷之眼喚起了許多人對曾經高中班主任無處不在的恐懼,更掀起了關於教育初衷的大討論。

同一個世界,同一種擔憂。近日,瑞典一所高中使用人臉識別系統記錄學生的出勤,學校董事會被認為對學生個人資訊的處理不符合歐盟《通用數據保護條例》(GDPR)的規定。 瑞典數據監管機構對當地一所高中開出一張金額為20萬瑞典克朗(約合人民幣14.7萬元)的罰單。

而在美國紐約州北部的洛克波特市,當地一所學校本預計從今年9月開始使用人臉識別系統,用140萬美元的國家補助金安裝數十個監控攝像頭,對潛在罪犯進行監測。這項計劃也被美國教育部叫停。

事實上,人臉識別系統早在城市管理中就被廣泛應用。警察用它們比對犯罪分子和失蹤人員,交警用它們監控交叉路口,以捕捉超速和違反交規的汽車。去年,國內警方依靠人臉識別技術在張學友演唱會上抓捕約60名犯罪嫌疑人或在逃人員,還一度成為人們津津樂道的話題。

但自人臉識別技術誕生之日起,人們對這項技術的擔憂從未停止。在每個公園、街道攝像頭下甚至許多看不見的地方,你無法預知哪一刻你的表情會被無聲狩獵,更不知這些數據存儲時長、位置和使用用途,潛在安全風險難以評估。

今年5月,美國舊金山監事會以絕對多數的投票結果,決定禁止舊金山警方使用人臉識別軟體來搜尋罪犯。高新科技公司眾多的這座城市,成為美國第一個推出人臉識別禁令的城市。不久後,馬薩諸塞州的薩默維爾市議會也通過了禁止在公共場所使用面部識別軟體的法令。

當人臉識別技術進入校園,則變成一個更加嚴峻的問題。

安全本是人臉識別技術在校園應用的最初方向。在美國一些校園槍擊事件頻發的地方,人臉識別系統已經順理成章地進入校園。

今年,位於美國底特律市的直布羅陀公立學校,專門斥鉅資引入新型數字安保錄影機,可以讓管理員和當地警察監控學校入口、走廊和其他區域,以防持槍分子潛入。這個學校的安全委員會負責人自豪地表示:“在採取措施讓學生更安全時,我們從來沒有遇到任何阻礙。”

該區學校向家長寫信稱,他們將監視重點放在“性犯罪者,被停學的學生,被停職或休假的員工等”,並承諾視頻片段將保留60天,之後將從伺服器中刪除,“不會記錄任何其他地區學生、工作人員或訪客的行動”。

但這項承諾並沒有讓擔憂者放心。在美國,任何年齡學生的生物識別數據均受《家庭教育權和隱私權法案》的約束,該法旨在保護學生教育記錄的隱私。而洛克波特市區學校的這項應用,讓紐約大學教育學院的教育顧問斯蒂芬妮·科伊爾感覺,“這正在向孩子們傳遞這樣的資訊,他們是不可預測的潛在罪犯”。她和其他人聯合致函紐約州教育部,反對在學校使用這項技術。“學生應該把學校視為一個值得好好學習的地方,他們不應該擔心他們的每一個舉動都受到監控。”

而另一些反對者認為,洛克波特市區學校尚未發佈關於引進的人臉識別系統準確性的任何數據。“當系統出錯時,誰在被監控列表中並不重要。”一位法律隱私顧問説,“如果一個進入攝像頭的人被錯認成威脅者遭到誤會,下一步補救措施是什麼?”

當是否應該使用人臉識別系統維護校園安全尚在激烈辯論階段時,用它來保證出勤率和提高聽課效率則同引發更大的爭議。

在瑞典數據監管機構認為,在日常環境中對學生進行攝像監控等行為侵犯了學生的隱私。因為學校統計學生出勤率完全可以通過其他方式完成,而這些方式都比人臉識別技術對學生權益的侵害要小得多。

更何況,人臉識別技術對情緒的識別尚處於研究階段。賓夕法尼亞州立大學的一個研究小組進行研究發現,機器在識別人類情感時,人體可能比面部更具參考性。一位研究員表示,“我們發現根據肢體語言解釋情緒很複雜,即使人類也存在許多不一致之處。”何況在目前機器有限的識別能力範圍內,要做到對學生上課時的表情精確分析,仍為時尚早。

更重要的是,教育本就是一套教學相長的系統工程。人臉識別技術的濫用會讓人人自危。

在中國學校使用人臉識別技術的消息曝出兩天后,教育部科學技術司司長雷朝滋在接受記者採訪時表示,“(對於人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟體。”

其實,儘管人臉識別技術一進校園便成為抵制的對象,並不意味著人們因此因噎廢食。使用其基本原則,應該是被監控者知情同意和最大程度的隱私保護。

近日,美國伊利諾斯州和德克薩斯州通過生物特徵識別法,要求收集和使用人臉識別的公司和個體必須遵循一套基本的隱私協議。要求包括在收集前得到知情同意、規定數據保護義務和限制保留位置、禁止從生物特徵數據中獲利等。

在歐洲,據歐盟委員會的高級官員透露,他們正在計劃一項關於人臉識別數據使用的立法,這將賦予所有歐洲居民明確的決定權,“知道人臉識別數據何時被使用”。一組歐洲隱私監管機構希望將面部識別數據重新分類為“生物識別數據”,這意味著收集數據時需要對方明確的同意以及其他更嚴格的隱私保護。

但這依然有很長的路要走。其實更令人害怕的是,在人臉識別技術無孔不入地延伸後,人類只會變成一台臺監控攝像頭下流水線上的冰冷機器,或者擅長使用肢體和表情掩飾情感的“戲精”。而在這背後,是人們關於讓渡安全還是讓渡隱私的矛盾。

早在兩年前的一部科幻劇《黑鏡》中,這種矛盾的結局已可窺見。一位焦慮的母親時刻害怕孩子受到傷害,從小給孩子身體植入晶片,便可以通過iPad隨時監視孩子的動態,還可以主動把孩子眼中任何涉及血腥、暴力和色情的內容都打開工賽克。在故事的最後,母親的“含辛茹苦”最後只換來了女兒義無反顧的反抗和逃離。