如何抵禦隱藏在演算法背後的歧視？

近年來，利用演算法進行AI招聘已成為職場中的一大新熱點，如何規避AI演算法可能帶來的歧視問題成為保障就業公平面臨的一個新問題。近日，在上海市政協的一場重點提案督辦專題調研暨辦理推進會上，監管部門、行業專家以及業內人士表示，防範AI就業歧視，需要加強對演算法濫用的監管、強化技術手段，多方面共同努力消除隱藏在演算法背後的歧視，更好維護勞動者權益。

隨著ChatGpt火爆出圈，國內一眾AIGC平臺迅速跟進，疊加我國網際網路招聘平臺正處於飛速發展期的大背景，利用人工智慧技術進行簡歷篩選和人力資源開發已經成為當前招聘領域的一個最新、最熱門的發展趨勢。

一些在AI招聘領域邁出實質性步伐的企業和機構表示，AI招聘可以避免主觀因素的干擾，更好地對應聘者能力與崗位需求進行匹配。然而，偏見和歧視也可能通過演算法更隱晦地內嵌到決策系統當中，悄無聲息地侵蝕就業公平。

如何讓AI演算法背後的就業歧視無處藏身？日前，在上海市政協一場重點提案督辦專題調研暨辦理推進會上，各方積極建言，為就業領域的AI應用立起公平公正的防護盾。

AI演算法會不會産生就業歧視？

當前，我國網際網路招聘平臺快速發展。數據顯示，一些頭部平臺累計服務求職者已超過1億人次，求職有效簡歷數超過1.5億份，認證企業接近1000萬家。大量招聘需求與求職需求聚集于平臺，帶來了海量的數據積累。目前，已經有多家招聘平臺開始探索通過AI演算法為數據賦能。

“根據招聘平臺的數據，結合當前社會上人工智慧和大數據技術的發展，無論是用人單位還是仲介部門，在雇傭決策上對演算法技術的依賴性是不斷提高的。”上海市委網信辦總工程師楊海軍説道。

在AI演算法為人力資源開發帶來效能提升的同時，一些隱蔽的風險也引發了各界的關注。

翁文磊曾長期在上海市婦聯工作，密切關注女性就業的她注意到，如今的勞動者在求職時面臨的情形和以往已大不相同。“網際網路招聘平臺的簡歷篩選過程基於人工智慧演算法，可以從已知數據中準確推測求職者的婚育狀況，同時其自主學習能力會放大社會固有的部分性別偏見。”

“儘管目前還沒有發現典型案例，但也要未雨綢繆。”翁文磊表示，網際網路招聘平臺帶來的性別就業歧視更加隱蔽，只能通過長期招聘結果進行反推。“同時，勞動法規制性別歧視的主體是僱主，即便網際網路招聘平臺可以承擔責任，其責任的履行也存在很大困難。”針對潛在的歧視風險，她認為，是否存在歧視要根據數據來看，還要加強對典型案例的數據分析，進而及時提出預警。

多管齊下共同監管

就業是最大的民生，就業歧視事關身在職場的每個勞動者，如何未雨綢繆防患于未然，各方都已行動起來，保障就業領域的公平公正。

針對演算法新問題，楊海軍介紹，國家先後出臺了《網際網路資訊服務演算法推薦管理規定》《關於加強網際網路資訊服務演算法綜合治理的指導意見》，並持續開展專項行動，深入排查整治各類企業的演算法濫用現象。“主要是對企業演算法的機制、機理、管理制度、應用場景，它的標簽體系、用戶權益保護等多個方面進行深入檢查。基本上所有頭部的招聘企業都納入了檢查名單。”楊海軍説。

在監管發力的同時，技術手段也在加強。上海市科委總工程師趙健介紹，在2021年人工智慧科技支撐專項項目審核中，上海專門部署了人工智慧社會實驗體系建設專題，強調要科學評估人工智慧的社會綜合影響，有效推進人工智慧應用的標準建設，輔助支援人工智慧應用的公共治理的決策。

防止AI可能存在偏見和歧視的問題，一些機構已經在這方面進行有力的探索。“比如上海的浦江實驗室建設了軟硬結合的蒲公英人工智慧治理開放平臺——OpenEGlab，目標是要打造系統、實用的人工智慧倫理治理的基礎設施。”趙健介紹説，該平臺包括規則風險展示、評測框架等五大部分。其中，公平公正的維度，涵蓋了基於性別、地域、年齡、職業健康的歧視內容。同時，建立了基於評測框架敏感問題的評測語料庫，數據量達到百萬級，公平公正部分的數據量將達到十萬級，目前對一些國內外大模型安全性初步開展了評測。

讓勞動者參與演算法治理

“來伊份目前有7800名正式員工，95%是女性，40歲至50歲的員工佔50%。”面對職場上的就業歧視，上海來伊份股份有限公司總裁鬱瑞芬常用自己的經歷來回應偏見：“我是1999年創業的，雇用了大批下崗工人，她們是可愛的人，工作認真努力。”

鬱瑞芬認為，年齡、性別等都不應是職場的門檻。“我們門店的大多數員工都是上海本地阿姨，企業對她們在電腦技能方面進行了培訓提升，目前每年發放工資8.5億元左右。”

“女性構成了就業和勞動力市場的半邊天，但晉陞遭遇天花板、同工不同酬等就業歧視仍然存在於一些企業之中。”翁文磊認為，經濟轉型，特別是新技術對就業的替代效應，女性是有優勢的。“現在就業不僅僅要肌肉，更重要的是協調能力。”

上海財經大學法學院教授吳文芳在對數字時代人工智慧演算法治理與勞動者權益保障進行研究時曾撰文指出，針對演算法可能導致歧視以及演算法權力濫用的問題，需要通過演算法治理工具予以規制。

吳文芳表示，應關注勞動者參與演算法治理的具體路徑構建，以及勞動者新型權利的賦權進路。同時，應強化工會的專業化賦能及與第三方專業機構的制度化協作，積極參與演算法設計、演算法公開等監管程式。