冰冷與溫度,數字世界的B面

來源:36氪
發佈時間:2022-01-20
隨著數字化內容渠道的鋪開,數字內容風控已經成為企業數字化轉型過程中不得不考慮的標配。

多年以後,當我們回顧2021,一定會發現這是充滿變局一年。

這一年,疫情並未如預期般消散,時至年底,各類抗疫行動依舊不斷展開;這一年,中概股赴美上市潮於今年夏天按下暫停,恪守最新數據安全準則成為不少企業面前的新議題;還是在這一年,不少細分行業産生了翻天覆地的變化。比如,線上教育在"雙減"的趨勢下被動收縮,成為時代變局中的一枚紀念幣。

只有時代下的産業,沒有産業下的時代。不論是在久不消散的疫情面前支援抗疫,還是因守護國家安全而暫停的IPO,亦或是為了下一代發展模式而做出的産業調整,這背後都蘊藏著一個趨勢,從各種維度出發,多方面承擔社會責任,正在成為如今企業成長的必修課。

尤其,處於成熟期的網際網路企業已經率先開始迭代。過去一年,有關大型網際網路公司馳援抗疫、熱衷公益以及支援共同富裕的消息不絕於耳。僅針對共同富裕,在國家提出“共同富裕”目標之後,阿裏、騰訊先後官宣了千億元規模的“共同富裕”基金,字節跳動、拼多多、京東等頭部網際網路企業也都紛紛宣佈了相應的目標和計劃。

然而不可忽視的一點是,對普通個體而言,物質生活的保障只是一面,精神文明生活的安全穩定同等重要——從2000年左右中國第一批網際網路公司誕生開始,網際網路企業所提供的數字化服務以及內容,成為了人們不可或缺的精神世界載體。不過,當填充精神世界的內容空前豐富,其中暗藏的暴力、色情以及虛假廣告等內容也日漸成為風險因素。

也正是由此,隨著《網路安全法》、《數據安全法》等法律法規完善,以及企業持續面臨的新型內容攻擊手段,進行數字內容風控建設,也成為不少企業的必選項。

這一次,作為數字服務及內容提供者的網際網路公司又選擇站在臺前,為守護人們的精神生活提供出自己的價值。

迭代中的數字內容風控

坦白而言,數字內容風控並不是一個大眾流行詞彙。但這一行業的起源,卻和整個數字化的浪潮息息相關。

具體來説,網路中有害資訊的出現,最早可以追溯到十多年前部落格、論壇剛剛流行時。在那個時期,各類內容渠道剛剛普及,網民可以隨意發表評論。"當時在用戶社區裏,已經有有害資訊會通過靜態圖片的方式傳播。"網易易盾總經理朱浩齊向36氪回溯。

不過在2000年初,即使有害現象已經出現,但網際網路內容模式剛剛成型,大眾針對清朗網路空間的意識還並不強烈,再加上彼時技術手段並不如當下先進,所以數字內容風控也並未成為被普遍關注的話題。

而時至如今,隨著數字化內容渠道的鋪開,數字內容風控已經成為企業數字化轉型過程中不得不考慮的標配。

首先從産業需求變革來看,僅2019年就有眾多知名APP就曾因社區內容問題而被要求整改,以及音頻APP因內容問題被下架,還有一些奢侈品牌也曾因不當言論或行為而引起眾議。另自政策角度觀察,自2017年《網路安全法》正式施行以來,關於安全的法律法規(如《數據安全法》、《個人資訊保護法》等)不斷完善,內容風控更和眾多安全細分賽道一樣,成為企業關注的焦點。而且,隨著民眾意識的愈發進步,營造和諧的網路空間環境也是眾望所歸。

行業興起,廠商感觸尤深。

朱浩齊于2008年加入網易,負責網易集團內容風控系統建設十多年。在他的感受中,如今伴隨相關案例的多發,政策的嚴管趨勢,以及普羅大眾的殷殷希望,越來越多的客戶已經主動意識到建設數字內容風控能力的意義。但往前追溯,直到2016年,還有不少客戶並不理解內容風控産品的價值所在。

“當時不少客戶認為,可能自己簡單做一個關鍵詞搜索的功能就能解決問題,但這樣顯然效果不佳。"他説。

數字內容風控本身具有很高的複雜度,想要做好需要跨過不少門檻。總結而言,做好這一業務需要廠商具備充分的業務理解力、技術/産品能力和長期耕耘的堅持以及實踐經驗積累。

首先從技術演進來看,過去部落格剛剛興起時,有關數字內容風控的技術主要以文字識別為主,針對圖片的識別能力不高。近年,隨著人工智慧技術、晶片處理能力等技術的演進,再加上雲服務底層能力的提高,這讓産品在高併發環境下仍具備穩定性成為可能。這類技術能力的積累,是做好內容風控産品的前提之一。

另外,數字內容風控的另一個壁壘在對客戶業務的深入理解。

在這一領域,除卻法律法規明確規定的紅線,其他內容風險的判斷需要和用戶場景強結合。而數字內容風控和其他安全産品之間的差異化恰好還在於,由於理解門檻低所帶來的更容易評判的産品特點。這一特點帶來的後果是,眾多客戶方的業務人員都可以按照自己的理解對內容風控提出自己的判斷維度,從而讓廠商難以和客戶達成共識。在這種情況下,數字內容風控的廠商需要深入理解客戶業務場景,才能有的放矢。

總結而言,數字內容風控不僅對廠商的技術能力有要求,同時也對廠商對場景、業務經驗的理解提出挑戰。這也從側面帶來一個有意思的現象——即便行業需求漸起,但相較其他安全相關産品和解決方案,以數字內容風控作為主要業務的廠商仍舊不多。

而既具備技術實力,也具備場景理解力的廠商或許更少。從行業全局觀察,起家自內容領域的頭部網際網路企業,正是數字內容風控的能力提供者。

網易易盾:優化內容安全保障體系,讓企業專注業務創新

網易從提供部落格、郵件類産品開始即重視內容風控。

早期,其安全團隊專注于通過建設內容風控能力,解決其自身內容産品中存在的相應問題。2011年,隨著安全這件事的重要性不斷提升,網易安全部正式單設成為獨立部門。2016年,經過自身業務場景的實際打磨,網易安全部開始對外提供服務,易盾也就此成立,內容風控是其對外提供的一項重要能力。

在過去,由於技術能力不足,業內常過於依賴人工審核保障內容安全。而隨著網際網路産品愈發多樣化,企業每天要發佈幾十萬甚至上百萬帖子,內容審核的任務量每日劇增,強依賴人工對方式註定不能持久。所以,高效、安全地進行內容審核,成為了緊迫的命題。

於是針對這類需求,易盾根據經驗提出了一套自己的優化方案。具體而言,其在行業內較早地提出了“機器識別+安全策略+人工審核”的內容安全保障體系

這套方案的核心思路是在面對海量非標場景時,通過技術將識別的能力標準化,同時又和人工結合,將結果判斷相對定制化的處理。朱浩齊介紹,這套方案對客戶來説意味著效率的提升和傳統人力成本的降低,對易盾而言也能讓産品更標準化,更適合對外提供服務。

可以看出,在“機器識別+安全策略+人工審核”的內容安全保障體系中,"機器識別"承擔了將識別能力標準化的部分,"人工審核"是相對定性的部分。那麼,"安全策略"則像中間的一道橋梁,既幫助人工團隊將其處理的特徵和知識反哺給機器,讓機器識別更"聰明",又根據一些策略工具持續篩選機器識別後的數據,讓其結果輸出更精準。

實際上,在2012年之前,網易易盾的初始團隊便開始在內部打磨“機器識別+安全策略+人工審核”的保障體系;2016年,網易易盾正式對外服務,將這一理念持續對外輸出,並不斷迭代優化;到了2019年前後,“這套保障體系已經成為了行業通用的解決方案路徑。”易盾介紹。

在實操中舉例,某智慧硬體頭部廠商,旗下有一款月活過億的語音助手産品。面對歷史沉澱的天文量級問答語料庫和每日新增的海量數據,其不僅需要考慮成本控制,也必須平衡數據量、處理速度以及精準度,同時直面不斷變化的內容風向帶來的挑戰。

換言之,面對這一狀況時,理想中的內容風控産品需要做到效率和效果的結合。在謹慎選型評估後,其採購了易盾的數字內容風控産品和服務,將易盾人機協作的一站式內容安全解決方案應用到業務中。

首先,易盾的智慧機器審核系統,會基於深度學習及大規模樣本訓練,對文本進行語義分析,分辨其中可能存在的色情、低俗、廣告、涉政、暴恐、謾罵、灌水等可能性。其通過易盾的演算法能力,可自動化、標準化地將問答語料文本按違規類型進行標紅與分類的預處理,讓不良有害內容自動現行。通過機器解決普適性審核問題,提升效率的同時降低了成本。 據了解,易盾會定期對模型進行優化迭代,通過收集誤漏判樣本,重新訓練模型,保證機器的持續迭代和進化。

接著,易盾再通過專業人審以解決複雜問題。具體而言,問答語料文本經過機器審核後,會交由人工審核團隊進行二次標記,並在機器無法進行決策時進行干預,並糾正決策。這樣做的好處是可以滿足客戶非標但迫切的業務要求,比如在這一項目施行時,客戶提出了甄別涉政內容的正負面與法律法規合規的需求。以《廣告法》的合規為例,易盾幫助他們遵守相關法規要求,在有關醫療、保健、養生的知識問答中,剔除帶有“推薦”嫌疑的問答,從而讓該企業智慧産品的推薦更具中立、客觀性。

同時,易盾的審核平臺還注重海量內容處理的高效性。比如在合作中,客戶可以通過API接入易盾“智慧審核平臺”,進行多線處理海量數字內容,動態開展審核數據查詢、質檢任務下發等操作。 據了解,相比傳統的審核平臺,易盾“智慧審核平臺”會為AI和審核員分配任務,通過“自動跳審”、“高量詞工具”、“鍵盤快捷鍵”、“全屏審核”、“多人審核”等交互設計,幫助審核員擺脫繁複的操作,也進一步提升了人效。

通過這套既注重效果又注重效率的內容安全保障體系,易盾接入數月便將客戶堆積許久的歷史數據陸續消化,並且問答語料過審的平均準確率在99.8%以上。同等重要的是,易盾在過濾不良有害內容的同時,也通過人工審核團隊對機審後的問答語料文本進行二次標注,挑選出優質科普問答,幫助客戶完善了其産品的內容價值。

在更普適的效果判斷上,如今易盾數字內容風控産品累計檢測數據已達到 10000億+、平均審核效率提升10倍,反作弊識別率也達到99%+

整體談及易盾的差異化優勢,朱浩齊覺得,相比較獨立廠商,易盾的産品更穩定可靠,而相對其他頭部網際網路公司來説,易盾的解決方案則更靈活和場景化。

而能做到這些特點,還是要回到這套“人機協作”的理念,以及易盾的基人機協作因。"我們在自身的內容場景裏打磨了許久,正因為網易做過這麼多的內容類産品,我們的內容安全能力才能持續得到檢驗,為客戶提供可靠的服務,讓客戶得以專注于自身的業務創新(無需為數字內容風控問題而煩惱。)"朱浩齊坦言。

頭部公司的責任:建設生態,持續守護民眾的精神世界

如今,作為行業頭部的易盾也看到了數字內容風控快速增長中的需求。

比如,在過去重視內容風控建設的往往是網際網路等數字原生企業。但在近年隨著全行業數字化轉型的進展,越來越多身處傳統行業的企業也開始找到易盾。

“除了網際網路客戶之外,現在我們有大量的零售、銀行保險以及汽車類客戶。”朱浩齊説。

當需求漸起,配套能力也應及時跟上。但數字內容風控場景的非標,以及目前無法完全擺脫人工的現狀,都降低了行業發展的速度。

對此,易盾的做法是通過推動完善安全行業體系標準建設,同時也深度參與相關職業培訓課程的編排,為審核員這一職業畫出細緻的能力樹,並推動其完善自身能力。

(易盾參與起草的《網路與資訊安全管理員國家職業技能標準》,已于2020年正式發佈)

説實話,在很多人的第一印象中,審核員屬於網際網路的入門級工種,壁壘不高。但易盾通過自身二十年的相關經驗告訴我們,審核員是一個對綜合能力要求較高的職業,並不是誰都可以隨便上崗。

“理想的審核員需要有各行各業的知識儲備,還要有一定的編程能力,需要在工作中反哺機器、調配策略。"朱浩齊認為,將審核員職業粗暴地認知為"勞動密集型"産業是不科學的,甚至有的時候如果審核員能力不到位,可能審核的效果比機器還要不精準。而且,一個高階的審核員在需要具備知識積累和編程能力之外,還要深度理解自身企業的業務,從而依據業務要求設置合理的判斷邊界。

一句話總結,一個理想中的審核人員應該做到像一個安全策略人員一樣,在完成既定職責的同時,成為反哺機器的橋梁。

也正為了和行業一起達成這一目標,易盾在過去幾年間一直在推動國家相關部門制定審核行業職業標準規範。就效果來説,現在所有的審核人員都必須經過標準化的培訓才能上崗。同時,易盾也和國家相關部門和産業協會一起進行了相關課程制定。

當然,打通教育培訓環節只是第一步,把這件事落在實處還需要真實地就業上崗。對此,易盾也和殘聯等機構合作,在為行業培訓更多人才的同時,也促進殘疾人就業率的提升。公司介紹,目前已有不少經過培訓的審核員在易盾以及其他甲方客戶內部上崗。

當高素質人才的數量得以提升,數字內容風控的服務品質也將得到改善。並且,隨著內容風控的社會價值被更加肯定,能看到的一個趨勢是,越來越多的中小企業也會緊跟頭部公司的步伐,加入到對人們精神文明生活的守護行動中。

行業動態首先成為了證明。比如,在2020年12月,以“守信互信 共踐共行——攜手推進網路誠信建設”為主題的2020中國網路誠信大會在山東曲阜成功舉辦,這一會議旨在從加強網際網路行業自律角度,推進網路誠信建設,倡導網路文明,助力網路綜合治理體系建設和數字經濟發展。2021年7月,以“誠聚力量 信贏發展——共建網路誠信新時代”為主題的2021中國網路誠信大會在湖南長沙在湖南長沙成功舉辦,500余位行業嘉賓共謀新時代網路誠信之道,共建共用網路誠信新空間。

作為內容風控先行者的易盾也對這一趨勢深信不疑。同樣,也為了和這些中小企業一起守護網路內容空間,易盾推出了"清風行動"。在這一行動中,易盾會針對各類中小企業,免費開放有關內容風控的多項核心功能,希望讓這些新興企業從第一天開始,就有能力和意願參與進對網路空間文明的守護中。

舉例而言,在實際的能力開放範圍中,易盾會為此類客戶提供內容安全中的文本、圖片、音視頻內容檢測模組,以及業務安全中的註冊、登錄保護,以及用戶賬號識別等功能。這裡可以看出,內容安全的模組和業務安全的模組在此得到了結合。朱浩齊解釋,這也是由於中小客戶可能會被同一個賬號同時帶來"薅羊毛"和"發佈有害內容"兩類負面影響,所以將內容安全和業務安全結合,是從企業需求出發得出的解決方案,同樣也是"數字內容風控"的實質內涵。

時至如今,易盾已經服務了數千家付費客戶,其中不乏人民網、外交部、華泰證券、中信銀行、OPPO、vivo、滴滴、知乎、B站等知名企事業單位,服務間接覆蓋99%以上網民。相信隨著行業的發展,更多的企業會選擇將複雜的數字內容風控問題交由易盾等專業廠商來處理。

而整體談及對未來趨勢的觀察,朱浩齊覺得,數字內容風控的大趨勢已經不容置疑,接下來行業還需要持續在效率和效果的平衡性上做協調。但有一點期待是易盾和他本人希望達成的——數字內容風控的目標是守護人們精神世界的和諧,那麼在滿足合規要求的基礎上,或許大家可以一起討論、碰撞出最合適的安全尺度,從而在紅線以上提供更豐富多彩的內容形態。

"安全經常是冷冰冰的,但在數字內容風控領域,或許我們可以更人性化。在合規的要求之上,幫助大家擁有更美好的內容生態體驗。"朱浩齊表示。

獨行者快,眾行者遠。不論是嚴格要求打磨産品,還是孜孜不倦破圈合作,長達20年的耕耘已經説明,網易易盾長期以來的目標就是以科技創新締造美好生活,滿足用戶對美好生活的嚮往和追求。相信這一使命也是時代背景之下,頭部廠商需要持續承擔,也有能力延續的社會責任。

本文圖片來自:採訪供圖企業官方視覺中國 正版圖庫