知乎欲用AI技術建立網際網路社交規則

知乎運營總監孫達雲

如何整治網路暴力、處理網上有害不良資訊、謠言等問題近日有了最新動向。記者從知乎方面了解到，隨著專注于知乎社區治理的演算法機器人“瓦力”推向市場，未來人們用AI技術來建立起一個規範的網際網路社交環境指日可期。

“瓦力”是一種價值觀

“腦回路真奇特”、“你是村裏來的沒見過高樓大廈吧”……這些留言在各大網際網路社交平臺上隨處可見。24日，知乎在798舉辦的“陰陽怪氣”主題書法展上，特意將這些評論以書法作品的形式貼在墻上進行展出。

對於這一做法，知乎對記者透露，網路上很多人會不注重社交禮儀的重要性，不講究語言分寸，一旦不認同別人的觀點，就用這樣“陰陽怪氣”的語言攻擊對方。知乎希望通過這種形式，來激發大家對建立網路社交禮儀的關注。

記者調查發現，不僅是知乎一家平臺，虎撲、天涯社區乃至微網志等均有用戶反映，會受到因別人用“陰陽怪氣”的留言給自己帶來的困擾和焦慮。這些行為雖然不違法，但卻會破壞平臺的網路社區文明秩序，甚至對熱點新聞會形成錯誤的輿論導向。

問題如何解決？據知乎內容品質團隊技術負責人劉兆來介紹，知乎將通過演算法機器人“瓦力”來應對這一問題。他稱，“瓦力”可通過AI技術實現可實時識別和處理不友善、答非所問和垃圾廣告導流資訊。而經過技術升級之後，“瓦力”則可以實現對“陰陽怪氣”內容的識別，並對內容做相應處理。

據了解，留言“陰陽怪氣”，是指用戶以反諷方式攻擊他人，並影響正常的討論秩序的行為。但記者注意到，對於用戶是否發表出“陰陽怪氣”的言論目前卻很難界定，據知乎方面透露，在過去7年，大量用戶舉報等行為，使得知乎積累了豐富的帶有用戶篩查性質的行為語料，並沉澱了豐富的社區管理經驗，這些都幫助“瓦力”去學習，最終做到用社區最大公約數(大部分用戶都認可的一個尺度)來作為“陰陽怪氣”言論的判定尺度。

知乎運營總監孫達雲表示：“目前‘瓦力’對陰陽怪氣評論文本的識別準確率比很多人工判斷都更準。”

據悉，知乎近期會讓用戶自由選擇是否開啟“瓦力”智慧過濾，讓陰陽怪氣識別技術進入産品化嘗試。而在接受記者針對專訪時，孫達雲稱，知乎投入大量精力將AI技術運用到治理社區網路暴力、違法有害資訊等問題上來，就是知乎對AI技術上的選擇。他説：“知乎不會用低俗內容吸引用戶流量，而是更希望給用戶更好的討論氛圍，提供更多有價值的資訊，所以“瓦力”也是知乎在AI演算法上的價值取向。”

期望建立“網路社交禮儀”

如今，內容平臺在“AI+內容”上的運營嘗試多從推薦閱讀的方向上切入，但在孫達雲看來，知乎在“AI+內容”的運營上更為全面，在運用AI技術治理網路暴力這方面投入的精力更多。

孫達雲對記者稱，知乎的競爭優勢，就是知乎社區的氛圍價值，這也是為何知乎在治理網路暴力，塑造網路留言規範上的投入精力超過其他內容平臺的原因之一。知乎不僅是內容平臺，更是一個用戶社區，用戶在社區裏面的行為、彼此之間的交互、互動的使用體驗非常重要。

值得注意的是，被記者問及下一階段是否會將“瓦力”應用進一步做商業化推廣，選擇與其他內容平臺合作，孫達雲對記者説：“這是知乎的願景，未來非常願意把它變成一個網際網路社交禮儀、討論禮儀”

據孫達雲介紹，知乎在商業化運營上有兩個非常明顯的特徵：一是對網路謾罵零容忍，二是重視維護用戶的內容版權。而從這幾年網際網路發展時間線來看，包括微信公眾號在內等越來越多的平臺，都在和知乎一樣，重視這兩個特徵給平臺帶來的價值，並一同加入進來維護用戶內容版權，治理網上謾罵的行為。

孫達雲表示：“所以説，如果能有更多同行參與進來，有更多科研機構甚至業界專家來討論AI治理網路暴力話題，這對中國網際網路甚至世界網際網路的治理都有非常大的作用。”