虎撲分享：NLP算法有效提升風險內容識別效果｜虎博科技思享會

近日，以《新技術，助力「清朗」、「淨網」行動》為主題的虎博思享會，於虎博科技總部舉辦。活動匯聚了來自上海市信息安全測評認證中心、虎撲社區、寬帶山社區、樊登讀書的內容安全專家、負責人，共同圍繞技術與內容生態的平衡進行探索。

眾所周知，內容安全已被置於前所未有的重要位置，近期關於「飯圈」、未成年保護、金融黑嘴、網絡黑公關等內容被特別關注並整治，網絡內容生態治理已然成為現階段各大平台的主要核心工作。

在本次虎博內容安全主題思享會中，來自虎撲社區的技術總監鄭中業，結合在虎撲多年從事內容生態工作的經驗，就虎撲在內容生態治理上的發展歷程、技術投入、審核流程，以及與虎博合作後取得的效果等方面做了精彩的乾貨分享。

虎博思享會嘉賓精彩乾貨分享

04:19

演講分享·keymessage

1、足球點陣式體系

虎撲的內容生態體系好比一個足球隊，巡查、人審、機審構成後衛、中場與前鋒，而模型作為技術基礎承載了重要作用

2、「好人卡」提效降本

對用戶進行精準畫像，「區別對待」高危和「好人卡」用戶，優化審核效率同時，降低成本

3、審核「黑盒子」

巡查環節將審核流程當做「黑盒子」，去評估審核質量、流程漏洞和安全漏放等問題，從而完善審核機制

4、「投毒」測試

對問題內容進行「投毒」模擬測試，提升審核的感知度和敏感度

5、小提升，大進步

與虎博合作至今，準確率與召回率每一個百分點的提升，都是內容生態治理的一大步

6、AI識別內容風險

通過模型訓練、特徵汲取，從語義理解、上下文感知上識別更多風險內容