很多用戶(hù)會(huì)上傳一些色情、反國(guó)、欺詐之類(lèi)的非法視頻，產(chǎn)品體量較少時(shí)，通過(guò)運(yùn)營(yíng)人員的審核是不費(fèi)力的，可是當(dāng)產(chǎn)品規(guī)模用戶(hù)龐大，生產(chǎn)的快手短視頻足夠多時(shí)，僅僅依靠人力很難解決這個(gè)問(wèn)題，那么應(yīng)該運(yùn)營(yíng)什么技術(shù)手段去處理這類(lèi)問(wèn)題呢？
1、數(shù)據(jù)庫(kù)匹配
任何文件都有且只有一個(gè)獨(dú)一無(wú)二的特定數(shù)值，類(lèi)似于身份證號(hào)碼，這些應(yīng)用的后臺(tái)可以建立違規(guī)文件的特定數(shù)值數(shù)據(jù)庫(kù)，數(shù)據(jù)來(lái)自監(jiān)管部門(mén)不斷的更新中。用戶(hù)上傳視頻后，由該視頻數(shù)值去數(shù)據(jù)庫(kù)匹配，匹配上就認(rèn)為是危險(xiǎn)視頻，然后予以刪除，匹配不上，就進(jìn)入步驟二
2、視頻轉(zhuǎn)圖片

將初審過(guò)的視頻轉(zhuǎn)化成截圖，例如每0.5秒一張，具體多少取決于產(chǎn)品階段和運(yùn)營(yíng)策略等等，然后通過(guò)圖像智能識(shí)別系統(tǒng)來(lái)進(jìn)行甄別。該系統(tǒng)說(shuō)起來(lái)簡(jiǎn)單，但背后涉及到的東西卻不簡(jiǎn)單，有興趣的可以搜一下進(jìn)一步了解。

3、聲音識(shí)別
目前可以做到語(yǔ)音轉(zhuǎn)文字，也支持部分方言，比如廣東話(huà)。轉(zhuǎn)化成文字后，進(jìn)行審核。審核的關(guān)鍵就是屏蔽字庫(kù)。
4、其他機(jī)制
通過(guò)以上方式可以解決絕大部分視頻內(nèi)容的審核問(wèn)題，拿不準(zhǔn)的可以由運(yùn)營(yíng)人員介入人工來(lái)進(jìn)行審核，除此之外還有舉報(bào)機(jī)制，在此就不展開(kāi)了。另外，可以想到的策略有：新用戶(hù)、高危IP、虛擬號(hào)段等用戶(hù)發(fā)的內(nèi)容審核級(jí)別提高，或者先審再發(fā)，顯示僅自己可見(jiàn)；大V用戶(hù)或者優(yōu)質(zhì)用戶(hù)降低審核級(jí)別，或者是先發(fā)再審，顯示為所有人可見(jiàn)。網(wǎng)絡(luò)監(jiān)管越來(lái)越嚴(yán)格，很多app均需要手機(jī)號(hào)、實(shí)名注冊(cè)，這也就增加了用戶(hù)的違法成本。