央廣網(wǎng)北京6月22日消息（記者卜葉）近年來(lái)，線(xiàn)上辦公、線(xiàn)上娛樂(lè)被越來(lái)越多的人接受，與此同時(shí)，也為互聯(lián)網(wǎng)內(nèi)容的監(jiān)管和治理帶來(lái)很大的挑戰(zhàn)。央廣網(wǎng)邀請(qǐng)中國(guó)信通院云大所內(nèi)容科技部工程師陳文弢講解內(nèi)容審核發(fā)展現(xiàn)狀和前沿技術(shù)，助力突破產(chǎn)業(yè)發(fā)展難題。

原文如下：

從全球角度看，社交媒體的快速發(fā)展為違法和不良信息的傳播，提供了快速傳播的渠道。歐盟、美國(guó)、新加坡等相繼發(fā)布一些法律法規(guī)、規(guī)章制度，規(guī)范網(wǎng)民的互聯(lián)網(wǎng)行為；推特、Meta、Instagram等大型的社交平臺(tái)，也在積極建設(shè)專(zhuān)業(yè)的內(nèi)容審核隊(duì)伍，比如Meta聘請(qǐng)來(lái)自不同文化背景、不同地區(qū)的審核員提升全球化的審核需求。

我國(guó)也面臨網(wǎng)絡(luò)生態(tài)治理難題。國(guó)家陸續(xù)發(fā)布《互聯(lián)網(wǎng)跟帖評(píng)論服務(wù)管理規(guī)定（修訂草案征求意見(jiàn)稿）》等多個(gè)規(guī)章制度加強(qiáng)互聯(lián)網(wǎng)內(nèi)容的治理和監(jiān)管，對(duì)互聯(lián)網(wǎng)內(nèi)容生態(tài)治理起到了約束和管理的效果，行業(yè)內(nèi)逐漸形成“機(jī)器+人工”的內(nèi)容審核方式。

“機(jī)器+人工”的內(nèi)容審核方式主要基于關(guān)鍵詞過(guò)濾，為了發(fā)展更智能高效的審核方式，業(yè)界發(fā)展出基于云計(jì)算、人工智能和深度學(xué)習(xí)的審核架構(gòu)。文本審核中，算法能夠識(shí)別色情、暴力、違法犯罪、辱罵、廣告等內(nèi)容，除此之外，還可以定制專(zhuān)屬內(nèi)容進(jìn)行識(shí)別。視頻審核基于截幀技術(shù)，截取視頻關(guān)鍵幀生成圖像，轉(zhuǎn)換成圖片，再對(duì)圖片進(jìn)行審核，審核內(nèi)容包括敏感標(biāo)識(shí)、敏感人物、血腥暴力、色情等。音頻審核中，首先將音頻轉(zhuǎn)成文字，然后再通過(guò)文字模型進(jìn)行審核。

目前，這種審核技術(shù)已經(jīng)與各個(gè)行業(yè)出現(xiàn)深度融合的態(tài)勢(shì)，比如新聞行業(yè)對(duì)錯(cuò)別字、人員排序、職位職稱(chēng)內(nèi)容的識(shí)別，金融行業(yè)對(duì)是否仿冒他人注冊(cè)、身份識(shí)別等安全問(wèn)題的審核，教育領(lǐng)域關(guān)注的未成年人保護(hù)，能否檢測(cè)吸煙、酗酒等行為。

內(nèi)容審核技術(shù)日趨成熟，但仍面臨巨大挑戰(zhàn)。首先，審核存在滯后性，某些信息在認(rèn)定為違規(guī)信息前可能已在互聯(lián)網(wǎng)大肆傳播；一些信息現(xiàn)在不是敏感信息，以后可能會(huì)變成敏感信息，此外，違法違規(guī)信息的“偽裝”“變異”技術(shù)在不斷升級(jí)，以躲避檢測(cè)識(shí)別。

為了應(yīng)對(duì)這些困難，中國(guó)信通院云大所依托內(nèi)容科技產(chǎn)業(yè)推進(jìn)方陣開(kāi)展了一些相關(guān)的技術(shù)研究和標(biāo)準(zhǔn)制定工作。同時(shí)，準(zhǔn)備對(duì)現(xiàn)有標(biāo)準(zhǔn)進(jìn)行更新、完善，擬增加深度偽造、特定人物識(shí)別，以及安全等專(zhuān)項(xiàng)評(píng)測(cè)標(biāo)準(zhǔn)，回應(yīng)社會(huì)關(guān)切。同時(shí)，探索搭建第三方服務(wù)平臺(tái)，滿(mǎn)足行業(yè)內(nèi)容審核需求，對(duì)審核人員進(jìn)行培訓(xùn)，通過(guò)這些第三方服務(wù)，突破違法違規(guī)信息發(fā)現(xiàn)不及時(shí)，信息樣本共享難的問(wèn)題。