導(dǎo)語：AI在安全播出領(lǐng)域的應(yīng)用一文來源于網(wǎng)友上傳，不代表本站觀點(diǎn)，若需要原創(chuàng)文章可咨詢客服老師，歡迎參考。

摘要：隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，人工智能技術(shù)（ai）得到了高速和深入的發(fā)展。在有線電視安全播出領(lǐng)域運(yùn)用AI技術(shù)，將會(huì)顯著提升安全播出工作效果。本文對(duì)安全播出中的內(nèi)容安全審播現(xiàn)狀進(jìn)行了總結(jié)，對(duì)AI技術(shù)發(fā)展進(jìn)行了介紹，并對(duì)如何將AI應(yīng)用于安全播出領(lǐng)域進(jìn)行了詳細(xì)分析，提出具體技術(shù)部署方案和相關(guān)建議，對(duì)AI技術(shù)運(yùn)用于數(shù)字電視安全播出具有啟示價(jià)值。

關(guān)鍵詞：AI；安全播出；大數(shù)據(jù)

1引言

隨著我國經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步，人民群眾對(duì)精神文化生活的需求日益增長。廣播電視播出機(jī)構(gòu)通過不斷增加播出頻道數(shù)量和節(jié)目內(nèi)容來滿足用戶這方面需求，這對(duì)作為廣播電視產(chǎn)業(yè)發(fā)展的基礎(chǔ)和廣播電視工作生命線的安全播出工作提出了更高要求。在我國，廣播電視承擔(dān)了黨、政府和人民宣傳喉舌的特殊功能，是輿論引導(dǎo)的主要工具。安全播出是廣播電視運(yùn)營商的首要任務(wù)，而內(nèi)容安全是安全播出的重點(diǎn)之一，特別是涉及政治、外交、軍事、國計(jì)民生大政方針等內(nèi)容時(shí)，更加不能有絲毫差錯(cuò)。

2內(nèi)容安全審核與播出現(xiàn)狀

對(duì)于有線電視運(yùn)營商來說，安全播出包括電視節(jié)目的播出、傳輸與覆蓋等網(wǎng)絡(luò)傳輸環(huán)節(jié)，也包括點(diǎn)播形式的媒資和頁面海報(bào)等內(nèi)容呈現(xiàn)環(huán)節(jié)。其中，媒資內(nèi)容安全涉及意識(shí)形態(tài)和輿論導(dǎo)向，是安全播出重中之重的環(huán)節(jié)。針對(duì)媒資內(nèi)容的安全播出措施主要包括播出前審核和播出過程中監(jiān)聽監(jiān)看。目前，對(duì)媒資內(nèi)容的審核由審核專家采取人工方式進(jìn)行，人工審核的特點(diǎn)是審核效率有限。播出過程中對(duì)媒資內(nèi)容進(jìn)行監(jiān)聽監(jiān)看以人工方式為主，但這種方式存在明顯不足：第一，對(duì)內(nèi)容安全的認(rèn)知取決于人員業(yè)務(wù)素質(zhì)、主客觀判斷等因素，不同人員對(duì)同樣內(nèi)容的認(rèn)知結(jié)果存在差異；第二，欄目數(shù)量和點(diǎn)播媒資內(nèi)容日益增多，需要增加具備安全播出業(yè)務(wù)素質(zhì)的人員數(shù)量，相應(yīng)的人力成本也會(huì)大幅增加；第三，監(jiān)聽監(jiān)看人員值守期間安播壓力大，精神高度緊張，工作體驗(yàn)不佳，專業(yè)人員流失嚴(yán)重。針對(duì)內(nèi)容審核以人工方式為主存在的問題，通過引入AI技術(shù)，基于智能算法，輔助內(nèi)容安全審核，可以大幅度減輕目前內(nèi)容安全審核壓力，提升安全播出的工作效果。

3AI技術(shù)發(fā)展現(xiàn)狀

近些年，隨著互聯(lián)網(wǎng)和大數(shù)據(jù)的發(fā)展，AI技術(shù)得到了高速和深入發(fā)展，很多領(lǐng)域的AI技術(shù)，如人臉識(shí)別、圖像識(shí)別、語音識(shí)別、OCR文字識(shí)別、自然語言處理（NaturalLanguageProcessing，NLP）等，已經(jīng)具備成熟的算法，通過大量數(shù)據(jù)的訓(xùn)練和配備強(qiáng)大的運(yùn)算能力，其識(shí)別精度和處理速度已經(jīng)能夠滿足實(shí)際應(yīng)用的需求，也在各種場(chǎng)景中逐步得到應(yīng)用。

3.1人臉識(shí)別

人臉識(shí)別，基于深度學(xué)習(xí)算法，能夠準(zhǔn)確識(shí)別視頻中的人臉信息，提供人臉檢測(cè)、人臉1:1比對(duì)、人臉1:N識(shí)別等能力。人臉識(shí)別算法應(yīng)用過程是通過建設(shè)敏感人物人臉庫，基于人臉檢測(cè)和1:N識(shí)別技術(shù)對(duì)流數(shù)據(jù)預(yù)處理層分發(fā)的視頻流數(shù)據(jù)進(jìn)行人臉檢測(cè)（找出視頻幀中是否存在人臉）和人臉識(shí)別（對(duì)于通過人臉檢測(cè)找到的人臉，與已有敏感人物人臉庫中的N個(gè)人臉進(jìn)行比對(duì)，找出最相似的一張臉或多張臉，并給出相似度排序判斷，從而判別是否有敏感人物出現(xiàn)在節(jié)目中）。

3.2圖像識(shí)別

圖像識(shí)別，基于深度學(xué)習(xí)算法及大規(guī)模圖像訓(xùn)練，可以準(zhǔn)確識(shí)別圖片的內(nèi)容分類或圖片中包含的物體類別，從而可以審核圖片是否含有色情、暴恐等不健康內(nèi)容或違規(guī)物品。圖像識(shí)別算法應(yīng)用過程是通過提取節(jié)目視頻關(guān)鍵幀后，轉(zhuǎn)換為一張張圖片，然后傳送給圖像識(shí)別算法，圖像識(shí)別算法會(huì)給出其屬于色情、暴恐的概率或圖像中出現(xiàn)違規(guī)物品的概率，相關(guān)違規(guī)分類或違規(guī)物品需要提前定義并進(jìn)行訓(xùn)練樣本標(biāo)注。

3.3語音識(shí)別

語音識(shí)別算法能夠讓計(jì)算機(jī)自動(dòng)地識(shí)別語音中所攜帶的信息?；谏疃葘W(xué)習(xí)的算法，語音識(shí)別和處理技術(shù)可以克服傳統(tǒng)語音識(shí)別中采用時(shí)間、頻率而導(dǎo)致的不穩(wěn)定問題。語音識(shí)別算法應(yīng)用過程先對(duì)音頻文件進(jìn)行識(shí)別處理，在我國一般要求能夠識(shí)別普通話、粵語、英語，并將結(jié)果轉(zhuǎn)換為中英文文本，再由自然語言處理引擎對(duì)文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識(shí)別?，F(xiàn)在語音處理技術(shù)在秒級(jí)實(shí)時(shí)語音識(shí)別方面仍然不夠成熟而且支持語言有限制。因此，如果應(yīng)用在直播節(jié)目實(shí)時(shí)監(jiān)管的場(chǎng)景上，語音識(shí)別只能作為輔助手段，采用分鐘級(jí)延遲；對(duì)回放視頻和回放音頻則沒有延遲的問題。

3.4OCR文字識(shí)別

對(duì)硬字幕的視頻文件，可以進(jìn)行視頻幀提取并轉(zhuǎn)換為一張張圖片，然后借助OCR文字識(shí)別技術(shù)進(jìn)行處理，獲得視頻幀中出現(xiàn)的字幕文本，再由NLP引擎對(duì)文本內(nèi)容是否敏感違規(guī)進(jìn)行分析識(shí)別。

3.5自然語言處理

自然語言處理算法是AI智能深度學(xué)習(xí)的一個(gè)重要應(yīng)用領(lǐng)域，經(jīng)過幾十年的發(fā)展，基于統(tǒng)計(jì)的模型已經(jīng)成為NLP的主流，同時(shí)人工神經(jīng)網(wǎng)絡(luò)在NLP領(lǐng)域也受到了足夠重視。自然語言處理算法提供包括分詞、命名實(shí)體識(shí)別、文本分類等功能。在我國，通過自然語言處理算法對(duì)視頻字幕和音頻轉(zhuǎn)換后的文本以及節(jié)目網(wǎng)站的其他文本進(jìn)行敏感或違規(guī)內(nèi)容識(shí)別，能支持中英文文本識(shí)別。

4AI在安全播出領(lǐng)域應(yīng)用需求分析

4.1AI在節(jié)目審核中的應(yīng)用

功能上，AI技術(shù)已支持圖像、文本、視頻、音頻的識(shí)別與理解，可提供內(nèi)容敏感、淫穢色情、恐怖暴力及不良圖文信息鑒別過濾等多個(gè)維度的審核能力。但在實(shí)際情況中，媒資內(nèi)容中往往存在語意不清、界限模糊的內(nèi)容，需要通過專家的人工審核來鑒別，而專家的政治素質(zhì)和業(yè)務(wù)素質(zhì)是審核鑒別的關(guān)鍵因素。在廣播電視行業(yè)，對(duì)媒資內(nèi)容的審核能力，對(duì)不良信息的鑒別能力是需要經(jīng)歷長期培養(yǎng)和實(shí)踐方可形成的；同時(shí)，審核專家還必須實(shí)時(shí)更新業(yè)務(wù)知識(shí)方可跟上安全播出的需求發(fā)展。因此，在較長時(shí)期內(nèi)，AI審核無法代替人工審核，媒資內(nèi)容審核必須依靠有經(jīng)驗(yàn)的審核專家。AI系統(tǒng)對(duì)于較確定條件下的情景具有快速判斷和處理的能力，可將AI應(yīng)用于對(duì)媒資內(nèi)容的初步審核環(huán)節(jié)，利用AI審核鑒別和過濾出媒資中明顯違規(guī)的有害內(nèi)容并提供視頻標(biāo)簽，在此基礎(chǔ)上進(jìn)行專家人工二次審核。在待審核節(jié)目數(shù)量較多的情況下，采取這種審核模式，AI可以在較大程度上提升專家審核速度和效率。

4.2AI在監(jiān)聽監(jiān)看中的應(yīng)用

AI技術(shù)可以應(yīng)用于電視節(jié)目的媒資內(nèi)容監(jiān)聽監(jiān)看環(huán)節(jié)，在電視節(jié)目播出方面發(fā)揮安全播出輔助作用。從時(shí)效性分類，電視臺(tái)播出的節(jié)目有兩種類型：非直播節(jié)目和直播節(jié)目。對(duì)于電視臺(tái)而言，非直播類節(jié)目在節(jié)目播出編排之前對(duì)其內(nèi)容進(jìn)行審核；直播類節(jié)目，尤其是體育賽事、大型國內(nèi)和國際活動(dòng)的現(xiàn)場(chǎng)直播，則無法實(shí)現(xiàn)播出前審核，只能采取在直播過程中對(duì)其內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)聽監(jiān)看的措施并疊加延時(shí)機(jī)制。大型活動(dòng)現(xiàn)場(chǎng)具有人群聚集的特點(diǎn)，現(xiàn)場(chǎng)情景不可控風(fēng)險(xiǎn)高，其直播畫面信息量大、背景環(huán)境復(fù)雜，人工監(jiān)聽監(jiān)看難以全面應(yīng)對(duì)。這種情況下，可以利用AI技術(shù)輔助人工對(duì)現(xiàn)場(chǎng)直播內(nèi)容進(jìn)行監(jiān)聽監(jiān)看。具體來說，可以利用AI圖像識(shí)別技術(shù)，對(duì)現(xiàn)場(chǎng)直播畫面中的人臉、場(chǎng)景和文字信息進(jìn)行識(shí)別提取，快速判斷是否含有敏感信息。此外，可以利用AI語音識(shí)別技術(shù)和自然語言處理技術(shù)對(duì)現(xiàn)場(chǎng)的語音進(jìn)行識(shí)別分析，并進(jìn)行敏感信息檢索過濾。境外頻道由于涉及的語言種類多，對(duì)其節(jié)目內(nèi)容進(jìn)行監(jiān)聽監(jiān)看的難度非常大。隨著支持的語言種類不斷豐富，可以利用AI語種識(shí)別和語音識(shí)別技術(shù)來輔助人工在境外頻道監(jiān)聽監(jiān)看中發(fā)揮積極作用。

5AI輔助安全播出技術(shù)部署方案

AI輔助安全播出技術(shù)部署方案示意如圖1所示，按功能模塊分為AI平臺(tái)、審核平臺(tái)、監(jiān)聽監(jiān)看平臺(tái)、播控平臺(tái)和安全播出知識(shí)庫。AI平臺(tái)對(duì)接收到的音視頻數(shù)據(jù)進(jìn)行智能分析，提取其特征并與安全播出知識(shí)庫比對(duì)，發(fā)現(xiàn)問題會(huì)返回結(jié)果給審核平臺(tái)和監(jiān)看監(jiān)聽平臺(tái)；安全播出知識(shí)庫存放違反安全播出的一些敏感信息特征；審核平臺(tái)主要針對(duì)播出內(nèi)容進(jìn)行合規(guī)性審核；監(jiān)聽監(jiān)看平臺(tái)主要對(duì)直播播出節(jié)目內(nèi)容再次審核，確保播出節(jié)目萬無一失；播控平臺(tái)負(fù)責(zé)電視傳輸及切換。按實(shí)現(xiàn)內(nèi)容分為AI輔助內(nèi)容審核和AI輔助監(jiān)聽監(jiān)看兩個(gè)部分。在AI輔助內(nèi)容審核中，審核人員主要是利用AI平臺(tái)對(duì)內(nèi)容進(jìn)行初審，通過人臉識(shí)別可發(fā)現(xiàn)敏感問題內(nèi)容，場(chǎng)景識(shí)別可發(fā)現(xiàn)淫穢色情和恐怖暴力等明顯問題內(nèi)容，通過語音轉(zhuǎn)文本后進(jìn)行關(guān)鍵詞識(shí)別以及語義分析可發(fā)現(xiàn)音頻中的問題內(nèi)容。在AI輔助監(jiān)聽監(jiān)看中，通過監(jiān)聽監(jiān)看平臺(tái)統(tǒng)一實(shí)施對(duì)電視頻道的監(jiān)測(cè)，由監(jiān)聽監(jiān)看平臺(tái)調(diào)度AI平臺(tái)實(shí)現(xiàn)輔助監(jiān)聽監(jiān)看，具體工作流程如下。（1）播控平臺(tái)傳送電視頻道信號(hào)到監(jiān)聽監(jiān)看平臺(tái)。（2）監(jiān)聽監(jiān)看平臺(tái)將節(jié)目數(shù)據(jù)傳送給AI平臺(tái)。（3）AI平臺(tái)對(duì)節(jié)目數(shù)據(jù)進(jìn)行識(shí)別，根據(jù)安全播出知識(shí)庫進(jìn)行推理和判斷，并將結(jié)果返回給監(jiān)聽監(jiān)看平臺(tái)。（4）工作人員從監(jiān)聽監(jiān)看平臺(tái)獲取AI平臺(tái)運(yùn)行結(jié)果，用于輔助監(jiān)聽監(jiān)看。

6AI引發(fā)的變化

可以預(yù)見，安全播出領(lǐng)域引入AI技術(shù)后，可引發(fā)如下變化。

6.1監(jiān)聽監(jiān)看工作模式的調(diào)整

引入AI技術(shù)輔助安全播出工作后，一方面，由少數(shù)專業(yè)技術(shù)人員對(duì)安全播出知識(shí)庫進(jìn)行日常更新和維護(hù)，將內(nèi)容安全審核相關(guān)知識(shí)和專家經(jīng)驗(yàn)實(shí)時(shí)轉(zhuǎn)化為符合規(guī)則的電子數(shù)據(jù)；另一方面，在AI輔助下，更多的推理判斷由AI執(zhí)行，監(jiān)聽監(jiān)看工作人員則可將工作重心放在應(yīng)急操作及技術(shù)處置上。

6.2降低人工監(jiān)聽監(jiān)看難度和復(fù)雜度

AI技術(shù)基于安全播出知識(shí)庫對(duì)節(jié)目內(nèi)容安全性提供輔助推理判斷，一方面，全體監(jiān)聽監(jiān)看人員能夠共享知識(shí)庫中的知識(shí)和專家經(jīng)驗(yàn)，減小因人員業(yè)務(wù)素質(zhì)和主觀判斷能力不同而造成的工作結(jié)果差異；另一方面，AI平臺(tái)強(qiáng)大的運(yùn)算能力使得監(jiān)聽監(jiān)看更加全面和細(xì)節(jié)化。AI能夠大大降低監(jiān)聽監(jiān)看人員對(duì)內(nèi)容安全進(jìn)行判斷的難度和復(fù)雜度，提升安全播出工作整體效果。

6.3減輕安播人員值守期間壓力

AI技術(shù)在起到內(nèi)容安全審核輔助作用的同時(shí)提高了安播工作的整體效果，減輕了安播人員的審核和監(jiān)聽監(jiān)看工作精神壓力，提升了工作體驗(yàn)，有利于留住業(yè)務(wù)人才，培養(yǎng)專業(yè)安播團(tuán)隊(duì)。

7結(jié)語

為更好地將AI應(yīng)用于安全播出領(lǐng)域，本文提出如下建議供參考：一是出于安全播出工作重要性，建立AI行業(yè)能力平臺(tái)，以滿足利用AI輔助安全播出工作在安全性和運(yùn)算能力方面的實(shí)際需求；二是建立安全播出行業(yè)專家知識(shí)庫，以滿足監(jiān)聽監(jiān)看從業(yè)人員對(duì)不斷更新的安全播出相關(guān)知識(shí)和專家經(jīng)驗(yàn)的實(shí)際需求。互聯(lián)網(wǎng)技術(shù)、通信技術(shù)和編碼技術(shù)的發(fā)展，使得視頻以高清、超高清、AR/VR等多形式進(jìn)行高質(zhì)量呈現(xiàn)，視頻的信息量以幾何級(jí)數(shù)暴漲。隨著AI技術(shù)和運(yùn)算能力持續(xù)發(fā)展與提升，AI必將不斷賦能廣播電視行業(yè)，目前媒體內(nèi)容安全審核以“人工為主、AI為輔”人機(jī)結(jié)合方式將會(huì)發(fā)展到以“AI為主、人工為輔”的機(jī)人智慧方式，進(jìn)一步加強(qiáng)各類情況、各種方式的大數(shù)據(jù)分析、智能處理和機(jī)器學(xué)習(xí)能力，進(jìn)一步優(yōu)化提升AI對(duì)內(nèi)容識(shí)別、報(bào)警和處理的精確度與可信度，最大程度降低監(jiān)播人員的干預(yù)度，實(shí)現(xiàn)內(nèi)容安全管控的L5級(jí)“自動(dòng)駕駛”，在安全播出領(lǐng)域發(fā)揮更重要的作用。

參考文獻(xiàn)

[1]王文敏.人工智能原理[M].北京:高等教育出版社,2019.

[2]劉樹春,賀盼,馬建奇,等.深度實(shí)踐OCR：基于深度學(xué)習(xí)的文字識(shí)別[M].北京:機(jī)械工業(yè)出版社,2020.

[3]蔣巍,張健,曾浩.基于智能視頻監(jiān)控系統(tǒng)的運(yùn)動(dòng)目標(biāo)監(jiān)測(cè)和跟蹤[J].電視技術(shù),2012,36(5):110-114.

[4]朱明,梁棟,范益政,等.基于普特征的圖像匹配算法[J].華南理工大學(xué)學(xué)報(bào)（自然科學(xué)版）,2015,43(9):60-66.

[5]馮偉興,唐墨,賀波,等.VisualC++數(shù)字圖像模式識(shí)別技術(shù)詳解[M].北京:機(jī)械工業(yè)出版社,2010.

[6]王海濤.廣播電視監(jiān)播系統(tǒng)中音頻及語音數(shù)據(jù)處理技術(shù)研究[D].西安:西北工業(yè)大學(xué),2007.

作者：張?jiān)焐?李世平 陳志強(qiáng) 單位：廣東有線廣播電視網(wǎng)絡(luò)有限公司