深度學(xué)習(xí)技術(shù)在黨校工作的應(yīng)用
時(shí)間:2022-10-26 03:36:47
導(dǎo)語:深度學(xué)習(xí)技術(shù)在黨校工作的應(yīng)用一文來源于網(wǎng)友上傳,不代表本站觀點(diǎn),若需要原創(chuàng)文章可咨詢客服老師,歡迎參考。
摘要:為解決黨校系統(tǒng)缺乏對黨務(wù)工作數(shù)據(jù)進(jìn)行深層分析的功能從而制約了黨校教學(xué)事業(yè)發(fā)展的問題,文章對深度學(xué)習(xí)技術(shù)在黨校教學(xué)和管理工作領(lǐng)域的應(yīng)用進(jìn)行了深入探索。文章對黨務(wù)工作現(xiàn)狀進(jìn)行了分析,對深度學(xué)習(xí)的概念與相關(guān)技術(shù)進(jìn)行了介紹,從需求、數(shù)據(jù)、技術(shù)三個(gè)維度對深度學(xué)習(xí)技術(shù)在黨校工作中的應(yīng)用基礎(chǔ)進(jìn)行了說明,文章列舉了深度學(xué)習(xí)技術(shù)在黨校工作領(lǐng)域的三個(gè)應(yīng)用場景,最后還對應(yīng)用過程進(jìn)行了詳細(xì)闡述。深度學(xué)習(xí)技術(shù)的應(yīng)用對于提升黨校數(shù)據(jù)利用率、拓展相關(guān)功能、合理配置師資資源等方面具有積極的意義。
關(guān)鍵詞:深度學(xué)習(xí);數(shù)據(jù)挖掘;黨校;模型構(gòu)建;模型訓(xùn)練
1背景
黨校是我國教育培訓(xùn)黨員干部的主渠道和研究宣傳馬克思主義的主陣地。黨校的職責(zé)是,通過一系列有計(jì)劃地培訓(xùn),來提高廣大黨員干部用馬克思主義的立場、觀點(diǎn)和方法來處理實(shí)際問題的能力[1]。黨校系統(tǒng)的信息化建設(shè),是我國干部教育事業(yè)發(fā)展的必然要求,也是新時(shí)代黨員教育事業(yè)應(yīng)對科技快速發(fā)展形勢的必然選擇[2]。近些年來,我國黨校系統(tǒng)的信息化建設(shè)取得了跨越式發(fā)展,工作效率和教學(xué)能力都有了顯著提高,但在基于黨校需求方面的數(shù)據(jù)分析研究領(lǐng)域基本處于空白。目前,各黨政機(jī)關(guān)使用的應(yīng)用系統(tǒng)均缺乏對黨務(wù)工作數(shù)據(jù)進(jìn)行深層分析的功能,各黨校的日常教學(xué)工作也是如此,制約了黨校教學(xué)事業(yè)發(fā)展。當(dāng)前,黨校工作模式正由傳統(tǒng)經(jīng)驗(yàn)?zāi)J较蛞越虒W(xué)與科研有機(jī)融合為核心的模式轉(zhuǎn)變,因此引入深度學(xué)習(xí)技術(shù)對于提升黨校數(shù)據(jù)利用率、創(chuàng)新黨校辦學(xué)機(jī)制、優(yōu)化黨校師資資源、加強(qiáng)黨校內(nèi)涵建設(shè)、提高黨校教學(xué)實(shí)效等方面具有積極的意義。
2深度學(xué)習(xí)介紹
深度學(xué)習(xí)(DeepLearning)這一概念是Hinton等人在2006年提出的,屬于人工智能研究領(lǐng)域中的一個(gè)新的分支。深度學(xué)習(xí)可以通過各種深度神經(jīng)網(wǎng)絡(luò)模型來對現(xiàn)實(shí)世界中的不同問題進(jìn)行建模,依托大數(shù)據(jù)對模型進(jìn)行訓(xùn)練,從而進(jìn)行數(shù)據(jù)間的相關(guān)性發(fā)現(xiàn),以此來實(shí)現(xiàn)現(xiàn)實(shí)問題的預(yù)測分析和推理分析[3]。經(jīng)過多年的發(fā)展,以深度學(xué)習(xí)為代表的人工智能技術(shù),已經(jīng)在很大程度顛覆了傳統(tǒng)學(xué)科的研究方法。依托強(qiáng)大的感知能力、擬合能力和推理能力,深度學(xué)習(xí)能適用于很多的應(yīng)用場景,例如:自然語言處理、計(jì)算機(jī)視覺、生物醫(yī)療、推薦系統(tǒng)等。鑒于深度學(xué)習(xí)在學(xué)術(shù)界和工業(yè)界的巨大影響力,2013年,深度學(xué)習(xí)技術(shù)被研究人員評為世界十大技術(shù)突破之首。深度學(xué)習(xí)從概念提出至今,15年的時(shí)間里經(jīng)歷了發(fā)展期、爆發(fā)期,中間新提出或衍生出了很多新的算法原理,這些算法在多項(xiàng)任務(wù)中都表現(xiàn)出色,典型的深度學(xué)習(xí)模型有:卷積神經(jīng)網(wǎng)絡(luò)(CNN)、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)、深度神經(jīng)網(wǎng)絡(luò)(DNN)、自編碼器(AE)等[4],其中CNN、RNN、DNN屬于監(jiān)督學(xué)習(xí),AE屬于無監(jiān)督學(xué)習(xí)。目前,深度學(xué)習(xí)技術(shù)應(yīng)用正逐漸滲透到我們生活的不同領(lǐng)域,我們?nèi)粘J褂玫暮芏嗉夹g(shù)都融入了深度學(xué)習(xí)的相關(guān)技術(shù),比如:圖像識(shí)別、醫(yī)療數(shù)據(jù)分析、文字翻譯、網(wǎng)絡(luò)購物、廣告推送等,且都取得了非常好的應(yīng)用效果。特別是2016年3月,Deep⁃Mind公司開發(fā)的AlphaGo與圍棋世界冠軍、職業(yè)九段棋手李世石進(jìn)行圍棋人機(jī)大戰(zhàn),以4比1的總比分獲勝。
3應(yīng)用基礎(chǔ)
3.1需求基礎(chǔ)。黨校系統(tǒng)經(jīng)過多年的發(fā)展,雖然形成了相對完善的教學(xué)制度和管理理念,但工作模式相對固化、傳統(tǒng)思維掣肘,不利于黨校事業(yè)的進(jìn)一步發(fā)展。為貫徹落實(shí)關(guān)于黨校工作的重要指示精神,提高黨校的智能化管理水平,黨校系統(tǒng)也需積極地探索大數(shù)據(jù),迎接人工智能時(shí)代。雖然目前以深度學(xué)習(xí)為代表的人工智能技術(shù)在黨校工作中的應(yīng)用基本屬于空白,但深度學(xué)習(xí)技術(shù)在黨校領(lǐng)域應(yīng)用潛力巨大,具有很強(qiáng)的可行性和實(shí)用性。在黨校的教學(xué)培訓(xùn)、理論研究、日常管理等環(huán)節(jié)中,均可以利用深度學(xué)習(xí)技術(shù)進(jìn)行黨校數(shù)據(jù)的二次開發(fā),提高管理服務(wù)水平。3.2數(shù)據(jù)基礎(chǔ)。數(shù)據(jù)是數(shù)字時(shí)代的新“石油”,是深度學(xué)習(xí)三大核心要素之一,由于黨校的正規(guī)化、信息化建設(shè)比較早,因此各黨校在日常的教學(xué)、管理等過程中產(chǎn)生了大量的信息數(shù)據(jù),包括結(jié)構(gòu)化的數(shù)據(jù)和非結(jié)構(gòu)的數(shù)據(jù)。結(jié)構(gòu)化的數(shù)據(jù)指的是黨校信息系統(tǒng)在使用過程中產(chǎn)生的系統(tǒng)數(shù)據(jù),例如黨校電子文案系統(tǒng)、黨校人員管理系統(tǒng)、黨校財(cái)務(wù)管理系統(tǒng)等;非結(jié)構(gòu)化數(shù)據(jù)指的是課程教案、公文資料、任職通知、工作記錄、年終總結(jié)、人事檔案等紙質(zhì)資料。這些數(shù)據(jù)非常珍貴,為深度學(xué)習(xí)在黨校系統(tǒng)內(nèi)的應(yīng)用提供了非常好的數(shù)據(jù)基礎(chǔ)。3.3技術(shù)基礎(chǔ)。這些年,深度學(xué)習(xí)發(fā)展很快,新模型層出不窮,深度神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)、生成對抗網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等模型在不同領(lǐng)域都取得了非常好的應(yīng)用效果。其中,在圖像分類方面,基于CNN的技術(shù)已經(jīng)超過了人類的準(zhǔn)確率[6];在語音識(shí)別方面,基于DNN的技術(shù)達(dá)到了95%的準(zhǔn)確率[7];在機(jī)器翻譯方面,基于DNN的技術(shù)已經(jīng)和人類的平均翻譯水平大致相當(dāng)[8]。此外,面向深度學(xué)習(xí)的可用開源框架近些年也迎來了爆發(fā)式增長,例如:Tensorflow[9]、Caffe、MXNet、Theano、Torch和PyTorc等,這些為深度學(xué)習(xí)技術(shù)在黨校數(shù)據(jù)挖掘中的應(yīng)用提供了非常好的技術(shù)基礎(chǔ)。
4應(yīng)用分析
4.1在個(gè)性化教學(xué)中的應(yīng)用。個(gè)性化教學(xué)是近些年為了提高黨校教學(xué)質(zhì)量而提出的新方案,具體是針對不同類型的學(xué)員特點(diǎn),在授課方式(講授式教學(xué)、互動(dòng)式教學(xué)、研討式教學(xué)、體驗(yàn)式教學(xué)等)、授課內(nèi)容(理論、案例、實(shí)操等)、授課時(shí)長等方面制定個(gè)性化的教學(xué)活動(dòng),具有針對性強(qiáng)、教學(xué)效果好的優(yōu)點(diǎn)。在實(shí)施過程中,利用深度學(xué)習(xí)技術(shù)可以分析得出不同特征學(xué)員的特點(diǎn)和需求,以此來制定針對性的教學(xué)方案。例如,黃宏濤[10]基于BP神經(jīng)網(wǎng)絡(luò)提出了一種認(rèn)知診斷方法,探討該方法在個(gè)性化教學(xué)中的應(yīng)用,結(jié)果表明:在小樣本診斷中該方法能夠?yàn)閭€(gè)性化補(bǔ)救教學(xué)提供依據(jù);牛亞男[11]基于神經(jīng)網(wǎng)絡(luò)技術(shù)設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)教學(xué)資源個(gè)性化推薦系統(tǒng),應(yīng)用效果良好。4.2探索教學(xué)質(zhì)量因素方面的應(yīng)用。采用深度學(xué)習(xí)技術(shù),可以從歷史的教學(xué)數(shù)據(jù)和教學(xué)結(jié)果之間的因素,分析教學(xué)管理中授課信息之間的隱藏關(guān)系,探索不同授課方式、不同授課對象等對教學(xué)質(zhì)量的影響,為科學(xué)評估教學(xué)質(zhì)量和教學(xué)管理提供決策支持。例如,溫新[12]提出了一種基于改進(jìn)遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的教學(xué)質(zhì)量評價(jià)模型;于權(quán)[13]基于神經(jīng)網(wǎng)絡(luò)技術(shù),結(jié)合軍校教學(xué)工作的實(shí)際特點(diǎn)和部隊(duì)教育發(fā)展對教學(xué)質(zhì)量的要求開發(fā)了一種有效的軍校教學(xué)質(zhì)量評價(jià)系統(tǒng)。4.3在合理配置師資資源中的應(yīng)用。黨校教學(xué)資源有限,通過構(gòu)建基于深度學(xué)習(xí)的教學(xué)資源優(yōu)化模型,來合理地配置教師、教具、場地、財(cái)力、信息等資源,從而達(dá)到黨校教學(xué)資源的最大化利用、最優(yōu)化配置。例如,徐曉明[14]在分析任務(wù)需求的基礎(chǔ)上,提出了一種基于SVM的仿真資源調(diào)度模型,取得了整體最優(yōu)的調(diào)度結(jié)果;夏鋒等[15]提出了一種基于神經(jīng)網(wǎng)絡(luò)的教學(xué)資源推薦方法,取得了較好的應(yīng)用效果。
5應(yīng)用過程
5.1數(shù)據(jù)準(zhǔn)備和數(shù)據(jù)預(yù)處理。黨校存儲(chǔ)的豐富數(shù)據(jù)是深度學(xué)習(xí)在該領(lǐng)域應(yīng)用的基礎(chǔ)。數(shù)據(jù)從黨校各個(gè)部門采集,包括結(jié)構(gòu)化的電子數(shù)據(jù)和非結(jié)構(gòu)化的紙質(zhì)數(shù)據(jù)。不過為了滿足深度學(xué)習(xí)數(shù)據(jù)分析處理的基本要求,需要提前對源數(shù)據(jù)進(jìn)行數(shù)據(jù)預(yù)處理。對于以紙質(zhì)文檔形式留存的數(shù)據(jù),比如:教學(xué)檔案、滿意度調(diào)查表、任職通知、工作記錄、年終總結(jié)、人事檔案等,需要進(jìn)行數(shù)字化處理;對于系統(tǒng)內(nèi)的數(shù)據(jù)庫數(shù)據(jù),主要包括以下操作:基于數(shù)據(jù)集成的數(shù)據(jù)抽取,基于數(shù)據(jù)審查的數(shù)據(jù)清洗,基于數(shù)據(jù)篩選的數(shù)據(jù)規(guī)約,基于數(shù)據(jù)序列化、歸一化的數(shù)據(jù)轉(zhuǎn)換,基于文本內(nèi)容的關(guān)鍵詞提取等等。5.2模型構(gòu)建及數(shù)據(jù)訓(xùn)練。針對不同的應(yīng)用場景,構(gòu)建不同的深度學(xué)習(xí)模型,例如:在探索個(gè)性化教學(xué)中的應(yīng)用時(shí),考慮到授課時(shí)間長的因素,可以選用長短時(shí)間記憶網(wǎng)絡(luò)。模型構(gòu)建涉及:深度學(xué)習(xí)模型的選擇和搭建以及參數(shù)的選擇和調(diào)優(yōu)等過程,相關(guān)參數(shù)包括輸入序列、層數(shù)、層節(jié)點(diǎn)數(shù)、激活函數(shù)和損失函數(shù)等等。訓(xùn)練模型的過程中可以采用10折交叉驗(yàn)證(10-foldCrossValidation)與留一法(Leave-One-Out)、分層采樣(Stratification)來測試模型的準(zhǔn)確性。5.3功能實(shí)現(xiàn)及系統(tǒng)開發(fā)。模型在達(dá)到一定的精度之后即實(shí)現(xiàn)了相關(guān)功能,此時(shí)需要考慮基于該模型的軟件系統(tǒng)的開發(fā),系統(tǒng)在開發(fā)過程中需要與黨校工作人員廣泛交流,結(jié)合他們的工作經(jīng)驗(yàn),以期達(dá)到實(shí)用、科學(xué)的目的,最終實(shí)現(xiàn)拓展黨校服務(wù)內(nèi)涵,提高教學(xué)管理水平的目標(biāo)。
6結(jié)束語
現(xiàn)階段,黨校在數(shù)據(jù)分析研究方面基礎(chǔ)薄弱,目前黨校部門使用的系統(tǒng)均缺乏對數(shù)據(jù)進(jìn)行深層分析以及對黨校知識(shí)進(jìn)行自動(dòng)獲取的功能,制約了黨校工作的進(jìn)一步發(fā)展。而深度學(xué)習(xí)技術(shù)的使用,為我們開展黨校教學(xué)和管理工作大數(shù)據(jù)分析提供了技術(shù)基礎(chǔ),因此,引入深度學(xué)習(xí)技術(shù)對于黨校系統(tǒng)具有非常重要的意義。雖然目前深度學(xué)習(xí)技術(shù)在黨校教學(xué)領(lǐng)域的研究尚處于研究階段,但隨著相關(guān)工作的開展,深度學(xué)習(xí)技術(shù)在黨校領(lǐng)域的發(fā)展趨勢必將越來越深入、越來越廣泛。
作者:史轉(zhuǎn)轉(zhuǎn) 周靖博 寇冰 單位:1.中共武漢市硚口區(qū)委黨校 2.戰(zhàn)略支援部隊(duì)興城特勤療養(yǎng)中心