大數(shù)據(jù)在云計(jì)算中的應(yīng)用范文
時(shí)間:2023-12-29 17:45:03
導(dǎo)語:如何才能寫好一篇大數(shù)據(jù)在云計(jì)算中的應(yīng)用,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。
篇1
關(guān)鍵詞:煤礦 物聯(lián)網(wǎng) 大數(shù)據(jù) 云計(jì)算 安全生產(chǎn)
中圖分類號(hào):TD672 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1672-3791(2017)03(c)-0028-02
The Internet of Things, Big Data and Cloud Computing Technology in the Application Research of Coal Mine Safety Production
Yang Jingjie
(LiaoNing JianZhu Vocational University, Liaoyang Liaoning,111000,China)
Abstract: The development and construction process of coal mine integrated automation, points out that the three kinds of technology in coal mine safety production guarantee of the position, the role of safety production in coal mine relationships: coal mining technology of each system framework and roadmap, by the Internet of things and big data to establish, for large data processing, adopt cloud computing, Internet of things, big data and cloud computing technology monitoring system will be ZhuLiuShi, make its present early warning and monitoring system function, improve the safety in production.
Key Words: Coal mine; The Internet of things; Bigdata; Cloudcomputing; Production safety
物聯(lián)網(wǎng)、大數(shù)據(jù)及云計(jì)算技術(shù)作為多個(gè)管理方法及管理系統(tǒng)提出,主要是為了確保煤炭企業(yè)的安全生產(chǎn)與發(fā)展;我們?cè)诖朔矫嫱度肓速Y金及設(shè)備,用這樣的方法來保護(hù)安全生產(chǎn)系統(tǒng)及設(shè)備。在過去的生產(chǎn)實(shí)踐中,缺乏系統(tǒng)技術(shù)的瞻遠(yuǎn)性,缺少有效的技術(shù)處理手段,缺少互聯(lián)互通的關(guān)系,導(dǎo)致了原有的系統(tǒng)和設(shè)備不能夠提高煤炭企業(yè)的安全生產(chǎn)水平,且使煤礦安全生產(chǎn)系統(tǒng)不能有機(jī)生產(chǎn),在邏輯和功能方面均有不足之處。那么,為了能夠更好地提高煤礦的安全生產(chǎn),我們就必須對(duì)物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算這幾類技術(shù)進(jìn)行深入研究,并有效地應(yīng)用到煤礦生產(chǎn)中去。
1 物聯(lián)網(wǎng)、大數(shù)據(jù)及云計(jì)算技術(shù)
1.1 物聯(lián)網(wǎng)、大數(shù)據(jù)技術(shù)
美國(guó)工科學(xué)院第一次列舉出“物聯(lián)網(wǎng)”的技術(shù)核心,無線識(shí)別頻率這一特性正是物聯(lián)網(wǎng)技術(shù)的核心所在,可實(shí)現(xiàn)清晰的通信協(xié)議,更完美的信息聯(lián)通。發(fā)達(dá)國(guó)家指出互聯(lián)網(wǎng)技術(shù)產(chǎn)業(yè)發(fā)展的重要性,并資助了一些物聯(lián)網(wǎng)核心技術(shù)的企業(yè),相較于落后國(guó)家,發(fā)達(dá)國(guó)家較為重視互聯(lián)網(wǎng)技術(shù)的發(fā)展。我國(guó)早已看到這種新興產(chǎn)業(yè)的優(yōu)勢(shì),正在對(duì)物聯(lián)網(wǎng),實(shí)現(xiàn)戰(zhàn)略協(xié)調(diào),投入政策和資金來支持物聯(lián)網(wǎng)事業(yè)及互聯(lián)網(wǎng)的發(fā)展,開始了長(zhǎng)遠(yuǎn)的研究和建設(shè)。
大數(shù)據(jù)的概念是抽象的,一般是由它的功能推出,代表定義“3V”,它有“大容量,多樣性,快”的數(shù)據(jù)庫特性。數(shù)據(jù)中心網(wǎng)絡(luò)標(biāo)識(shí)具有“低價(jià)值密度”的大型數(shù)據(jù)庫的重要特征。數(shù)據(jù)存儲(chǔ),管理和分析數(shù)據(jù)引發(fā)的挑戰(zhàn),皆為大數(shù)據(jù)所影響。因此,基于數(shù)據(jù)收集和集成方法的ETL、數(shù)據(jù)抽取、變換和加載已經(jīng)提出了基于Hadoop的數(shù)據(jù)存儲(chǔ)方法。
1.2 云計(jì)算技術(shù)
現(xiàn)今,新興的云計(jì)算技術(shù)是非常流行的,其具備按排需求、規(guī)模龐大、虛構(gòu)能力強(qiáng)、模擬能力高、真實(shí)性強(qiáng)、發(fā)展空間廣闊等特征。在這些技術(shù)中,云計(jì)算的商用能量也是不可比擬的,因此得到廣泛性運(yùn)用,軟硬件架構(gòu)體系也由此誕生,例如百度、亞馬遜、微軟等公司都是系統(tǒng)運(yùn)用的代表性企業(yè)。
2 煤礦信息化技術(shù)
2010年開始,我國(guó)對(duì)煤礦行業(yè)信息化的介入有了新的起點(diǎn)。現(xiàn)今的科技人員掌握的煤礦信息大體上一致,沒有突破性進(jìn)展,因此實(shí)施起來不能夠做到盡善盡美,它所實(shí)現(xiàn)的無非是對(duì)各個(gè)子系統(tǒng)設(shè)備進(jìn)行聯(lián)網(wǎng)及遠(yuǎn)程控制,不能夠完善有效的改造計(jì)劃。
3 物聯(lián)網(wǎng)、大數(shù)據(jù)及云計(jì)算技術(shù)提升煤礦安全生產(chǎn)水平的思考
3.1 3種技術(shù)的地位和作用
3種技術(shù)的應(yīng)用,可使環(huán)境監(jiān)測(cè)監(jiān)控系統(tǒng)得到擴(kuò)容,電視數(shù)字化實(shí)現(xiàn)共享,有效防止數(shù)據(jù)癱瘓,因此大大減少了煤礦生產(chǎn)的安全隱患,3種技術(shù)介入煤礦有其必要性。
3.2 應(yīng)用展望
煤礦物聯(lián)網(wǎng)改造建設(shè)后終將迎來煤炭企業(yè)質(zhì)的飛越。我們可以直觀地預(yù)測(cè)到,礦山物聯(lián)網(wǎng)改造建設(shè)后,煤礦安全生產(chǎn)監(jiān)測(cè)監(jiān)控系統(tǒng)提高了預(yù)警能力,使其由被動(dòng)監(jiān)測(cè)系統(tǒng)轉(zhuǎn)換為主動(dòng)監(jiān)測(cè)系統(tǒng),圖1展現(xiàn)了其特有的功能,只有根據(jù)相應(yīng)變化,實(shí)時(shí)抓取安全信息并掌握信息系統(tǒng)的煤礦工作人員情r,使其呈現(xiàn)主動(dòng)狀態(tài),主動(dòng)知道預(yù)警情況,可迅速離開危險(xiǎn)區(qū)域或即將發(fā)生的災(zāi)難。只有實(shí)現(xiàn)這一轉(zhuǎn)變,才能提高煤礦安全生產(chǎn)水平。
4 結(jié)語
物聯(lián)網(wǎng)、大數(shù)據(jù)及云計(jì)算技術(shù)應(yīng)成為提高煤礦安全水平的必要技術(shù)核心方法。為使中國(guó)的煤炭科技騰飛,中國(guó)的信息工作者應(yīng)把握機(jī)會(huì),率先進(jìn)入國(guó)際化先進(jìn)行列,真正邁入物聯(lián)網(wǎng)、大數(shù)據(jù)及云計(jì)算技術(shù)的應(yīng)用研究領(lǐng)域中去。
參考文獻(xiàn)
[1] 鄔賀銓.物聯(lián)網(wǎng)與大數(shù)據(jù)[C]//2013中國(guó)物聯(lián)網(wǎng)大會(huì)暨2013中國(guó)(北京)國(guó)際物聯(lián)網(wǎng)博覽會(huì).2013.
篇2
關(guān)鍵詞:大數(shù)據(jù);計(jì)算機(jī);信息安全
一、前言
隨著信息技術(shù)的不斷發(fā)展,正在給人們的日常工作和生活帶來著深刻的變革,促進(jìn)了工作效率的不斷提高,給人們的生活帶來了諸多便利。但是在信息技術(shù)的應(yīng)用過程中,其信息安全會(huì)受到外界各種不利因素的影響,這就給信息技術(shù)的順利推廣應(yīng)用造成了不小的阻礙。大數(shù)據(jù)作為當(dāng)前一種非常先進(jìn)的處理技術(shù),通過將其有效的運(yùn)用于計(jì)算機(jī)的信息安全工作,能夠在一定從程度上提高信息安全等級(jí),進(jìn)而為計(jì)算機(jī)的信息安全提供可靠保障。
二、計(jì)算機(jī)信息安全中的大數(shù)據(jù)技術(shù)
(1)云計(jì)算技術(shù)。云計(jì)算技術(shù)是大數(shù)據(jù)時(shí)代的典型代表,其也是促進(jìn)大數(shù)據(jù)技術(shù)快速發(fā)展的關(guān)鍵技術(shù),對(duì)于大數(shù)據(jù)技術(shù)的順利推廣應(yīng)用具有十分重要的現(xiàn)實(shí)意義。云計(jì)算技術(shù)是建立在分布式和并行式計(jì)算方法的基礎(chǔ)之上,進(jìn)而對(duì)相關(guān)的計(jì)算機(jī)數(shù)據(jù)進(jìn)行系統(tǒng)全面的梳理統(tǒng)計(jì),再結(jié)合互聯(lián)網(wǎng)中豐富的信息資源,然后進(jìn)行并行式的網(wǎng)格化計(jì)算,從而能夠?qū)Ω鞣N不同的信息資源進(jìn)行統(tǒng)籌規(guī)劃、合理安排。當(dāng)前,由云計(jì)算技術(shù)發(fā)展而來的大數(shù)據(jù)技術(shù),能夠結(jié)合計(jì)算機(jī)信息系統(tǒng)的安全要求采取相適應(yīng)的保障措施。同時(shí),云計(jì)算技術(shù)的有效應(yīng)用也帶來了計(jì)算機(jī)數(shù)據(jù)處理能力的極大提升,并且還在一定程度上改善了計(jì)算機(jī)信息系統(tǒng)的交互性,提高了其適用范圍。此外,在云計(jì)算技術(shù)的實(shí)施過程中,需要存儲(chǔ)大量的信息數(shù)據(jù),這就促進(jìn)了數(shù)據(jù)存儲(chǔ)能力的不斷提升,進(jìn)一步拓展了數(shù)據(jù)信息的空間,為基于大數(shù)據(jù)技術(shù)的計(jì)算機(jī)信息安全向多樣化領(lǐng)域的不斷滲透起到了一定的促進(jìn)作用。(2)數(shù)據(jù)備份技術(shù)。信息技術(shù)給人們的交往和經(jīng)濟(jì)生活帶來了良好的交互性,但是也對(duì)計(jì)算機(jī)的信息安全提出了挑戰(zhàn),大數(shù)據(jù)技術(shù)的有效應(yīng)用能夠進(jìn)一步提高信息的安全等級(jí),為人們的重要信息安全提供可靠保障。數(shù)據(jù)備份作為大數(shù)據(jù)技術(shù)中的重要技術(shù),其在信息安全保障方面發(fā)揮著至關(guān)重要的作用。在大數(shù)據(jù)技術(shù)的應(yīng)用過程中,尤其是在企業(yè)的信息系統(tǒng)中引入大數(shù)據(jù)技術(shù),數(shù)據(jù)備份技術(shù)能夠最大限度提高企業(yè)的信息安全,為企業(yè)的重要信息提供一個(gè)安全可靠的存儲(chǔ)空間。當(dāng)前是一個(gè)信息爆炸的時(shí)代,在人們享受海量信息的同時(shí),也伴隨著隱私信息泄露的風(fēng)險(xiǎn),不論是對(duì)于個(gè)人還是企業(yè)而言,信息安全都具有非常重要的實(shí)際意義。數(shù)據(jù)備份技術(shù)能夠從根本上解決各種突況而造成的重要數(shù)據(jù)丟失問題,降低信息數(shù)據(jù)的丟失概率,最大限度的保障信息安全。
三、計(jì)算機(jī)信息安全中的大數(shù)據(jù)技術(shù)應(yīng)用
(一)云計(jì)算技術(shù)在計(jì)算機(jī)信息安全中的應(yīng)用云計(jì)算是將互聯(lián)網(wǎng)和云平臺(tái)進(jìn)行有機(jī)結(jié)合而形成的技術(shù),其能夠通過構(gòu)建模型將全部的信息數(shù)據(jù)存儲(chǔ)在云端,這就能夠顯著降低計(jì)算機(jī)處理各種數(shù)據(jù)信息的費(fèi)用,為企業(yè)帶來良好的經(jīng)濟(jì)效益。在進(jìn)行云計(jì)算的過程中,配套的技術(shù)服務(wù)軟件能夠通過無線局域網(wǎng)構(gòu)建一個(gè)相對(duì)穩(wěn)定的數(shù)據(jù)傳輸網(wǎng)格,針對(duì)大數(shù)據(jù)的信息處理要求,能夠進(jìn)一步升級(jí)成為閉環(huán)反饋信息處理模型。在采用云計(jì)算處理數(shù)據(jù)的過程中,整個(gè)計(jì)算過程能夠通過一個(gè)有向無環(huán)的數(shù)據(jù)流程圖進(jìn)行系統(tǒng)全面的展示,在此基礎(chǔ)上,能夠結(jié)合云計(jì)算所具有的并行計(jì)算特點(diǎn),形成一系列的組和一系列的傳輸遠(yuǎn)程數(shù)據(jù)所用的隱性通道組成了云計(jì)算的計(jì)算服務(wù)模式。
(二)數(shù)據(jù)備份技術(shù)在計(jì)算機(jī)信息安全中的應(yīng)用隨著企業(yè)規(guī)模的不斷發(fā)展壯大,在其生產(chǎn)經(jīng)營(yíng)過程中會(huì)產(chǎn)生大量的生產(chǎn)信息數(shù)據(jù),這就需要為其提供充足的存儲(chǔ)空間,但是在實(shí)際的數(shù)據(jù)存儲(chǔ)過程中,存在大量的不利影響因素,這就會(huì)給數(shù)據(jù)的安全存儲(chǔ)帶來不小的隱患,因此,將數(shù)據(jù)備份技術(shù)運(yùn)用于計(jì)算機(jī)的信息安全工作中,能夠最大限度避免重要數(shù)據(jù)丟失,將企業(yè)損失降低到最少。在數(shù)據(jù)備份存儲(chǔ)過程中,為了能夠從根本上保障企業(yè)信息安全,不僅要定期對(duì)重要的生產(chǎn)數(shù)據(jù)進(jìn)行備份,而且還要注重備份其中的工作細(xì)節(jié)。在傳統(tǒng)的數(shù)據(jù)備份過程中,通常采用U盤和移動(dòng)硬盤等存儲(chǔ)設(shè)備進(jìn)行數(shù)據(jù)存儲(chǔ),但是隨著數(shù)據(jù)信息總量的逐漸增多,這些傳統(tǒng)的存儲(chǔ)設(shè)備已經(jīng)無法滿足數(shù)據(jù)備份的要求。為了能夠提供更加廣闊的存儲(chǔ)空間,這就需要借助云備份,云平臺(tái)能夠提供海量的存儲(chǔ)空間,并且還具有非常高的安全性。
(三)Hadoop在計(jì)算機(jī)信息安全中的應(yīng)用當(dāng)前數(shù)據(jù)的類型逐漸增多,呈現(xiàn)多樣化的發(fā)展,對(duì)于部分對(duì)存儲(chǔ)有特殊要求的數(shù)據(jù),傳統(tǒng)的存儲(chǔ)方式已經(jīng)不再適用,這就會(huì)給計(jì)算機(jī)的信息安全帶來潛在的隱患。通過將Hadoop運(yùn)用于計(jì)算機(jī)信息系統(tǒng)中,能夠滿足數(shù)據(jù)存儲(chǔ)多樣化的要求,其也是大數(shù)據(jù)未來的發(fā)展方向。Hadoop系統(tǒng)在復(fù)雜數(shù)據(jù)的整合儲(chǔ)存和集中管理方面表現(xiàn)出極大地優(yōu)越性,能夠?qū)?shù)據(jù)管理的整個(gè)過程進(jìn)行系統(tǒng)全面的有效控制。Hadoop系統(tǒng)的各個(gè)部分在運(yùn)行過程中,能夠進(jìn)行相互協(xié)調(diào)配合,為計(jì)算機(jī)數(shù)據(jù)的安全處理提供相應(yīng)的功能支持。同時(shí),Hadoop系統(tǒng)也處于不斷完善的階段,其各個(gè)組成部分的功能分工更加明確,劃分更加細(xì)致,逐漸能夠形成一套功能豐富、作用完善的大數(shù)據(jù)信息分析平臺(tái)應(yīng)用系統(tǒng)。
篇3
【關(guān)鍵詞】大數(shù)據(jù) 信息技術(shù) 大數(shù)據(jù) 發(fā)展現(xiàn)狀
“大數(shù)據(jù)不是忽悠,它確實(shí)是一個(gè)真事,是產(chǎn)業(yè)大的變革。對(duì)it產(chǎn)業(yè)、經(jīng)濟(jì)都是一次重要的機(jī)遇?!?012年4月2日,微軟全球資深副總裁張亞勤在博鰲亞洲論壇“大數(shù)據(jù)、移動(dòng)、社交媒體:改變商業(yè)的創(chuàng)新力量”上如此表示。就其主要言論而言,主要是:第一,大數(shù)據(jù)需要大量的數(shù)據(jù)、軟件、應(yīng)用,把它簡(jiǎn)化放在云,其實(shí)質(zhì)是一中簡(jiǎn)化;第二,大數(shù)據(jù)最重要是應(yīng)用軟件;第三,大數(shù)據(jù)的發(fā)展是一個(gè)長(zhǎng)期的過程;第四,大數(shù)據(jù)不是忽悠,它是產(chǎn)業(yè)大的變革,對(duì)it產(chǎn)業(yè)、經(jīng)濟(jì)都是一次重要的機(jī)遇。
從這一段資料分析可以看出,大數(shù)據(jù)計(jì)算機(jī)信息處理技術(shù)是在不斷發(fā)展的計(jì)算機(jī)技術(shù)中脫穎而出的能夠處理大量數(shù)據(jù)、計(jì)算大量數(shù)據(jù)的超級(jí)計(jì)算技術(shù)。這種技術(shù)必須要有完善的硬件與軟件資源作為支撐,需要虛擬化的調(diào)度完成各項(xiàng)數(shù)據(jù)服務(wù)功能。各it企業(yè)已經(jīng)注意到了大數(shù)據(jù)商業(yè)價(jià)值,基于大數(shù)據(jù)的各項(xiàng)數(shù)據(jù)服務(wù)已經(jīng)不斷應(yīng)用于各個(gè)行業(yè)的創(chuàng)新領(lǐng)域。
1 大數(shù)據(jù)的概念
目前,it界對(duì)大數(shù)據(jù)的定義不下于20種,但就其本質(zhì)和應(yīng)用領(lǐng)域來看,其實(shí)是一種基于大數(shù)據(jù)應(yīng)用而新興的商業(yè)計(jì)算模式。相較于傳統(tǒng)計(jì)算,大數(shù)據(jù)具有虛擬化、超大規(guī)模、按需服務(wù)、資源利用率高、低成本等特點(diǎn)。
從用戶角度來看,大數(shù)據(jù)能為多個(gè)大數(shù)據(jù)用戶(企業(yè)或個(gè)人等)提供似乎是無限的互聯(lián)網(wǎng)計(jì)算資源,便于用戶虛擬擁有和按需使用共享在“云”上的網(wǎng)絡(luò)計(jì)算技術(shù)資源服務(wù),大數(shù)據(jù)用戶可以對(duì)自己所需的服務(wù)只需付費(fèi)就可以直接得到,不需要到處跑去跑來去買、去找、去打聽。實(shí)際上它所提供的是一種超大規(guī)模的網(wǎng)絡(luò)資源共享。另外,簡(jiǎn)單的說,“云”就是資料存儲(chǔ)以及應(yīng)用服務(wù)的中心,把你想要的都放進(jìn)“云”里,當(dāng)你想要的時(shí)候,基于互聯(lián)網(wǎng),你可以隨時(shí)隨地拿到,當(dāng)用戶不需要這些數(shù)據(jù)資源時(shí),就可以刪除、釋放這些資源,從而提高了使用資源上的多樣性。
2 大數(shù)據(jù)下的信息處理關(guān)鍵技術(shù)
大數(shù)據(jù)的應(yīng)用核心是按用戶需求進(jìn)行網(wǎng)絡(luò)大數(shù)據(jù)資源分配。在解決好資源分配之前,最主要的是解決好超級(jí)資源云系統(tǒng)的構(gòu)建和存儲(chǔ),以及自動(dòng)化資源部署分配等問題。所以,大數(shù)據(jù)除了需要仔細(xì)研究其體系結(jié)構(gòu)外,還應(yīng)該在其虛擬化技術(shù)、高性能云存儲(chǔ)技術(shù)、高速的云處理技術(shù)、以及相關(guān)的對(duì)數(shù)據(jù)安全技術(shù)上進(jìn)行突破。
2.1 虛擬化技術(shù)
所謂虛擬化技術(shù)是通過利用虛擬的網(wǎng)絡(luò)設(shè)置、資源配置進(jìn)行數(shù)據(jù)的存儲(chǔ)與管理。而虛擬化技術(shù)是大數(shù)據(jù)計(jì)算機(jī)信息處理技術(shù)的基礎(chǔ),虛擬化技術(shù)構(gòu)建的大數(shù)據(jù)信息處理技術(shù)一方面可以搜集與整合各項(xiàng)有利資源,對(duì)必要的信息資源進(jìn)行存儲(chǔ);另一方面可以通過這種技術(shù)對(duì)大數(shù)據(jù)處理任務(wù)進(jìn)行資源優(yōu)化、靈活調(diào)度來提高對(duì)大量數(shù)據(jù)的運(yùn)算、處理能力與效率。可見,虛擬化處理技術(shù)也是大數(shù)據(jù)下的信息處理的關(guān)鍵技術(shù)。
2.2 云存儲(chǔ)技術(shù)
云存儲(chǔ)實(shí)際上是由多個(gè)存儲(chǔ)設(shè)備組成,通過集群功能、分布式文件系統(tǒng)或類似網(wǎng)格計(jì)算等功能聯(lián)合起來協(xié)同工作,共同對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問功能的一個(gè)系統(tǒng)。所以實(shí)質(zhì)上,云存儲(chǔ)就是大數(shù)據(jù)存儲(chǔ)的核心技術(shù),為大量數(shù)據(jù)的保存提供了關(guān)鍵性的作用。
其中,因?yàn)榇髷?shù)據(jù)系統(tǒng)需要同時(shí)滿足大量用戶的需求服務(wù),并要為對(duì)大數(shù)據(jù)集進(jìn)行處理、分析向用戶提供高效的服務(wù)。這樣云存儲(chǔ)技術(shù)必須具有高吞吐率和高傳輸率的特點(diǎn),數(shù)據(jù)管理技術(shù)也必須能夠高效的管理大數(shù)據(jù)集。因此,云存儲(chǔ)技術(shù)對(duì)于大數(shù)據(jù)信息處理的順利展開起到了關(guān)鍵性的作用。首先,為了保障大數(shù)據(jù)處理任務(wù)的順利完成,云存儲(chǔ)技術(shù)要對(duì)大數(shù)據(jù)系統(tǒng)內(nèi)的海量數(shù)據(jù)進(jìn)行管理與分析,在利用云存儲(chǔ)技術(shù)進(jìn)行大數(shù)據(jù)管理時(shí)讀操作要遠(yuǎn)遠(yuǎn)多于數(shù)據(jù)更新操作,云存儲(chǔ)技術(shù)實(shí)際是對(duì)大數(shù)據(jù)系統(tǒng)中數(shù)據(jù)的讀優(yōu)化處理。其次,分布式的數(shù)據(jù)存儲(chǔ)方式在云計(jì)算中起到高效計(jì)算的
作用,云存儲(chǔ)技術(shù)中對(duì)于數(shù)據(jù)庫采用了高效的列存儲(chǔ)模式,這也為海量數(shù)據(jù)中查詢到某一數(shù)據(jù)帶來了方便,查詢效率非常高??梢?,云存儲(chǔ)技術(shù)對(duì)于提高大數(shù)據(jù)運(yùn)算效率必不可缺。
2.3 大數(shù)據(jù)自動(dòng)化資源調(diào)度
大數(shù)據(jù)在服務(wù)過程中,將虛擬云資源中的信息數(shù)據(jù)進(jìn)行劃分、安裝和調(diào)度成可以為用戶提供各種服務(wù)和應(yīng)用的過程。大數(shù)據(jù)信息處理技術(shù)還離不開自動(dòng)化資源調(diào)度技術(shù),所謂資源調(diào)度就是將所有的大數(shù)據(jù)信息資源進(jìn)行合理的配置與整合,以更好的為服務(wù)程序提供便捷。這些資源除了重要的數(shù)據(jù)庫信息資源以外,還包括大數(shù)據(jù)系統(tǒng)涉及到的各類軟件資源、硬件資源以及網(wǎng)絡(luò)資源等等。
2.4 云安全技術(shù)
海量數(shù)據(jù)的管理與運(yùn)行需要安全可靠的安全防范技術(shù)作為保障,云安全技術(shù)就是在這種背景下產(chǎn)生的專門為大數(shù)據(jù)信息處理保駕護(hù)航的安全保障技術(shù)。云安全技術(shù)可以對(duì)外來網(wǎng)絡(luò)干擾信息進(jìn)行識(shí)別,對(duì)黑客的刻意侵犯做出防范,對(duì)網(wǎng)絡(luò)信息中存在的病毒進(jìn)行查殺。近年來,行業(yè)內(nèi)也逐漸在完善和出臺(tái)相應(yīng)的網(wǎng)絡(luò)安全政策,云安全技術(shù)在良好的政策扶持下,對(duì)于大數(shù)據(jù)信息網(wǎng)絡(luò)安全的構(gòu)建更加游刃有余。由此可知,云安全技術(shù)對(duì)于大數(shù)據(jù)信息處理的安全有重要作用。
3 大數(shù)據(jù)的應(yīng)用發(fā)展現(xiàn)狀
3.1 大數(shù)據(jù)應(yīng)用產(chǎn)品形式
當(dāng)前大數(shù)據(jù)開發(fā)應(yīng)用產(chǎn)品有很多,it行業(yè)及其他行業(yè)對(duì)于大數(shù)據(jù)都有著各自的理解,因此當(dāng)前對(duì)大數(shù)據(jù)的產(chǎn)品形式仍然存在較大的差異,但是最基本的應(yīng)用服務(wù)主要有一下三個(gè)層次構(gòu)成:基礎(chǔ)設(shè)施作為服務(wù)交付(infrastructure as a service,簡(jiǎn)稱iaas)、平臺(tái)即服務(wù)(platform as a service,簡(jiǎn)稱paas)及軟件即服務(wù)(software as a service,簡(jiǎn)稱saas)。
將開發(fā)和計(jì)算環(huán)境通過大數(shù)據(jù)的軟件平臺(tái)提供給用戶的模式被稱為大數(shù)據(jù)平臺(tái)服務(wù)模式,這種模式需要web支持。例如azure、force.com、google app等都是比較實(shí)用的大數(shù)據(jù)軟件平臺(tái)。還有比較知名的elastic compute cloud平臺(tái)也是通過web對(duì)數(shù)據(jù)與軟、硬件資源進(jìn)行優(yōu)化與管理的大數(shù)據(jù)平臺(tái)模式。
3.2 大數(shù)據(jù)的應(yīng)用發(fā)展現(xiàn)狀及趨勢(shì)
現(xiàn)今社會(huì)已經(jīng)步入了信息化快速與高度發(fā)展的嶄新時(shí)代,無論是醫(yī)療、交通、教育、軍事等等方面都涉及大量信息數(shù)據(jù)的錄入、存儲(chǔ)與計(jì)算,海量數(shù)據(jù)的管理需要有基礎(chǔ)技術(shù)、高效技術(shù)與安全技術(shù)作為支撐。目前it行業(yè)中應(yīng)用的例如360“安全云計(jì)劃”、 “藍(lán)云”計(jì)劃等都是大數(shù)據(jù)信息技術(shù)的典型應(yīng)用。
未來的大數(shù)據(jù)信息技術(shù)對(duì)于信息處理必然會(huì)更加高效、快捷,大數(shù)據(jù)系統(tǒng)的應(yīng)用也會(huì)越來越普遍。例如美國(guó)最新體術(shù)的disc數(shù)據(jù)密集型的超級(jí)計(jì)算、谷歌即將推行的大數(shù)據(jù)服務(wù)academic cloud computing initiative,都意味著大數(shù)據(jù)高效信息時(shí)代很快就能到來。
4 結(jié)語
總之,大數(shù)據(jù)為我們的云用戶、企業(yè)、以及網(wǎng)絡(luò)服務(wù)提供商都帶來了好處,并且也成為一個(gè)新興的產(chǎn)業(yè)模式。但就目前的大數(shù)據(jù)發(fā)展?fàn)顩r來看,我國(guó)的大數(shù)據(jù)還處于剛起步階段,在未來,隨著各種技術(shù)的不斷縱向發(fā)展,人類社會(huì)在迎來高度信息化同時(shí),相應(yīng)的大數(shù)據(jù)帶來的一些弊端也會(huì)凸顯,只有在實(shí)踐中不斷的完善和加以改進(jìn),真正的讓大數(shù)據(jù)顯示出優(yōu)勢(shì),發(fā)揮其作用,才能使得大數(shù)據(jù)惠及普通個(gè)體用戶、企業(yè)、乃至國(guó)家的發(fā)展。
參考文獻(xiàn)
[1]王秀蘇.計(jì)算機(jī)信息處理技術(shù)在辦公自動(dòng)化上的應(yīng)用[j].科技經(jīng)濟(jì)市場(chǎng),2010(03).
[2]張連杰.企業(yè)管理中計(jì)算機(jī)技術(shù)的應(yīng)用[j].電腦知識(shí)與技術(shù),2011(26).
[3]陳靜.淺談?dòng)?jì)算機(jī)處理技術(shù)[j].科技與企業(yè),2012(11).
作者簡(jiǎn)介
李春輝(1973-),男,山東省德州市人。碩士學(xué)位,副教授。主要研究方向計(jì)算機(jī)應(yīng)用技術(shù)、計(jì)算機(jī)網(wǎng)絡(luò)、物聯(lián)網(wǎng)。
篇4
【關(guān)鍵詞】云計(jì)算技術(shù) 電力大數(shù)據(jù) 屬性約簡(jiǎn)
自進(jìn)入二十一世紀(jì)以來,人類社會(huì)便正式進(jìn)入了網(wǎng)絡(luò)信息化時(shí)代,在信息化大背景的影響下,企業(yè)信息化和管理系統(tǒng)化已經(jīng)成為主流趨勢(shì),而在電力企業(yè)中,由于其自身數(shù)據(jù)處理的復(fù)雜性和龐大性,其不僅實(shí)現(xiàn)了信息化管理,更在此技術(shù)上,對(duì)云計(jì)算技術(shù)進(jìn)行了全面應(yīng)用,以實(shí)現(xiàn)大數(shù)據(jù)處理。但是,由于受發(fā)展時(shí)間短以及相關(guān)技術(shù)人員和管理人員技術(shù)水平和職業(yè)素質(zhì)不高的影響,其在云計(jì)算以及大數(shù)據(jù)處理等應(yīng)用方面依舊存在一定缺陷,需要加強(qiáng)人員和技術(shù)投入,不斷加強(qiáng)對(duì)技術(shù)的研究和創(chuàng)新,使其能夠更好的滿足電力企業(yè)的經(jīng)營(yíng)和管理需求;因此,接下來,本文就以更好的提高電力企業(yè)云計(jì)算應(yīng)用技術(shù)為主要目的,對(duì)基于云計(jì)算技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)方法進(jìn)行深入研究。
1 電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)方法的發(fā)展
在電力企業(yè)的經(jīng)營(yíng)和管理中,為了能夠更好的提升供電的穩(wěn)定性和質(zhì)量,并對(duì)自身的經(jīng)濟(jì)效益進(jìn)行有效保障,就需要對(duì)電網(wǎng)數(shù)據(jù)進(jìn)行詳細(xì)分析,尤其是對(duì)大數(shù)據(jù)進(jìn)行科學(xué)、高效的預(yù)處理。電力大數(shù)據(jù)預(yù)處理主要包括數(shù)據(jù)清洗、集成、轉(zhuǎn)換以及約簡(jiǎn)等眾多環(huán)節(jié),其中任何一個(gè)環(huán)節(jié)出F問題,都可能對(duì)電力企業(yè)的最終決策目標(biāo)造成影響。因此,在大數(shù)據(jù)預(yù)處理過程中,就需要提高數(shù)據(jù)的分析效率,并以此為基礎(chǔ)對(duì)各個(gè)環(huán)節(jié)中的決定性因素進(jìn)行有效控制,設(shè)法降低電網(wǎng)的數(shù)據(jù)處理規(guī)模。比如,在對(duì)風(fēng)速進(jìn)行預(yù)測(cè)的過程中,相關(guān)技術(shù)人員便應(yīng)用了經(jīng)典粗糙集理論方式,約簡(jiǎn)出了影響風(fēng)速的關(guān)鍵屬性;在電力大數(shù)據(jù)預(yù)處理中同樣如此,需要根據(jù)不同情況采用不同的約簡(jiǎn)方式約簡(jiǎn)出其關(guān)鍵屬性。
在之前的電力企業(yè)經(jīng)營(yíng)和管理中,所應(yīng)用的約簡(jiǎn)算法雖然也能夠在一定程度上降低時(shí)間復(fù)雜度,也相應(yīng)的提高了數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)效率,但是這種算法是一次性將所有數(shù)據(jù)都存入內(nèi)存中,因此,這種算法只適合應(yīng)用于傳統(tǒng)的電力數(shù)據(jù)處理中,而不適合應(yīng)用在現(xiàn)代化的電力大數(shù)據(jù)處理中。
因此,為了能夠有效解決該方面問題,電力企業(yè)便開始對(duì)CPU、內(nèi)存以及計(jì)算機(jī)硬盤等進(jìn)行擴(kuò)充和升級(jí),但是這種方式雖然能夠在一定程度上解決屬性約簡(jiǎn)中數(shù)據(jù)規(guī)模和時(shí)效受硬件制約的問題,可卻也提高了成本,會(huì)對(duì)電力企業(yè)的經(jīng)濟(jì)效益造成影響。而隨著網(wǎng)絡(luò)以及信息技術(shù)的不斷發(fā)展,云計(jì)算技術(shù)的出現(xiàn)很好的解決了該方面所存在的問題,與傳統(tǒng)網(wǎng)絡(luò)以及計(jì)算機(jī)技術(shù)相比,利用云計(jì)算技術(shù)不僅能夠提高對(duì)計(jì)算機(jī)硬件資源的有效應(yīng)用,同時(shí)也全方面,大幅度提高了數(shù)據(jù)處理技術(shù),為電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)提供了科學(xué)有效的新途徑。
2 MapReduce在電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)中的應(yīng)用
MapReduce這種比較高效的并行編程模型,就能夠很好的解決電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)問題,如下,便是其中較具代表性的定義和定理:
定義1:假設(shè)電力知識(shí)表達(dá)系統(tǒng)為決策信息表S,S=(U,A,V,f),表中,U為對(duì)象集合,A=CυD,C為條件屬性集,D為決策屬性集,V為屬性值集合,f為信息函數(shù),并明確對(duì)象屬性值。
定義2:令P,QA,P∩Q=|,P是Q的正域,記posp(Q)=∪x| U/QPX,Count(posp(Q))表示P中所包含的元素個(gè)數(shù)。
定理1:假設(shè)電力知識(shí)表達(dá)系統(tǒng)S=(U,A,V,f),P,QA,P∩Q=|,RP,Count(posR(Q))= Count(posp(Q))為posR(Q)= posp(Q)的充要條件;
必須性證明:因?yàn)閜osR(Q)= posp(Q),所以Q的P正域)與Q 的正域R相同,Count(posR(Q))= Count(posp(Q));
充分性證明:通過反證法進(jìn)行證明,即設(shè)posR(Q)= posp(Q)不成立,而因?yàn)镽P,所以posR(Q)posp(Q),而因?yàn)閜osR(Q)= posp(Q)不成立,所以posR(Q)posp(Q),則Count(posR(Q))< Count(posp(Q)),與Count(posR(Q))= Count(posp(Q))矛盾,姑不成立。
以上為MapReduce并行編程模型中的部分定義和定理,從中能夠看出,在對(duì)一個(gè)電力知識(shí)表達(dá)系統(tǒng)屬性約簡(jiǎn)的過程中利用粗糙集理論,可以有效降低關(guān)鍵屬性約簡(jiǎn)的復(fù)雜度,不僅能夠有效降低整個(gè)約簡(jiǎn)過程的計(jì)算量,還能夠更好的降低時(shí)間和資源的消耗,而基于云計(jì)算技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn),就是在由此為基礎(chǔ)的前提下,通過加強(qiáng)對(duì)云計(jì)算技術(shù)的應(yīng)用,來進(jìn)一步提高其約簡(jiǎn)效率。
3 基于MapReduce技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)
在基于云計(jì)算技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)中,可以將一個(gè)電力大數(shù)據(jù)集當(dāng)成是一個(gè)電力知識(shí)表達(dá)系統(tǒng),而在此前提下,再進(jìn)行屬性約簡(jiǎn),就可以看作是計(jì)算正域的勢(shì),其計(jì)算方式也可以如下進(jìn)行:
(1)map函數(shù)在同一時(shí)間對(duì)多個(gè)數(shù)據(jù)分片進(jìn)行訪問,并根據(jù)具體要求對(duì)其屬性以及屬性值進(jìn)行提取,并形成鍵值對(duì);
(2)Reduce函數(shù)對(duì)來自不同節(jié)點(diǎn)map發(fā)送的key值相同的鍵值對(duì)序列,并對(duì)其相同等價(jià)類的個(gè)數(shù)進(jìn)行計(jì)算。
而利用Hadoop在對(duì)復(fù)雜任務(wù)進(jìn)行處理的過程中,其重點(diǎn)在于增加任務(wù)數(shù)量,而非對(duì)map和Reduce函數(shù)的復(fù)雜性進(jìn)行增強(qiáng)。因此,在基于云計(jì)算技術(shù)的電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)中,針對(duì)性的設(shè)計(jì)了兩個(gè)map,三個(gè)Reduce以及一個(gè)call_job函數(shù),外帶一個(gè)主程序,然后,再針對(duì)其具體需求,分別給出了相應(yīng)算法,通過這些給出的算法,便能夠?qū)Υ髷?shù)據(jù)預(yù)處理屬性進(jìn)行有效約簡(jiǎn)。
與傳統(tǒng)約簡(jiǎn)方式相比,基于云計(jì)算的約簡(jiǎn)方式,不僅解決了其不能夠?qū)Υ髷?shù)據(jù)集進(jìn)行處理的問題,還更進(jìn)一步提高了整個(gè)約簡(jiǎn)計(jì)算的效率,降低了復(fù)雜度,節(jié)省了時(shí)間和空間,因此,在當(dāng)前的電力企業(yè)中,其已經(jīng)成為電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn)的主要方式。
4 結(jié)束語
伴隨著電力行業(yè)的快速發(fā)展以及電網(wǎng)規(guī)模的不斷擴(kuò)大,傳統(tǒng)屬性約簡(jiǎn)方式已經(jīng)滿足不了電力大數(shù)據(jù)的處理和計(jì)算需求,在一定程度上影響了電力企業(yè)的經(jīng)營(yíng)和管理決策。因此,電力企業(yè)應(yīng)該加強(qiáng)對(duì)云計(jì)算技術(shù)的研究和應(yīng)用,并基于云計(jì)算技術(shù)實(shí)現(xiàn)電力大數(shù)據(jù)預(yù)處理屬性約簡(jiǎn),提高電力大數(shù)據(jù)處理效率,為企業(yè)經(jīng)營(yíng)和管理決策提供可靠參考依據(jù)。
參考文獻(xiàn)
[1]楊傳健.基于沖突域的高效屬性約簡(jiǎn)算法[J].計(jì)算機(jī)學(xué)報(bào),2012(02).
[2]翟俊海.基于樣例選擇的屬性約簡(jiǎn)算法[J].計(jì)算機(jī)研究與發(fā)展,2012(11).
作者簡(jiǎn)介
崔曉優(yōu)(1975-),男,河南省許昌市人。大學(xué)本科學(xué)歷?,F(xiàn)為許繼電氣股份有限公司工程師。
篇5
本文從云計(jì)算和大數(shù)據(jù)概述入手,分析了云計(jì)算與大數(shù)據(jù)的關(guān)系,之后闡明了電子政務(wù)大數(shù)據(jù)管理的重要意義,最后以云計(jì)算為基礎(chǔ),探討了電子政務(wù)大數(shù)據(jù)的管理模式,旨在更好的讓電子政務(wù)數(shù)據(jù)服務(wù)于政府管理和相關(guān)服務(wù)工作。
【關(guān)鍵詞】云計(jì)算 電子政務(wù) 大數(shù)據(jù) 管理
相關(guān)數(shù)據(jù)顯示,政府部門集成數(shù)據(jù)占社會(huì)數(shù)據(jù)總量的九成以上,大數(shù)據(jù)時(shí)代下,政府部門數(shù)據(jù)呈現(xiàn)多樣化的發(fā)展趨勢(shì),不僅涉及到在數(shù)據(jù)庫存儲(chǔ)的結(jié)構(gòu)化數(shù)據(jù),還涉及到大量的半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),如何對(duì)電子政務(wù)數(shù)據(jù)進(jìn)行有效的處理是當(dāng)前政府部門工作的重中之重?;谝陨?,本文以云計(jì)算為基礎(chǔ),探討了電子政務(wù)大數(shù)據(jù)管理的相關(guān)問題。
1 云計(jì)算與大數(shù)據(jù)概述
云計(jì)算是以互聯(lián)網(wǎng)為基礎(chǔ)的一種相關(guān)服務(wù)增加、使用和交付的模式,是并行計(jì)算、網(wǎng)絡(luò)計(jì)算以及分布式計(jì)算融合發(fā)展的產(chǎn)物,其主要目的是通過互聯(lián)網(wǎng)來更好的實(shí)現(xiàn)數(shù)據(jù)拓展、管理、計(jì)算和存儲(chǔ)。
大數(shù)據(jù)是種類繁多、數(shù)量巨大以及類型復(fù)雜的數(shù)據(jù),大數(shù)據(jù)的目的是挖掘海量數(shù)據(jù)中的信息和價(jià)值,其著眼于數(shù)據(jù)。電子政務(wù)大數(shù)據(jù)則指的是公務(wù)機(jī)構(gòu)在管理和服務(wù)過程中產(chǎn)生的大數(shù)據(jù)。
2 電子政務(wù)大數(shù)據(jù)管理的意義
(1)大數(shù)據(jù)的包容性能夠有效打破政府各部門之間以及政府與社會(huì)大眾之間的信息壁壘,有效避免了信息孤島現(xiàn)象發(fā)生,實(shí)現(xiàn)數(shù)據(jù)共享,為政府管理提供信息支持,提升政府管理能力和公共服漳芰Α
(2)對(duì)電子政務(wù)大數(shù)據(jù)的管理能夠?qū)崿F(xiàn)對(duì)社會(huì)輿情和相關(guān)危機(jī)的動(dòng)態(tài)監(jiān)測(cè),并對(duì)其進(jìn)行深入分析,這對(duì)于提升政府的危機(jī)預(yù)警能力和危機(jī)應(yīng)對(duì)能力有著重要的意義。
(3)對(duì)電子政務(wù)大數(shù)據(jù)的管理能夠轉(zhuǎn)變政府決策模式,以實(shí)證為基礎(chǔ)制定相關(guān)決策,對(duì)于提升政府的決策有效性和決策效率至關(guān)重要。
(4)對(duì)電子政務(wù)大數(shù)據(jù)的管理能促進(jìn)數(shù)據(jù)的開放性和流動(dòng)性,政府管理的過程中能夠?qū)崿F(xiàn)對(duì)大數(shù)據(jù)的深度挖掘和廣泛應(yīng)用,從而提升政府管理和公共服務(wù)的開放性與透明性。
3 基于云計(jì)算的電子政務(wù)大數(shù)據(jù)管理
傳統(tǒng)電子政務(wù)數(shù)據(jù)管理主要為對(duì)數(shù)據(jù)的收集和存儲(chǔ),在云環(huán)境下,憑借著強(qiáng)大的云計(jì)算能力,能夠?qū)崿F(xiàn)對(duì)電子政務(wù)大數(shù)據(jù)的分析和挖掘,創(chuàng)新管理形式和管理模式,從而更好的讓電子政務(wù)大數(shù)據(jù)服務(wù)于政府的管理和決策.
3.1 數(shù)據(jù)采集
電子政務(wù)大數(shù)據(jù)采集不僅涉及到政府機(jī)構(gòu)內(nèi)部大數(shù)據(jù)的采集,同時(shí)涉及到政府機(jī)構(gòu)之間數(shù)據(jù)的采集,一般有分布式采集和集中是采集兩種方式,二者有著各自的優(yōu)點(diǎn)和缺陷,在云計(jì)算下,可以利用云計(jì)算分布式并行計(jì)算特點(diǎn)來將兩種采集方式整合,提升電子政務(wù)大數(shù)據(jù)采集效率。將電子政務(wù)大數(shù)據(jù)集中式采集模式應(yīng)用到政府機(jī)構(gòu)內(nèi)部,將電子政務(wù)大數(shù)據(jù)分布式采集模式應(yīng)用到政府機(jī)構(gòu)之間,將一定數(shù)量的中心服務(wù)器設(shè)置在政府機(jī)構(gòu)內(nèi)部,作為集中式數(shù)據(jù)注冊(cè)機(jī)構(gòu),來存儲(chǔ)共享數(shù)據(jù),采用分布式數(shù)據(jù)采集模式來組織各個(gè)機(jī)構(gòu)服務(wù)器。
上文中提到,電子政務(wù)大數(shù)據(jù)類型有著多樣性的特點(diǎn),因此需要以不同類型數(shù)據(jù)為基礎(chǔ)進(jìn)行云計(jì)算分布式采集,實(shí)現(xiàn)數(shù)據(jù)的分類存儲(chǔ)。此外,可以借助云計(jì)算的擴(kuò)展性和容錯(cuò)能力來實(shí)現(xiàn)相似數(shù)據(jù)或相同數(shù)據(jù)的同構(gòu)化,借助幾圈技術(shù)和虛擬化技術(shù)實(shí)現(xiàn)政府機(jī)構(gòu)之間的對(duì)接和數(shù)據(jù)超級(jí)共享。
3.2 數(shù)據(jù)存儲(chǔ)
在云計(jì)算下,采用列式存儲(chǔ)方式來進(jìn)行電子政務(wù)大數(shù)據(jù)的存儲(chǔ),以屬性列為基礎(chǔ),將數(shù)據(jù)存儲(chǔ)在列式數(shù)據(jù)倉庫中,不同屬性列數(shù)據(jù)分離開來,只需要查詢屬性列即可以實(shí)現(xiàn)數(shù)據(jù)投影,降低了系統(tǒng)損耗。在云計(jì)算列式存儲(chǔ)模式下,相鄰數(shù)據(jù)之間有著較高的相似性,壓縮率較好,數(shù)據(jù)的壓縮能夠降低系統(tǒng)輸出與輸出的開銷,這對(duì)于提升電子政務(wù)大數(shù)據(jù)倉庫的管理性能有著積極的意義。
3.3 聯(lián)機(jī)分析
聯(lián)機(jī)分析處理是電子政務(wù)大數(shù)據(jù)管理的重要方面,其能夠?qū)崿F(xiàn)對(duì)數(shù)據(jù)的復(fù)雜分析和操作,從而為政府決策制定提供支持,其查詢效果十分直觀?;谠朴?jì)算的聯(lián)機(jī)分析從綜合數(shù)據(jù)著手,能夠提供多維模型和多維分析方法來進(jìn)行多維數(shù)據(jù)分析,讓政府決策者能夠更加全面的對(duì)電子政務(wù)大數(shù)據(jù)進(jìn)行分析。基于與計(jì)算的聯(lián)機(jī)分析處理中的多維數(shù)據(jù)分析能夠與數(shù)據(jù)倉庫多維數(shù)據(jù)組織結(jié)合,互為補(bǔ)充,能夠?qū)崿F(xiàn)大量數(shù)值計(jì)算,實(shí)現(xiàn)海量電子政務(wù)數(shù)據(jù)的處理。
3.4 數(shù)據(jù)挖掘
聯(lián)機(jī)分析能夠獲得數(shù)據(jù)表層信息,而對(duì)數(shù)據(jù)屬性內(nèi)在關(guān)系以及隱含信息的進(jìn)一步揭示則需要依賴于數(shù)據(jù)挖掘,基于云計(jì)算的電子政務(wù)大數(shù)據(jù)挖掘以分布式并行挖掘技術(shù)為基礎(chǔ),相較于其他數(shù)據(jù)挖掘技術(shù)而言,基于云計(jì)算的分布式并行挖掘技術(shù)能夠?qū)Υ笠?guī)模數(shù)據(jù)進(jìn)行挖掘處理,其挖掘能力更強(qiáng),消耗時(shí)間更短。其將機(jī)器群看做是硬件數(shù)據(jù)池,能夠拆分并行任務(wù),利用空閑機(jī)器來進(jìn)行數(shù)據(jù)處理,這就能夠有效提升對(duì)數(shù)據(jù)的計(jì)算效率,且數(shù)據(jù)的無關(guān)性能夠促進(jìn)計(jì)算集群的擴(kuò)展。
3.5 數(shù)據(jù)可視化
電子政務(wù)大數(shù)據(jù)可視化是政府決策和管理服務(wù)的重要保證,在云計(jì)算下,多維非空間數(shù)據(jù)可以由圖像展示,更好的幫助用戶對(duì)數(shù)據(jù)含義進(jìn)行理解,此外,形象的圖像能夠?qū)崿F(xiàn)對(duì)檢索過程的指引,這就大大提升了檢索效率。發(fā)達(dá)國(guó)家對(duì)數(shù)據(jù)可視化十分重視,例如美國(guó)能源部門投資2500萬美元來進(jìn)行數(shù)據(jù)可視化研究,更好的實(shí)現(xiàn)對(duì)數(shù)據(jù)管理,促進(jìn)其環(huán)境研究計(jì)劃和核數(shù)據(jù)計(jì)劃的實(shí)現(xiàn)。
4 結(jié)論
綜上所述,在大數(shù)據(jù)時(shí)代下,對(duì)電子政務(wù)大數(shù)據(jù)加強(qiáng)管理是有著積極意義的,傳統(tǒng)的數(shù)據(jù)管理方式有著一定的局限性,難以充分發(fā)揮電子政務(wù)大數(shù)據(jù)的重要作用,本文提出了一種基于云計(jì)算的電子政務(wù)大數(shù)據(jù)管理模式,探討了電子政務(wù)大數(shù)據(jù)采集、存儲(chǔ)、聯(lián)機(jī)分析、挖掘和可視化等管理工作,旨在充分發(fā)揮電子政務(wù)大數(shù)據(jù)對(duì)于政府工作的重要服務(wù)作用。
參考文獻(xiàn)
[1]王書偉.大數(shù)據(jù)時(shí)代政府部門間信息資源共享策略研究[D].吉林:吉林大學(xué),2013.
[2]趙志超.電子政務(wù)大數(shù)據(jù)系統(tǒng)應(yīng)用云計(jì)算架構(gòu)[J].計(jì)算機(jī)與網(wǎng)絡(luò),2014(14):62-65.
[3]趙震,任永昌.大數(shù)據(jù)時(shí)代基于云計(jì)算的電子政務(wù)平臺(tái)研究[J].計(jì)算機(jī)技術(shù)與發(fā)展,2015(10):145-148.
[4]董凌峰,.基于云計(jì)算的政務(wù)數(shù)據(jù)信息共享平臺(tái)構(gòu)建研究――以“數(shù)字福建”為例[J].現(xiàn)代情報(bào),2015(10):76-81.
篇6
關(guān)鍵詞:大數(shù)據(jù)技術(shù);電子商務(wù);問題;對(duì)策
中圖分類號(hào):F713.36 文獻(xiàn)標(biāo)識(shí)碼:A
收錄日期:2016年11月7日
一、電子商務(wù)與大數(shù)據(jù)技術(shù)概述
(一)電子商務(wù)。電子商務(wù)作為當(dāng)今互聯(lián)網(wǎng)時(shí)代最具發(fā)展?jié)摿Φ囊环N商業(yè)模式,以電子和信息技術(shù)為基礎(chǔ),以商務(wù)為核心,打破了空間與時(shí)間的束縛,使生產(chǎn)、銷售、管理各環(huán)節(jié)的水平得到極大的提高,降低了貿(mào)易活動(dòng)的成本,并且因?yàn)榉?wù)個(gè)性化、方便、快捷等特點(diǎn),使得客戶的滿意度大幅度提升。此外,在“互聯(lián)網(wǎng)+”的時(shí)代背景下,新一代互聯(lián)網(wǎng)技術(shù)在電子商務(wù)中得到廣泛應(yīng)用,無線互聯(lián)網(wǎng)功能不斷完善,大批優(yōu)秀的電子商務(wù)平臺(tái)服務(wù)功能完成了向移動(dòng)端的移植。移動(dòng)終端應(yīng)用在用戶規(guī)模和信息交互維度的實(shí)時(shí)性、實(shí)地性、多樣性等方面的優(yōu)勢(shì)得到了充分發(fā)揮。大數(shù)據(jù)和云計(jì)算技術(shù)被大型電子商務(wù)平臺(tái)廣泛應(yīng)用,為百億數(shù)量級(jí)別的查詢以及數(shù)十億級(jí)別的各類業(yè)務(wù)處理提供了良好的支撐??梢?,電子商務(wù)前景廣闊。
(二)大數(shù)據(jù)技術(shù)。大數(shù)據(jù)技術(shù)能夠從海量的數(shù)據(jù)中提取出最有效的信息,在電子商務(wù)企業(yè)中發(fā)揮著至關(guān)重要的作用。大數(shù)據(jù)技術(shù)可具體劃分為以下幾種:
1、數(shù)據(jù)采集技術(shù)。快速而廣泛的搜集分布在互聯(lián)網(wǎng)上的數(shù)據(jù),并且將一些其他平臺(tái)中的數(shù)據(jù)源中的數(shù)據(jù)導(dǎo)入到該工具中,對(duì)數(shù)據(jù)進(jìn)行清洗、轉(zhuǎn)換、集成等。
2、數(shù)據(jù)處理技術(shù)。運(yùn)用分布式系統(tǒng)對(duì)超大規(guī)模的數(shù)據(jù)進(jìn)行快速統(tǒng)計(jì)、歸納、分類,便于高質(zhì)量、高效率地存儲(chǔ)數(shù)據(jù)和提取數(shù)據(jù)。
3、數(shù)據(jù)分析技術(shù)。根據(jù)單組數(shù)據(jù)的對(duì)應(yīng)分析和多組數(shù)據(jù)的聚類分析,通過定量描述對(duì)于不同現(xiàn)象的各種利害要素的相關(guān)程度,讓數(shù)據(jù)開發(fā)更接近人們的應(yīng)用目標(biāo)。
二、大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域的應(yīng)用
大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域的應(yīng)用主要體現(xiàn)在以下方面:
(一)應(yīng)用于客戶體驗(yàn)。電子商務(wù)平臺(tái)網(wǎng)站的界面結(jié)構(gòu)和功能是吸引大量客戶的關(guān)鍵,多數(shù)電商企業(yè)為提高客戶在交易過程的第一體驗(yàn),根據(jù)大數(shù)據(jù)技術(shù)分析客戶消費(fèi)行為的歷史記錄建模,然后在此基礎(chǔ)上使用web挖掘技術(shù)改進(jìn)關(guān)鍵字加權(quán)法,有效地將用戶輸入的關(guān)鍵字合理地拓展延伸,提高商品信息檢索功能的精準(zhǔn)率,并且針對(duì)不同的消費(fèi)習(xí)慣,動(dòng)態(tài)地調(diào)整頁面布局,全方位地把握客戶的實(shí)際需求,實(shí)現(xiàn)對(duì)商品的合理聚類和分類,呈現(xiàn)商品信息的初步瀏覽效果,如淘寶網(wǎng)根據(jù)客戶關(guān)心某些產(chǎn)品的訪問比例和瀏覽人群的分類來決定廣告的排版布局,增加廣告的投資回報(bào)率。通過大數(shù)據(jù)技術(shù)的應(yīng)用,能滿足消費(fèi)者個(gè)性化的需求,改善了客戶的購物體驗(yàn),有利于提高客戶的購物滿意度。
(二)應(yīng)用于市場(chǎng)營(yíng)銷。電商企業(yè)引進(jìn)了先進(jìn)的大數(shù)據(jù)技術(shù),在市場(chǎng)營(yíng)銷各環(huán)節(jié)最大限度地降低人力、財(cái)力以及時(shí)間成本。技術(shù)部門可構(gòu)建分布式存儲(chǔ)系統(tǒng),運(yùn)用web數(shù)據(jù)挖掘技術(shù)將客戶在不同網(wǎng)絡(luò)平臺(tái)上的個(gè)人信息以及動(dòng)態(tài)的瀏覽習(xí)慣貼上“標(biāo)簽”,根據(jù)不同格式的數(shù)據(jù)選取不同的存儲(chǔ)策略,再針對(duì)性、大范圍地對(duì)潛在的客戶進(jìn)行商品與服務(wù)推銷。
(三)應(yīng)用于庫存管理。在零售業(yè)中,庫存銷量比是一種重要的效率指標(biāo),數(shù)據(jù)倉庫可以使管理人員實(shí)時(shí)追蹤商品庫存的流入與流出,并通過在線的市場(chǎng)供求變化數(shù)據(jù)分析,準(zhǔn)確把握預(yù)期的市場(chǎng)供求動(dòng)態(tài),制定合理的生產(chǎn)計(jì)劃,降低庫存積壓風(fēng)險(xiǎn),提高企業(yè)的資金周轉(zhuǎn)能力。
(四)應(yīng)用于客戶管理??蛻艄芾淼膶?shí)質(zhì)是為消費(fèi)者提供可持續(xù)的產(chǎn)品和服務(wù)。運(yùn)用大數(shù)據(jù)分析的優(yōu)勢(shì),電商可以劃分普通用戶群和核心用戶群,并且建立會(huì)員信譽(yù)度級(jí)別。在各大電商平臺(tái)的領(lǐng)軍企業(yè),技術(shù)人員利用大數(shù)據(jù)技術(shù)根據(jù)買家的消費(fèi)行為定量定性地評(píng)定買家信用,同時(shí)也能夠通過跟蹤商家的服務(wù)質(zhì)量和產(chǎn)品銷量來評(píng)定商家的信用,這樣買賣雙方都能盡可能遵守交易的規(guī)范,以此促進(jìn)電商交易平臺(tái)的良性發(fā)展。
對(duì)于客戶反饋環(huán)節(jié),在傳統(tǒng)的市場(chǎng)營(yíng)銷中,采集大量的客戶反饋信息工作需要?jiǎng)佑幂^多的人力資源電話回訪完成調(diào)查問卷表,耗時(shí)耗力且結(jié)果不佳。國(guó)內(nèi)一些專門將互聯(lián)網(wǎng)信息分門別類提供給個(gè)人和企業(yè)單位的公司,如百度和阿里巴巴等,擁有強(qiáng)大的大數(shù)據(jù)技術(shù)和云計(jì)算系統(tǒng),可快速應(yīng)對(duì)海量數(shù)據(jù)統(tǒng)計(jì)、查詢和更新操作,加工成具有商業(yè)價(jià)值的數(shù)據(jù),為電子商務(wù)企業(yè)提供了全面而準(zhǔn)確的客戶反饋信息。
三、大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用中存在的問題
大數(shù)據(jù)是一個(gè)應(yīng)用驅(qū)動(dòng)性很強(qiáng)的產(chǎn)業(yè),有巨大的社會(huì)和商業(yè)價(jià)值。然而,就國(guó)內(nèi)現(xiàn)階段的大數(shù)據(jù)技術(shù)在電商領(lǐng)域應(yīng)用的發(fā)展?fàn)顩r而言,仍然存在一些問題。
(一)大數(shù)據(jù)應(yīng)用的低效率問題。操作系統(tǒng)和系統(tǒng)集成技術(shù)的多元化發(fā)展造成國(guó)內(nèi)電子商務(wù)系統(tǒng)呈現(xiàn)出數(shù)據(jù)孤島和異構(gòu)等現(xiàn)象,導(dǎo)致不能實(shí)現(xiàn)網(wǎng)絡(luò)業(yè)務(wù)間的交換、共享、協(xié)同和控制。而電商企業(yè)的數(shù)據(jù)和系統(tǒng)獨(dú)立開發(fā),大數(shù)據(jù)技術(shù)應(yīng)用所需的海量數(shù)據(jù)不能在電子商務(wù)行業(yè)之間共享,不利于大數(shù)據(jù)在電子商務(wù)領(lǐng)域中的多元化和高效率應(yīng)用。例如,我國(guó)目前最大的電子商務(wù)平臺(tái)阿里巴巴,雖然具備較為完善的信息系統(tǒng)基礎(chǔ)設(shè)施,但是由于其數(shù)據(jù)的封閉性,與其他的互聯(lián)網(wǎng)企業(yè)難以在業(yè)務(wù)與安全范圍內(nèi)實(shí)現(xiàn)互聯(lián)互通互操作,尤其是新興的電子商務(wù)企業(yè)無法承受系統(tǒng)開發(fā)和維護(hù)費(fèi)用給企業(yè)帶來的巨大成本,因而信息資源的低水平重復(fù)開發(fā)利用,一定程度上抑制了電子商務(wù)行業(yè)的協(xié)同發(fā)展。
(二)大數(shù)據(jù)技術(shù)應(yīng)用的政策和技術(shù)標(biāo)準(zhǔn)不完善問題。雖然大數(shù)據(jù)技術(shù)的應(yīng)用能夠?yàn)樾屡d的電子商務(wù)行業(yè)發(fā)展提供良好的技術(shù)支持,但大數(shù)據(jù)產(chǎn)業(yè)仍處于初級(jí)階段,各種良好應(yīng)用前景的實(shí)現(xiàn)還需要國(guó)家政策的大力支持。目前,我國(guó)大數(shù)據(jù)技術(shù)應(yīng)用的相關(guān)管理政策尚不明確,缺少統(tǒng)一的技術(shù)標(biāo)準(zhǔn),不利于大數(shù)據(jù)產(chǎn)業(yè)統(tǒng)一管理和發(fā)展,阻礙了其在電子商務(wù)領(lǐng)域應(yīng)用的進(jìn)一步革新。
(三)大數(shù)據(jù)環(huán)境下電商企業(yè)創(chuàng)新能力較低問題。大數(shù)據(jù)作為一種極具商業(yè)潛力的信息技術(shù),在近年來不斷地被電子商務(wù)企業(yè)廣泛利用,但我國(guó)當(dāng)前在電子商務(wù)領(lǐng)域應(yīng)用大數(shù)據(jù)技術(shù)的創(chuàng)新水平較美國(guó)、日本等發(fā)達(dá)國(guó)家仍有不小的差距。國(guó)內(nèi)的許多電商企業(yè)曾遭受因高強(qiáng)度的數(shù)據(jù)分析計(jì)算導(dǎo)致系統(tǒng)崩潰帶來的損失,且大數(shù)據(jù)資源還不能完全在企業(yè)間共享,導(dǎo)致大數(shù)據(jù)技術(shù)在電子商務(wù)中的應(yīng)用受阻且創(chuàng)新能力有限,并沒有發(fā)揮出大數(shù)據(jù)技術(shù)的全部?jī)?yōu)勢(shì)。因此,加快大數(shù)據(jù)的共享,突破技術(shù)的屏障,創(chuàng)新商業(yè)模式、產(chǎn)品和服務(wù)成為大數(shù)據(jù)環(huán)境下電商企業(yè)提高核心競(jìng)爭(zhēng)力的必要手段。
(四)大數(shù)據(jù)技術(shù)在電子商務(wù)應(yīng)用中的數(shù)據(jù)安全和個(gè)人隱私問題。隨著數(shù)據(jù)挖掘等大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域的廣泛應(yīng)用,電子商務(wù)交易過程的前后,網(wǎng)絡(luò)通道信息交互十分頻繁,使得大數(shù)據(jù)在采集、共享、分析等方面的數(shù)據(jù)安全和個(gè)人隱私問題日益突出。一方面由于各類電商平臺(tái)信息安全技術(shù)的良莠不齊,大量分散的數(shù)據(jù)中關(guān)于企業(yè)機(jī)密和個(gè)人敏感信息記錄極易被他人用作不良途徑謀取利益,對(duì)用戶的財(cái)產(chǎn)安全和人身安全造成威脅;另一方面對(duì)于電商企業(yè)而言一些敏感數(shù)據(jù)的所有權(quán)和使用權(quán)還沒有明確的界定,很多基于大數(shù)據(jù)的分析都未考慮到其中涉及到的個(gè)體隱私問題,因此大數(shù)據(jù)不被妥善處理會(huì)對(duì)用戶的隱私造成極大的威脅。
四、解決對(duì)策
(一)提高大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域的應(yīng)用效率。在解決大數(shù)據(jù)應(yīng)用低效率的問題上,云計(jì)算技術(shù)具有無可比擬的優(yōu)勢(shì)。它可以借助虛擬化技術(shù)和大型服務(wù)器集群提高后臺(tái)的數(shù)據(jù)處理能力,為用戶提供統(tǒng)一的、便捷的大數(shù)據(jù)應(yīng)用服務(wù)平臺(tái)。不同的互聯(lián)網(wǎng)合作商的相關(guān)數(shù)據(jù)被部署在云計(jì)算服務(wù)商的數(shù)據(jù)中心,進(jìn)行不同數(shù)據(jù)整合加工,甚至實(shí)現(xiàn)行業(yè)共享,最后向用戶提供集中式的服務(wù)。云計(jì)算技術(shù)的這些特點(diǎn)可以有效地降低電商企業(yè)信息系統(tǒng)開發(fā)和維護(hù)的成本,同時(shí)在降低運(yùn)行負(fù)荷的情況下,能夠提高數(shù)據(jù)中心的運(yùn)行效率和可用性。
1、建立基于云計(jì)算模式下的數(shù)據(jù)存儲(chǔ)業(yè)務(wù)。建立基于云計(jì)算模式下的數(shù)據(jù)存儲(chǔ)業(yè)務(wù),不僅通過云端技術(shù)能夠提供高效率的大數(shù)據(jù)計(jì)算和超大的數(shù)據(jù)流量支持,避免大量用戶訪問網(wǎng)站突破峰值造成的網(wǎng)絡(luò)擁堵和系統(tǒng)崩潰,同時(shí)存儲(chǔ)在云端的數(shù)據(jù)便于集中式地進(jìn)行高強(qiáng)度的安全監(jiān)控,還可以降低被黑客攻擊和竊取商業(yè)機(jī)密數(shù)據(jù)的可能性。
2、建立基于云計(jì)算模式下的信息共享和業(yè)務(wù)協(xié)作。電商企業(yè)、外部供應(yīng)商、互聯(lián)網(wǎng)合作企業(yè)通過建立基于云計(jì)算模式下的信息共享和業(yè)務(wù)協(xié)作,不僅可以實(shí)現(xiàn)同步的信息資源共享,提高數(shù)據(jù)的可重復(fù)利用率,降低數(shù)據(jù)挖掘和數(shù)據(jù)整合的成本,還可通過企業(yè)之間的互通、互聯(lián)、互操作為消費(fèi)者的業(yè)務(wù)需求提供更加方便和高效的服務(wù)。
(二)完善大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用的政策和技術(shù)標(biāo)準(zhǔn)。各級(jí)政府應(yīng)進(jìn)一步加強(qiáng)信息網(wǎng)絡(luò)基礎(chǔ)設(shè)施建設(shè),構(gòu)筑滿足未來社會(huì)和經(jīng)濟(jì)需要的數(shù)據(jù)和信息化基礎(chǔ)平臺(tái),加大財(cái)政對(duì)于大數(shù)據(jù)產(chǎn)業(yè)的扶持力度,將數(shù)據(jù)加工處理業(yè)務(wù)列入享受營(yíng)業(yè)稅優(yōu)惠政策范圍,對(duì)大數(shù)據(jù)技術(shù)的自主研發(fā)項(xiàng)目減免稅收,甚至給予一定的補(bǔ)貼,鼓勵(lì)大數(shù)據(jù)技術(shù)成果產(chǎn)業(yè)化,并完善其知識(shí)產(chǎn)權(quán)保護(hù)的法律、法規(guī)和政策。此外,還應(yīng)該成立統(tǒng)一權(quán)威的信息管理機(jī)構(gòu),建立并完善大數(shù)據(jù)技術(shù)應(yīng)用的統(tǒng)一技術(shù)標(biāo)準(zhǔn),完善大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用的法律保證體系。
(三)提高大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用的創(chuàng)新能力。我國(guó)應(yīng)該不斷加強(qiáng)國(guó)內(nèi)外大數(shù)據(jù)技術(shù)創(chuàng)新交流與合作,通過學(xué)習(xí)和交流,提升大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用的創(chuàng)新能力。電商企業(yè)也應(yīng)該積極地響應(yīng)國(guó)家“十二五”發(fā)展規(guī)劃和創(chuàng)新創(chuàng)業(yè)的號(hào)召,提高對(duì)應(yīng)用大數(shù)據(jù)技術(shù)改善現(xiàn)有的產(chǎn)品和服務(wù)的重視程度,優(yōu)化電子商務(wù)產(chǎn)業(yè)結(jié)構(gòu),提升企業(yè)信息管理部門的IT架構(gòu)承載能力和計(jì)算能力,研究新型商業(yè)模式,充分應(yīng)用大數(shù)據(jù)和云計(jì)算技術(shù)促進(jìn)電子商務(wù)企業(yè)的升級(jí)和轉(zhuǎn)型。此外,電子商務(wù)企業(yè)還需要抓緊時(shí)間儲(chǔ)備既有過硬的專業(yè)技術(shù),又具備市場(chǎng)營(yíng)銷、運(yùn)營(yíng)管理和創(chuàng)新能力的大數(shù)據(jù)管理和分析人才,滿足“互聯(lián)網(wǎng)+”時(shí)代的人才需求。
(四)完善大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用的安全技術(shù)。為了有效解決大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域應(yīng)用中的數(shù)據(jù)安全和個(gè)人隱私問題,應(yīng)該完善交易成功前的兩層數(shù)據(jù)傳輸安全防護(hù)技術(shù)和交易成功后的保留在服務(wù)器中的數(shù)據(jù)的客戶隱私保護(hù)技術(shù),不斷增強(qiáng)大數(shù)據(jù)技術(shù)在電子商務(wù)應(yīng)用中的安全性。
1、利用身份及設(shè)備認(rèn)證技術(shù)確保用戶身份和相關(guān)設(shè)備真實(shí)性。身份認(rèn)證是判明和確認(rèn)交易雙方真實(shí)身份的必要環(huán)節(jié),也是電子商務(wù)交易過程中最薄弱的環(huán)節(jié)。因?yàn)榉欠ㄓ脩艚?jīng)常采用竊取口令,修改、偽造信息和阻斷服務(wù)等方式對(duì)網(wǎng)絡(luò)支付系統(tǒng)進(jìn)行攻擊,妨礙系統(tǒng)資源的合法管理和使用。用戶身份認(rèn)證可以通過三種不同的組合方式來實(shí)現(xiàn):用戶所知道的某個(gè)秘密信息,如用戶自己的密碼口令;用戶所擁有的某個(gè)秘密信息,如智能卡中存儲(chǔ)的個(gè)人參數(shù);用戶所具有的某些生物學(xué)特征,如指紋、聲紋、虹膜、人臉等。
2、綜合利用數(shù)字證書和數(shù)字簽名技術(shù)保障報(bào)文的機(jī)密性以及不可否認(rèn)性。在電子商務(wù)交易的整個(gè)過程中,交易各方欲提供自己的真實(shí)身份信息必須通過權(quán)威的第三方“CA機(jī)構(gòu)”為其頒發(fā)身份憑證。數(shù)字證書將各方的身份信息結(jié)合在一起作為信息加密和數(shù)字簽名的密鑰,通過PKI提供公鑰加密和數(shù)字簽名服務(wù)的安全基礎(chǔ)平臺(tái),管理密鑰和證書信息,從而保障電子交易渠道的網(wǎng)絡(luò)通訊安全和數(shù)據(jù)報(bào)文的機(jī)密及不可否認(rèn)性。
3、利用隱私保護(hù)技術(shù)來實(shí)現(xiàn)大數(shù)據(jù)的隱私保護(hù)。(1)基于數(shù)據(jù)失真的隱私保護(hù)技術(shù)。數(shù)據(jù)失真技術(shù)通過擾動(dòng)原始數(shù)據(jù),使攻擊者不能發(fā)現(xiàn)真實(shí)的原始數(shù)據(jù),且失真后的數(shù)據(jù)保持某些性質(zhì)不變,大數(shù)據(jù)技術(shù)在應(yīng)用中可以通過該技術(shù)實(shí)現(xiàn)隱私數(shù)據(jù)的保護(hù);(2)基于數(shù)據(jù)加密的隱私保護(hù)技術(shù)?;跀?shù)據(jù)加密的隱私保護(hù)技術(shù)采用加密技術(shù)在數(shù)據(jù)挖掘過程隱藏敏感數(shù)據(jù),包括安全多方計(jì)算、分布式匿名化等方法,實(shí)現(xiàn)數(shù)據(jù)集之間隱私的保護(hù);(3)基于限制的隱私保護(hù)技術(shù)?;谙拗频碾[私保護(hù)技術(shù)通過有選擇地原始數(shù)據(jù)、不或者精度較低的敏感數(shù)據(jù),實(shí)現(xiàn)隱私保護(hù)。
“互聯(lián)網(wǎng)+”時(shí)代已經(jīng)到來,大數(shù)據(jù)技術(shù)在電子商務(wù)領(lǐng)域的應(yīng)用是大勢(shì)所趨。電商企業(yè)應(yīng)該積極應(yīng)用大數(shù)據(jù)技術(shù)進(jìn)行產(chǎn)品、市場(chǎng)和客戶等信息的分析,通過分析的結(jié)果輔助管理者進(jìn)行經(jīng)營(yíng)管理的決策,提高電商企業(yè)的市場(chǎng)競(jìng)爭(zhēng)力。
主要參考文獻(xiàn):
[1]張昶,靳偉,靳艷峰.web數(shù)據(jù)挖掘在移動(dòng)電子商務(wù)領(lǐng)域的應(yīng)用研究[J].價(jià)值工程,2015.26.
[2]錢敏.數(shù)據(jù)挖掘與隱私在電子商務(wù)的關(guān)系[J].中國(guó)科技信息,2016.8.
篇7
[關(guān)鍵詞]大數(shù)據(jù);數(shù)據(jù)共享;遼陽石化
doi:10.3969/j.issn.1673 - 0194.2015.16.051
[中圖分類號(hào)]F426.22 [文獻(xiàn)標(biāo)識(shí)碼]A [文章編號(hào)]1673-0194(2015)16-00-01
在大數(shù)據(jù)時(shí)代,數(shù)據(jù)將成為企業(yè)重要的戰(zhàn)略資產(chǎn),有效利用數(shù)據(jù)對(duì)提升企業(yè)戰(zhàn)略管理水平、提高決策效率和管理透明度有重要作用,是企業(yè)轉(zhuǎn)變發(fā)展方式、實(shí)現(xiàn)科學(xué)管理的重要手段。
遼陽石化公司是中石油下屬的特大型石油化工企業(yè),經(jīng)過四十多年的發(fā)展,已經(jīng)累積了海量的異構(gòu)數(shù)據(jù)。同時(shí),在加快推進(jìn)信息化建設(shè)過程中,不斷產(chǎn)生大量管理數(shù)據(jù)。
1 大數(shù)據(jù)主要技術(shù)
目前,大數(shù)據(jù)處理通用的技術(shù)架構(gòu)是MapReduce,包括Map(映射)和Reduce(歸約)兩個(gè)階段,用戶只需編寫Map函數(shù)和Reduce函數(shù)就可以在云計(jì)算平臺(tái)分布式處理。
大數(shù)據(jù)的采集是指利用多個(gè)數(shù)據(jù)庫接收來自客戶端的數(shù)據(jù),用戶可以通過這些數(shù)據(jù)庫進(jìn)行簡(jiǎn)單的查詢和處理工作。比如,遼陽石化早期的應(yīng)用系統(tǒng)一般采用關(guān)系型數(shù)據(jù)庫SQL、Oracle和Sybase等來存儲(chǔ)每一條記錄。
大數(shù)據(jù)的統(tǒng)計(jì)與分析主要利用分布式數(shù)據(jù)庫,或分布式計(jì)算集群來對(duì)存儲(chǔ)于其內(nèi)的海量數(shù)據(jù)進(jìn)行分析和分類匯總等,以滿足分析需求。
數(shù)據(jù)管理技術(shù)主要有6種,即分布式存儲(chǔ)與計(jì)算、內(nèi)存數(shù)據(jù)庫技術(shù)、列式數(shù)據(jù)庫技術(shù)、云數(shù)據(jù)庫、NoSQL、移動(dòng)數(shù)據(jù)庫技術(shù)。其中,分布式存儲(chǔ)與計(jì)算的關(guān)注度最高。
2 大數(shù)據(jù)對(duì)遼陽石化的價(jià)值
第一,“大數(shù)據(jù)”能幫助遼陽石化提高管理決策效率和水平。通過大數(shù)據(jù)技術(shù),可以使傳統(tǒng)業(yè)務(wù)流程簡(jiǎn)化、優(yōu)化、集成化,優(yōu)化流程為導(dǎo)向的多部門協(xié)同工作,全面提升機(jī)關(guān)科室的服務(wù)水平,提升對(duì)各項(xiàng)業(yè)務(wù)的管理水平。
第二,“大數(shù)據(jù)”能幫助遼陽石化提高生產(chǎn)精細(xì)化程度和生產(chǎn)效率。利用大數(shù)據(jù)技術(shù)實(shí)現(xiàn)現(xiàn)場(chǎng)生產(chǎn)數(shù)據(jù)自動(dòng)采集,從源頭上保證數(shù)據(jù)的及時(shí)性、準(zhǔn)確性,節(jié)省重復(fù)收集數(shù)據(jù)時(shí)間,顯著提高工作效率。通過分析挖掘生產(chǎn)裝置的歷史數(shù)據(jù),促進(jìn)技術(shù)和操作兩個(gè)層面的生產(chǎn)優(yōu)化,提升裝置經(jīng)濟(jì)效益。
第三,“大數(shù)據(jù)”能幫助遼陽石化提高發(fā)現(xiàn)事故隱患和排查治理能力。石化企業(yè)受傳統(tǒng)管理模式、技術(shù)手段等因素制約,不能完全建立起政府部門間的數(shù)據(jù)共享機(jī)制。散落在二級(jí)單位各個(gè)車間的寶貴信息資源無法充分共享,形成一個(gè)個(gè)“信息孤島”。通過大數(shù)據(jù)技術(shù),可對(duì)生產(chǎn)過程中的各個(gè)工藝參數(shù)進(jìn)行分析對(duì)比,從而及時(shí)準(zhǔn)確地發(fā)現(xiàn)事故隱患,提升排查治理能力。
第四,“大數(shù)據(jù)”能幫助遼陽石化實(shí)現(xiàn)監(jiān)控分析網(wǎng)絡(luò)輿情、社會(huì)動(dòng)態(tài)及市場(chǎng)形勢(shì)?;诖髷?shù)據(jù)技術(shù)的輿情監(jiān)控系統(tǒng)對(duì)熱點(diǎn)問題和重點(diǎn)領(lǐng)域比較集中的網(wǎng)站信息進(jìn)行24小時(shí)監(jiān)控,隨時(shí)下載最新消息,從而建立輿情監(jiān)控的知識(shí)庫,使管理人員全面掌握職工思想動(dòng)態(tài),以便做出正確輿論引導(dǎo),并提取有效信息作為新品研發(fā)決策依據(jù)。
3 遼陽石化應(yīng)對(duì)“大數(shù)據(jù)”的策略
3.1 配合中石油總部推進(jìn)相關(guān)技術(shù)的研究和應(yīng)用
大量非結(jié)構(gòu)化數(shù)據(jù)使數(shù)據(jù)量呈爆發(fā)式增長(zhǎng),對(duì)存儲(chǔ)容量、傳輸速率、計(jì)算速度等要求更高。ERP應(yīng)用集成、物聯(lián)網(wǎng)系統(tǒng)、云技術(shù)平臺(tái)和移動(dòng)辦公平臺(tái)都是中國(guó)石油“十二五”規(guī)劃的重點(diǎn)信息化項(xiàng)目。物聯(lián)網(wǎng)系統(tǒng)將為實(shí)時(shí)采集、處理、傳輸現(xiàn)場(chǎng)數(shù)據(jù)提供保障,為進(jìn)一步挖掘價(jià)值提供數(shù)據(jù)基礎(chǔ)。移動(dòng)應(yīng)用、社交網(wǎng)絡(luò)等在企業(yè)逐漸普及,在提升辦公效率的同時(shí),拓寬獲取數(shù)據(jù)的渠道和范圍,為更好地搜集市場(chǎng)訊息、分析客戶行為、監(jiān)控企業(yè)輿情等提供數(shù)據(jù)支持。遼陽石化應(yīng)按集團(tuán)公司要求,積極配合、適時(shí)引入并試點(diǎn)實(shí)施,做好應(yīng)對(duì)“大數(shù)據(jù)”的技術(shù)儲(chǔ)備。
3.2 加快信息化推進(jìn),不斷深化信息系統(tǒng)集成,提高數(shù)據(jù)共享
“大數(shù)據(jù)”應(yīng)用的基礎(chǔ)是信息化,面對(duì)“大數(shù)據(jù)”帶來的挑戰(zhàn)和機(jī)遇,需進(jìn)一步提升信息化水平,實(shí)現(xiàn)對(duì)數(shù)據(jù)價(jià)值的充分挖掘和有效利用。因此,通過加強(qiáng)遼陽石化應(yīng)用系統(tǒng)集成,能有效消除數(shù)據(jù)屏障,打破傳統(tǒng)部門壁壘,改變傳統(tǒng)工作習(xí)慣,加快信息化進(jìn)程,充分利用現(xiàn)有信息門戶、ERP和MES等系統(tǒng),實(shí)現(xiàn)跨部門、跨專業(yè)的數(shù)據(jù)共享,從而為戰(zhàn)略、管理、生產(chǎn)等各層面決策提供全面、準(zhǔn)確、快速的支持。
3.3 著力培養(yǎng)“大數(shù)據(jù)”專業(yè)人才
由于“大數(shù)據(jù)”應(yīng)用涉及跨學(xué)科、跨領(lǐng)域的知識(shí)。因此,遼陽石化應(yīng)未雨綢繆,通過合作培養(yǎng)、對(duì)外交流和內(nèi)部培訓(xùn)等多種方式,加大對(duì)數(shù)據(jù)專業(yè)人才培養(yǎng)力度,做好應(yīng)對(duì)“大數(shù)據(jù)”的人才儲(chǔ)備。
4 結(jié) 語
隨著信息化快速不斷推進(jìn),遼陽石化對(duì)“大數(shù)據(jù)”的認(rèn)識(shí)和應(yīng)用也逐步深入,對(duì)數(shù)據(jù)和數(shù)據(jù)價(jià)值的理解和把握也更加具體。遼陽石化不斷加快技術(shù)創(chuàng)新、管理變革和人才培養(yǎng),必將在“大數(shù)據(jù)”時(shí)代構(gòu)筑新的競(jìng)爭(zhēng)優(yōu)勢(shì)。
主要參考文獻(xiàn)
[1]王星.大數(shù)據(jù)分析――方法與應(yīng)用[M].北京:清華大學(xué)出版社,2013.
篇8
“未來每個(gè)用電的設(shè)備都會(huì)聯(lián)網(wǎng)并參與計(jì)算?!?/p>
“當(dāng)數(shù)據(jù)量已經(jīng)用ZB為單位來衡量的時(shí)候,人類已經(jīng)詞窮了?!?/p>
……
阿里云棲大會(huì)上海峰會(huì)上,阿里云大數(shù)據(jù)事業(yè)部資深總監(jiān)徐常亮用數(shù)個(gè)“每個(gè)”、“所有”來表達(dá)對(duì)大數(shù)據(jù)時(shí)代的思考。
阿里巴巴在2016年伊始高調(diào)發(fā)聲,拋出2016這個(gè)大數(shù)據(jù)元年的第一個(gè)重磅產(chǎn)品――打通數(shù)據(jù)生產(chǎn)全鏈條的一站式大數(shù)據(jù)平臺(tái)“數(shù)加”?!按髷?shù)據(jù)和云計(jì)算是一枚硬幣的正反面,但是硬幣其實(shí)還有一面。阿里云就是要用每一個(gè)程序員的‘啟蒙’代碼――‘HELLO,WORLD!’來開啟數(shù)據(jù)和應(yīng)用價(jià)值之間的過渡,為了無法計(jì)算的價(jià)值?!毙斐A帘硎?,“這一平臺(tái)承載了阿里云“普惠大數(shù)據(jù)”的理想,即讓全球任何一個(gè)企業(yè)、個(gè)人都能用上大數(shù)據(jù)。
讓數(shù)據(jù)邁入價(jià)值中心
“數(shù)加平臺(tái)”開放的是阿里巴巴十年的大數(shù)據(jù)積累,規(guī)劃的是阿里云未來的開放與整合,謀劃的是阿里巴巴的大數(shù)據(jù)野心。
眾所周知,阿里巴巴是一個(gè)互聯(lián)網(wǎng)公司,是一家電商公司,覆蓋著一個(gè)支付公司,但是馬云很早就定義過,阿里巴巴是一家數(shù)據(jù)公司。事實(shí)上,阿里巴巴已經(jīng)被認(rèn)為是全球應(yīng)用大數(shù)據(jù)最成功的公司。目前,阿里云通過對(duì)電子商務(wù)平臺(tái)上海量的客戶信用數(shù)據(jù)及行為數(shù)據(jù)進(jìn)行分析,誕生了螞蟻小貸、花唄、借唄等純大數(shù)據(jù)產(chǎn)品。
“金融行業(yè)的變化只是一個(gè)開始?!?徐常亮用“‘軍用’設(shè)備的平民化”來形容數(shù)加平臺(tái)開放給廣大用戶的輕松獲得大數(shù)據(jù)價(jià)值的能力。
“現(xiàn)在人們看數(shù)據(jù)都是通過計(jì)算去看,就像人類發(fā)明顯微鏡以后,研究微觀世界都是通過顯微鏡看到的。當(dāng)離開顯微鏡的時(shí)候,你要想一想那個(gè)世界是不是存在?!卑⒗锇桶图瘓F(tuán)CTO王堅(jiān)表示,“我們要相信那個(gè)人眼看不見的、被計(jì)算出來的數(shù)據(jù)世界,讓數(shù)據(jù)真正從成本中心轉(zhuǎn)向價(jià)值中心?!?/p>
20余款產(chǎn)品展開“數(shù)加”圖譜
“數(shù)加平臺(tái)”承載了阿里巴巴經(jīng)歷了上萬名工程師的實(shí)戰(zhàn)檢驗(yàn),20余款新品的集中展開了“數(shù)加平臺(tái)”的完整圖譜。
在數(shù)據(jù)采集層面,Datahub開啟公測(cè)。實(shí)時(shí)采集、適配開源,日吞吐量達(dá)到PB等級(jí),通過Fluentd、Flume、Logstash等插件和Logtail、Logagent、DataX等客戶端服務(wù),以期實(shí)現(xiàn)PC、APP、WiFi、基站、工業(yè)傳感器、智能硬件……多來源數(shù)據(jù)百川入海。
在此基礎(chǔ)上,大數(shù)據(jù)計(jì)算服務(wù)、分析型數(shù)據(jù)庫(Analytic DB)、流計(jì)算(StreamCompute)共同組成了底層強(qiáng)大的計(jì)算引擎,速度更快,成本更低。其中,大數(shù)據(jù)計(jì)算服務(wù)(原ODPS)正式改名為MaxCompute,提供快速、完全托管的TB/PB級(jí)數(shù)據(jù)倉庫解決方案。經(jīng)測(cè)算,自建Hadoop集群的成本是“數(shù)加平臺(tái)”的1.5倍。
數(shù)據(jù)分析方面的一大亮點(diǎn)是BI報(bào)表的正式。這一商業(yè)智能套件不只是業(yè)務(wù)人員看數(shù)據(jù)的工具,而是要搞定大BOSS的作戰(zhàn)圖。支持RDS,實(shí)現(xiàn)拖拽式操作,整合Analytic DB等多種云數(shù)據(jù)源,提供20余種數(shù)據(jù)可視化效果,實(shí)現(xiàn)“所見即所得”的海量數(shù)據(jù)實(shí)時(shí)在線分析。
對(duì)于大數(shù)據(jù)2016年最熱的機(jī)器學(xué)習(xí),阿里也給出支撐,Machine Learning正式。阿里拿出了10年積累的算法庫,在阿里云的大數(shù)據(jù)計(jì)算服務(wù)之上,集數(shù)據(jù)處理、特征工程、建模、離線預(yù)測(cè)為一體,告別小數(shù)據(jù)量抽樣,將在金融、公安等行業(yè)獲得深度應(yīng)用。
技術(shù)的支撐下,數(shù)據(jù)應(yīng)用服務(wù)的推出更加水到渠成。智能語音交互Intelligent Speech Interaction與文字識(shí)別OCR即將上線,推薦引擎Recommendation Engine開啟公測(cè),規(guī)則引擎正式。智能語音交互Intelligent Speech Interaction為應(yīng)用嵌入一個(gè)“能聽、能說、能懂”的類似“Siri”的語音服務(wù)。據(jù)透露,在2015年的“雙十一”,已經(jīng)有95%的客服是由智能語音交互系統(tǒng)在支撐的。
此外,數(shù)加平臺(tái)還基于DataV等技術(shù),了面向政府的行業(yè)應(yīng)用產(chǎn)品“郡縣圖治”、“兩客一危”實(shí)時(shí)監(jiān)控預(yù)警等產(chǎn)品。至此,此次數(shù)加平臺(tái)首批集中的產(chǎn)品超過20種,徐常亮表示:“束縛大數(shù)據(jù)的技術(shù)瓶頸已經(jīng)被完全打破,2016年我們將迎來大數(shù)據(jù)應(yīng)用的全面落地?!?/p>
目前,萬科、用友、順豐速遞等各個(gè)領(lǐng)域的多家企業(yè)已經(jīng)成為“數(shù)加平臺(tái)”的第一批合作伙伴,此次現(xiàn)場(chǎng),阿里與中國(guó)天氣、九州云等進(jìn)一步簽署合作協(xié)議,擴(kuò)展大數(shù)據(jù)綜合實(shí)力。記者了解到,大麥網(wǎng)作為阿里云“數(shù)加”平臺(tái)的嘗鮮者,通過采用“數(shù)加”的推薦引擎,大麥網(wǎng)的研發(fā)成本從900人/天降低到了30人/天,效率提升了30倍。
“入駐”模式打開新生態(tài)
篇9
關(guān)鍵詞:大數(shù)據(jù) 應(yīng)用 計(jì)算機(jī)
一、論計(jì)算機(jī)科學(xué)與技術(shù)在大數(shù)據(jù)上的應(yīng)用
大數(shù)據(jù)資源分配是大數(shù)據(jù)應(yīng)用工作的重要內(nèi)容,因此如何解決數(shù)據(jù)資源分配是應(yīng)用工作的首要任務(wù),解決好數(shù)據(jù)資源分配問題首先需要對(duì)資源進(jìn)行采集和預(yù)處理,對(duì)有用的資源進(jìn)行存儲(chǔ)。其次還要對(duì)存儲(chǔ)的數(shù)據(jù)資源進(jìn)行優(yōu)化,這就必須采用先進(jìn)的計(jì)算機(jī)息處理技術(shù),大數(shù)據(jù)處理關(guān)鍵技術(shù)必須注重以下方面:
(一)計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)了存儲(chǔ)與管理虛擬化技術(shù)
利用計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)對(duì)采集的數(shù)據(jù)資源進(jìn)行存儲(chǔ)與管就是虛擬化技術(shù)。把數(shù)據(jù)資源抽象化通過虛擬形式來展示是數(shù)據(jù)存儲(chǔ)虛擬化的主要方式。存儲(chǔ)與管理虛擬化技術(shù)有很多優(yōu)點(diǎn),如能夠把原來物理的存儲(chǔ)系統(tǒng)必須與數(shù)據(jù)驅(qū)動(dòng)的具體工作同步的傳統(tǒng)模式進(jìn)行革新,讓物理存儲(chǔ)系統(tǒng)與數(shù)據(jù)驅(qū)動(dòng)工作分開進(jìn)行。用戶戶可以根據(jù)自己的需要分配存儲(chǔ)資源。虛擬化技術(shù)還可以通過虛擬的存儲(chǔ)資源對(duì)采集數(shù)據(jù)進(jìn)行集中管理或者按照邏輯方式的不同把其分到多個(gè)虛擬機(jī)內(nèi)進(jìn)行管理。存儲(chǔ)和管理虛擬化技術(shù)可以使用戶對(duì)存儲(chǔ)資源的分配實(shí)現(xiàn)最大的便捷性。存儲(chǔ)虛擬化工作主要是通過計(jì)算機(jī)主機(jī)層進(jìn)行實(shí)現(xiàn),計(jì)算機(jī)操作系統(tǒng)中的邏輯卷管理器是分配不同用,大數(shù)據(jù)運(yùn)用計(jì)算機(jī)信息處理技術(shù)應(yīng)注意的問題計(jì)算機(jī)技術(shù)時(shí)大數(shù)據(jù)應(yīng)用發(fā)展的主要條件,通過將計(jì)算機(jī)信息處理技術(shù)運(yùn)用到大數(shù)據(jù)處理中,給大數(shù)據(jù)處理工作帶來很大的便捷。隨著當(dāng)前大數(shù)據(jù)的發(fā)展進(jìn)程不斷加快,必須不斷開發(fā)研究新的計(jì)算機(jī)信息處理技術(shù)。
(二)計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)了數(shù)據(jù)轉(zhuǎn)換技術(shù)
計(jì)算機(jī)科學(xué)與技術(shù)信息數(shù)量大、分布范圍廣是當(dāng)下大數(shù)據(jù)的主要特點(diǎn),因此對(duì)計(jì)算機(jī)信息處理提出了更高的要求。加快大數(shù)據(jù)處理的效率必須首先實(shí)現(xiàn)計(jì)算機(jī)數(shù)據(jù)采集上的高效性,信息處理技術(shù)必須將海量廣泛分布的半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)進(jìn)行及時(shí)采集。隨著科技的快速發(fā)展,當(dāng)今數(shù)據(jù)主要產(chǎn)生在以手機(jī)為主的智能終端設(shè)備上,這就導(dǎo)致數(shù)據(jù)隨時(shí)有爆發(fā)海量數(shù)據(jù)的可能性,因此必須首先對(duì)數(shù)據(jù)轉(zhuǎn)換技術(shù)進(jìn)行革新,采用新的數(shù)據(jù)存儲(chǔ)方式進(jìn)行存儲(chǔ)數(shù)據(jù)。
(三)計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)了數(shù)據(jù)安全
由于大數(shù)據(jù)包含數(shù)據(jù)信息眾多,因此其中有許多不安全因素,極容易導(dǎo)致不法分子利用網(wǎng)絡(luò)病毒對(duì)其進(jìn)行攻擊,盜取信息。在運(yùn)用計(jì)算機(jī)信息處理技術(shù)進(jìn)行大數(shù)據(jù)處理時(shí),尤其要保證大數(shù)據(jù)應(yīng)用技術(shù)的安全性,傳統(tǒng)數(shù)據(jù)處理可通過流處理模式進(jìn)行安全保護(hù),而大數(shù)據(jù)的特性決定大數(shù)據(jù)處理面臨更大的風(fēng)險(xiǎn),因此必須注重大數(shù)據(jù)處理的安全工作,在進(jìn)行大數(shù)據(jù)處理工作中可通過使用透明加密軟件為大數(shù)據(jù)進(jìn)行加密,或者使用存儲(chǔ)文檔權(quán)限管理軟件通過對(duì)大數(shù)據(jù)進(jìn)行逐級(jí)加密,保障數(shù)據(jù)安全。建立云數(shù)據(jù)與表示數(shù)據(jù)屬性的元數(shù)據(jù)是相關(guān)聯(lián)的系統(tǒng),決定數(shù)據(jù)處理、使用以及銷毀方式。這樣云數(shù)據(jù)就可以通過運(yùn)用元數(shù)據(jù)進(jìn)行標(biāo)記,從而增加使用云數(shù)據(jù)服務(wù)的客戶的控制能力,保證大數(shù)據(jù)處理的安全。
(四)計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)的應(yīng)用實(shí)現(xiàn)了數(shù)據(jù)管理節(jié)能技術(shù)
由于大數(shù)據(jù)的復(fù)雜性,對(duì)處理硬件要求比較高,因此在信息處理過程中必須注意節(jié)約能源。具體可通過調(diào)高數(shù)據(jù)中心溫度減少能源消耗,經(jīng)常檢查數(shù)據(jù)中心設(shè)備運(yùn)行狀態(tài),對(duì)不合理、利用率低的設(shè)備及時(shí)進(jìn)行更換。
二、計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)應(yīng)用的結(jié)語
對(duì)大數(shù)據(jù)處理來說,大數(shù)據(jù)處理方法串行處理和并行處理是計(jì)算機(jī)處理數(shù)據(jù)的兩種常見模式,因此,計(jì)算機(jī)處理對(duì)大數(shù)據(jù)的實(shí)際運(yùn)用中也可以分為兩種處理模式,即流處理模式和批處理模式,這兩種處理模式采用的處理方式不同,其差別主要體現(xiàn)在是否對(duì)處理信心進(jìn)行存儲(chǔ)方面。對(duì)信息進(jìn)行存儲(chǔ)以后,再通過計(jì)算機(jī)進(jìn)行相關(guān)處理的是批處理模式,實(shí)時(shí)對(duì)數(shù)據(jù)進(jìn)行處理的就是流處理模式。保證數(shù)據(jù)處理的準(zhǔn)確性是大數(shù)據(jù)處理工作的重要內(nèi)容。在大數(shù)據(jù)處理工作中運(yùn)用計(jì)算機(jī)信息處理技術(shù),實(shí)現(xiàn)整個(gè)數(shù)據(jù)處理工程的高效便捷是當(dāng)前經(jīng)濟(jì)發(fā)展對(duì)大數(shù)據(jù)處理工作的要求。必須在大數(shù)據(jù)處理工作中大力推進(jìn)計(jì)算機(jī)信息處理技術(shù),不斷更新信息處理技術(shù),才能真正提高大數(shù)據(jù)處理的效率保證大數(shù)據(jù)的處理準(zhǔn)確性是大數(shù)據(jù)工作中的一項(xiàng)非常重要的工作,準(zhǔn)確的處理數(shù)據(jù),不但是對(duì)大數(shù)據(jù)處理工作的硬性要求,而且和相關(guān)企業(yè)的經(jīng)濟(jì)發(fā)展速度和市場(chǎng)競(jìng)爭(zhēng)力息息相關(guān)。當(dāng)前計(jì)算機(jī)技術(shù)的快速發(fā)展,計(jì)算機(jī)信息處理對(duì)處理大數(shù)據(jù)高準(zhǔn)確性和便捷性使其適用非常廣泛,在當(dāng)前社會(huì),必須重視計(jì)算機(jī)信息處理對(duì)處理大數(shù)據(jù)的重要性。最終實(shí)現(xiàn)論計(jì)算機(jī)科學(xué)與技術(shù)對(duì)大數(shù)據(jù)的綜合應(yīng)用。參考文獻(xiàn):
[1]趙春雷.“大數(shù)據(jù)”時(shí)代的計(jì)算機(jī)信息處理技術(shù)[[J].世界科學(xué),2012(2).
[2]耿冬旭.“大數(shù)據(jù)”時(shí)代背景下計(jì)算機(jī)技術(shù)分析[[J].網(wǎng)絡(luò)妥全技術(shù)與應(yīng)用,2014(1).
篇10
隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展與推廣,其對(duì)于人們的生活、交往、學(xué)習(xí)方式等均產(chǎn)生了不同程度的影響。對(duì)于教育領(lǐng)域而言,在線教育已經(jīng)成為了其教學(xué)形式的重要組成部分,尤其在互聯(lián)網(wǎng)技術(shù)與信息技術(shù)的支持下更加得到了廣泛的應(yīng)用。通過在線教育,師生之間能夠跨越時(shí)間與空間的限制,進(jìn)行學(xué)習(xí)資源的高度共享,且能夠進(jìn)行雙向交互式和自主化的學(xué)習(xí)。但是,在大數(shù)據(jù)以及云計(jì)算視角下,在線教育交互仍舊需要進(jìn)一步實(shí)現(xiàn)對(duì)數(shù)據(jù)以及服務(wù)方式的轉(zhuǎn)變,以此開展更加良好的在線教育交互活動(dòng)。
1 大數(shù)據(jù)與云計(jì)算相關(guān)概述
(1)大數(shù)據(jù)的概念與特點(diǎn)
大數(shù)據(jù)技術(shù)屬于當(dāng)前數(shù)據(jù)分析的前言技術(shù),是指從多種類型的復(fù)雜數(shù)據(jù)當(dāng)中快速地獲取具有較高價(jià)值的信息,采取全新的信息處理模式提供比較強(qiáng)大的決策力、發(fā)現(xiàn)力和洞察力,并且實(shí)現(xiàn)流程優(yōu)化,繼而獲取海量的、高增長(zhǎng)率和多樣化的信息資產(chǎn)[1]。大數(shù)據(jù)技術(shù)具有種類多的特點(diǎn),主要是指其格式比較多,包含了結(jié)構(gòu)化與非結(jié)構(gòu)化的數(shù)據(jù),同時(shí)具有全新的數(shù)據(jù)分析能力。大數(shù)據(jù)亦具有體積大和速度快的特點(diǎn)。體積大主要是指其存儲(chǔ)比較大,增長(zhǎng)比較快。一般互聯(lián)網(wǎng)實(shí)施產(chǎn)生的數(shù)據(jù)量均比較大。速度快則主要是指數(shù)據(jù)的處理分析速度比較快。
(2)云計(jì)算的概念與特點(diǎn)
云計(jì)算主要是運(yùn)用互聯(lián)網(wǎng)當(dāng)中龐大的計(jì)算處理能力,將待處理的程序自動(dòng)分拆成為無數(shù)個(gè)比較小的子程序,將諸多子程序再轉(zhuǎn)交給多部服務(wù)器所組成的龐大系統(tǒng),通過搜尋、計(jì)算和分析,將最終的處理結(jié)果回傳給用戶[2]。云計(jì)算技術(shù)在網(wǎng)絡(luò)應(yīng)用當(dāng)中具有比較大的優(yōu)勢(shì),其優(yōu)勢(shì)特點(diǎn)為:第一,虛擬化。云計(jì)算能夠加案例比較基礎(chǔ)的資源地,對(duì)多個(gè)虛擬機(jī)以及應(yīng)用均能夠進(jìn)行部署,以此能夠有效的提高資源的利用率。第二,可靠性較高。云計(jì)算存儲(chǔ)數(shù)據(jù)一般會(huì)使用多副本容錯(cuò)和計(jì)算節(jié)點(diǎn)同構(gòu)可互換,由此能夠保證數(shù)據(jù)服務(wù)具有比較高的可靠性。第三,規(guī)模超大。云計(jì)算擁有龐大規(guī)模的硬件資源,能夠?yàn)橛脩籼峁┏?jí)的計(jì)算能力。第四,按需服務(wù)。云計(jì)算具有較高資源能力,且能夠?qū)①Y源能力作為主要服務(wù)向外提供,用戶可以根據(jù)具體的需求進(jìn)行相應(yīng)資源的購買,有效解決了資源獲取成本。
2 基于大數(shù)據(jù)及云計(jì)算視角下的在線教育交互性應(yīng)用
(1)建設(shè)資源庫云平臺(tái)
對(duì)于高校而言,其開展在線教育交互活動(dòng)的主要目的便在于為當(dāng)前社會(huì)各個(gè)行業(yè)的人才需求提供相應(yīng)的高素質(zhì)、高能力的人才。為此,高校在基于大數(shù)據(jù)及云計(jì)算視角下進(jìn)行在線教育交互性應(yīng)用時(shí),首先必須要對(duì)不同企業(yè)的崗位需求,以及不同職業(yè)能力要求作出全面的分析,通過大數(shù)據(jù)以及云計(jì)算作出搜尋、整理和分析,繼而根據(jù)分析結(jié)果進(jìn)行課程體系的具體制定,建立不同專業(yè)的,多樣化的資源庫云平臺(tái),以便為高校各個(gè)專業(yè)的課堂教學(xué)提供充足的教學(xué)資源支持。所有資源庫云平臺(tái)均需要為高校教師提供綜合資源,在搜尋、積累與整理后,將有價(jià)值的教學(xué)資源入庫,實(shí)現(xiàn)校內(nèi)以及跨校的教學(xué)資源共享。該種方式能夠使得各個(gè)專業(yè)的教學(xué)資源均得到極大程度的梳理和利用,能夠進(jìn)一步改變傳?y教學(xué)資源受限的問題。對(duì)資源庫當(dāng)中的數(shù)據(jù)資源進(jìn)行處理,必須要在在線教育交互平臺(tái)眾建立一定的數(shù)據(jù)資源處理層(圖1),應(yīng)用其做好多樣化的數(shù)據(jù)資源處理,真正實(shí)現(xiàn)教學(xué)資源共享。
(2)線上線下一體化的課堂教學(xué)設(shè)計(jì)
在線教育憑借其較高的學(xué)習(xí)資源利用率、先進(jìn)的教學(xué)方式以及科學(xué)的教學(xué)管理,當(dāng)前已經(jīng)被教育領(lǐng)域廣泛應(yīng)用[3]。但是,隨著在線教育的不斷推廣,其出現(xiàn)了比較嚴(yán)重的同質(zhì)化趨勢(shì)。面對(duì)該種情況,在大數(shù)據(jù)以及云計(jì)算技術(shù)的支持下,在線教育機(jī)構(gòu)必須要能夠?qū)逃Y源進(jìn)行更加合理的應(yīng)用,盡量保證資源的豐富性和高質(zhì)量。與此同時(shí),在線教育機(jī)構(gòu)亦要能夠進(jìn)行個(gè)性化的線上線下一體化的課堂教學(xué)設(shè)計(jì)。該點(diǎn)即是指教師需要采用傳統(tǒng)課堂教學(xué)的方式對(duì)學(xué)生進(jìn)行教學(xué),但是亦要在其中融入有效的在線教育交互活動(dòng)。其中,在線教育交互活動(dòng)平臺(tái),基本上可以采用圖2所述的形式。在線上線下一體化的課堂教學(xué)設(shè)計(jì)當(dāng)中,教師不僅能夠?qū)W(xué)生課堂學(xué)習(xí)的狀態(tài)進(jìn)行及時(shí)把握,更加能夠在大數(shù)據(jù)和云計(jì)算的支持中,對(duì)豐富的教學(xué)資源以及先進(jìn)的教學(xué)管理方法進(jìn)行應(yīng)用,以此提高教學(xué)質(zhì)量。
(3)開發(fā)移動(dòng)交互式數(shù)字教材
移動(dòng)交互式數(shù)字教材,是指將傳統(tǒng)的紙質(zhì)教材內(nèi)容重新進(jìn)行編排設(shè)計(jì)與交互設(shè)計(jì),主要面向平板電腦(PC機(jī)和手機(jī))進(jìn)行全新的設(shè)計(jì)呈現(xiàn)[4]。移動(dòng)交互式數(shù)字教材與普通電子書之間具有一定差異性,其在平板電腦、PC機(jī)和手機(jī)等媒介呈現(xiàn)時(shí)主要借助3G、4G和WIFI網(wǎng)絡(luò),將數(shù)字出版、移動(dòng)學(xué)習(xí)、云服務(wù)三大領(lǐng)域的前言科技進(jìn)行了集合,支持高清圖片、視頻、音頻、動(dòng)畫、3D、地理定位等多媒體學(xué)習(xí)內(nèi)容,可以進(jìn)行內(nèi)容交互、網(wǎng)絡(luò)社交、百科互動(dòng)等學(xué)習(xí)。基于大數(shù)據(jù)及云計(jì)算視角下的在線教育交互性當(dāng)中,開發(fā)移動(dòng)交互式數(shù)字教材,能夠?yàn)閷W(xué)生提供更加豐富的、可擴(kuò)展的、精致化、可進(jìn)度跟蹤的學(xué)習(xí)體驗(yàn)。該種教材比較適合我國(guó)高校,尤其高職院校學(xué)生的學(xué)習(xí)特點(diǎn),便于學(xué)生更好的應(yīng)用專業(yè)知識(shí),掌握專業(yè)技能。同時(shí),基于大數(shù)據(jù)及云計(jì)算視角下的在線教育交互性移動(dòng)交互數(shù)字教材開發(fā),亦便于對(duì)教學(xué)資源進(jìn)行整理和利用,促使專業(yè)教更加完善。
(4)積極采用智能手機(jī)教學(xué)
當(dāng)前,很多學(xué)校禁止手機(jī)進(jìn)課堂,因?yàn)閷W(xué)生上課玩手機(jī)比較容易導(dǎo)致注意力不集中。但是,美國(guó)卻主張讓手機(jī)服務(wù)于課堂,主要便是積極運(yùn)用大數(shù)據(jù)和云計(jì)算技術(shù)開展智能手機(jī)教學(xué)[5]。我國(guó)傳統(tǒng)的教學(xué)信息化基本上按部就班進(jìn)行,即便進(jìn)行了交互卻并沒有有效的反饋。在實(shí)際的信息化運(yùn)用當(dāng)中亦存在各種限制與監(jiān)管,并不具有互聯(lián)網(wǎng)開放性思維。學(xué)生在具體的學(xué)習(xí)當(dāng)中亦不能夠恰當(dāng)?shù)膽?yīng)用信息化技術(shù),且學(xué)習(xí)進(jìn)度具有較大差異。面對(duì)此情況,必須要積極采用“線上線下一體化”教學(xué)方式,利用智能手機(jī),增添課堂教學(xué)趣味。例如,可以通過QQ群、微信群、微博互動(dòng)燈通信軟件以及社交網(wǎng)絡(luò)平臺(tái)進(jìn)行師生與生生互動(dòng),吸引學(xué)生具有更加濃厚的學(xué)習(xí)興趣。