統(tǒng)計與大數(shù)據(jù)分析專業(yè)學(xué)什么?
需學(xué)習(xí)數(shù)據(jù)采集?分析?處理軟件,學(xué)習(xí)數(shù)學(xué)建模軟件及計算機編程語言等,知識結(jié)構(gòu)是二專多能復(fù)合的跨界人才(有專業(yè)知識?有數(shù)據(jù)思維)?
統(tǒng)計與大數(shù)據(jù)技術(shù)專業(yè)屬于交叉學(xué)科,以統(tǒng)計學(xué)?數(shù)學(xué)?計算機為三大支撐性學(xué)科;生物?醫(yī)學(xué)?環(huán)境科學(xué)?經(jīng)濟學(xué)?社會學(xué)?管理學(xué)為應(yīng)用拓展性學(xué)科?
以中國人民大學(xué)為例:
基礎(chǔ)課程:數(shù)學(xué)分析?高等代數(shù)?普通物理數(shù)學(xué)與信息科學(xué)概論?數(shù)據(jù)結(jié)構(gòu)?數(shù)據(jù)科學(xué)導(dǎo)論?程序設(shè)計導(dǎo)論?程序設(shè)計實踐?
必修課:離散數(shù)學(xué)?概率與統(tǒng)計?算法分析與設(shè)計?數(shù)據(jù)計算智能?數(shù)據(jù)庫系統(tǒng)概論?計算機系統(tǒng)基礎(chǔ)?并行體系結(jié)構(gòu)與編程?非結(jié)構(gòu)化大數(shù)據(jù)分析?
選修課:數(shù)據(jù)科學(xué)算法導(dǎo)論?數(shù)據(jù)科學(xué)專題?數(shù)據(jù)科學(xué)實踐?互聯(lián)網(wǎng)實用開發(fā)技術(shù)?抽樣技術(shù)?統(tǒng)計學(xué)習(xí)?回歸分析?隨機過程?
統(tǒng)計與大數(shù)據(jù)分析就業(yè)前景
統(tǒng)計與大數(shù)據(jù)分析就業(yè)前景是越來越好,持續(xù)增長。
主要面向統(tǒng)計行業(yè),在統(tǒng)計、調(diào)查、分析及管理崗位群,從事調(diào)查方案、圖表、問卷設(shè) 計的制作,統(tǒng)計調(diào)查分析信息采集、處理、展示,數(shù)據(jù)分析、引用、預(yù)測等工作。
隨著網(wǎng)絡(luò)和信息技術(shù)的不斷普及,人類生產(chǎn)生的數(shù)據(jù)量正在呈指數(shù)級增長。大量的新數(shù)據(jù)源的出現(xiàn)導(dǎo)致了非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)爆發(fā)式的增長。這些海量的數(shù)據(jù)已經(jīng)遠遠超出人力所能處理的范疇,怎么管理和使用這些數(shù)據(jù),讓他們發(fā)揮應(yīng)有的作用?這樣大數(shù)據(jù)概念就應(yīng)運而生。
大數(shù)據(jù)技術(shù)被滲透到社會的方方面面,醫(yī)療衛(wèi)生、商業(yè)分析、國家安全、食品安全、金融安全等方面。
2014年,從大數(shù)據(jù)作為國家重要的戰(zhàn)略資源和加快實現(xiàn)創(chuàng)新發(fā)展的高度,在全社會形成用數(shù)據(jù)來說話、用數(shù)據(jù)來管理、用數(shù)據(jù)來決策、用數(shù)據(jù)來創(chuàng)新的文化氛圍與時代特征。大數(shù)據(jù)科學(xué)將成為計算機科學(xué)、人工智能技術(shù)、數(shù)字經(jīng)濟及商業(yè)、物聯(lián)網(wǎng)應(yīng)用、還有各個人文社科領(lǐng)域發(fā)展的核心。
數(shù)據(jù)分析是哪個專業(yè)的
統(tǒng)計與大數(shù)據(jù)分析專業(yè)是中國普通高等學(xué)校??茖I(yè),屬統(tǒng)計學(xué)類專業(yè),基本修業(yè)年限為三年。
統(tǒng)計與大數(shù)據(jù)分析專業(yè)主要學(xué)習(xí)概率統(tǒng)計、保險與金融、精算科學(xué)的基本知識及計算機應(yīng)用技術(shù),包括市場信息采集、企業(yè)生產(chǎn)經(jīng)營與風(fēng)險的信息收集、管理和預(yù)警、生產(chǎn)計劃與商務(wù)咨詢等,運用統(tǒng)計知識、數(shù)據(jù)分析方法進行數(shù)據(jù)處理。
統(tǒng)計與大數(shù)據(jù)分析畢業(yè)生主要面向統(tǒng)計行業(yè),在統(tǒng)計、調(diào)查、分析及管理崗位群,從事調(diào)查方案、圖表、問卷設(shè)計的制作,統(tǒng)計調(diào)查分析信息采集、處理、展示,數(shù)據(jù)分析、引用、預(yù)測等工作。
大數(shù)據(jù)與統(tǒng)計學(xué)有什么聯(lián)系?
實際上,雖然在大數(shù)據(jù)時代背景下,統(tǒng)計學(xué)的知識體系產(chǎn)生了一定程度的調(diào)整,但是統(tǒng)計學(xué)本身的理念與大數(shù)據(jù)還是具有一定區(qū)別的,統(tǒng)計學(xué)注重的是方式方法,而大數(shù)據(jù)則更關(guān)注于整個數(shù)據(jù)價值化的過程,大數(shù)據(jù)不僅需要統(tǒng)計學(xué)知識,還需要具備數(shù)學(xué)知識和計算機知識。從另一個角度來說,統(tǒng)計學(xué)為大數(shù)據(jù)進行數(shù)據(jù)價值化奠定了一定的基礎(chǔ)。
從技術(shù)體系結(jié)構(gòu)來看,統(tǒng)計學(xué)知識主要應(yīng)用在大數(shù)據(jù)分析領(lǐng)域,統(tǒng)計學(xué)方式是大數(shù)據(jù)分析的兩種主要方式之一,另一種數(shù)據(jù)分析方式是機器學(xué)習(xí)。所以,對于主攻大數(shù)據(jù)分析方向的研發(fā)人員來說,掌握統(tǒng)計學(xué)知識還是很有必要的,統(tǒng)計學(xué)在數(shù)據(jù)分析方面已經(jīng)形成了一個較為系統(tǒng)的知識體系,而且很多技術(shù)已經(jīng)經(jīng)過了實踐的檢驗。其實對于很多職場人來說,平時大部分的數(shù)據(jù)分析任務(wù)都是基于統(tǒng)計學(xué)理論進行的,包括采用的數(shù)據(jù)分析工具也都屬于統(tǒng)計學(xué)領(lǐng)域的范疇。
從未來的發(fā)展趨勢來看,一方面統(tǒng)計學(xué)會進一步向大數(shù)據(jù)傾斜,包括目前不少統(tǒng)計學(xué)專業(yè)的研究生課題,都逐漸開始向大數(shù)據(jù)方向拓展,另一方面大數(shù)據(jù)會在發(fā)展的初期大量采用統(tǒng)計學(xué)相關(guān)理論和技術(shù),這也能夠提升大數(shù)據(jù)相關(guān)技術(shù)的落地應(yīng)用能力。
如何統(tǒng)計和分析利用網(wǎng)絡(luò)大數(shù)據(jù)?
如何統(tǒng)計和分析利用網(wǎng)絡(luò)大數(shù)據(jù)?
大數(shù)據(jù)給互聯(lián)網(wǎng)帶來的是空前的信息大爆炸,它不僅改變了互聯(lián)網(wǎng)的數(shù)據(jù)應(yīng)用模式,還將深深影響著人們的生產(chǎn)生活。深處在大數(shù)據(jù)時代中,人們認(rèn)識到大數(shù)據(jù)已經(jīng)將數(shù)據(jù)分析的認(rèn)識從“向后分析”變成“向前分析”,改變了人們的思維模式,但同時大數(shù)據(jù)也向我們提出了數(shù)據(jù)采集、分析和使用等難題。在解決了這些難題的同時,也意味著大數(shù)據(jù)開始向縱深方向發(fā)展。
一、數(shù)據(jù)統(tǒng)計分析的內(nèi)涵
近年來,包括互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計算等信息技術(shù)在內(nèi)的IT通信業(yè)迅速發(fā)展,數(shù)據(jù)的快速增長成了許多行業(yè)共同面對的嚴(yán)峻挑戰(zhàn)和寶貴機遇,因此現(xiàn)代信息社會已經(jīng)進入了大數(shù)據(jù)時代。事實上,大數(shù)據(jù)改變的不只是人們的日常生活和工作模式、企業(yè)運作和經(jīng)營模式,甚至還引起科學(xué)研究模式的根本性改變。一般意義上,大數(shù)據(jù)是指無法在一定時間內(nèi)用常規(guī)機器和軟硬件工具對其進行感知、獲取、管理、處理和服務(wù)的數(shù)據(jù)集合。網(wǎng)絡(luò)大數(shù)據(jù)是指“人、機、物”三元世界在網(wǎng)絡(luò)空間中彼此交互與融合所產(chǎn)生并在互聯(lián)網(wǎng)上可獲得的大數(shù)據(jù)。
將數(shù)據(jù)應(yīng)用到生活生產(chǎn)中,可以有效地幫助人們或企業(yè)對信息作出比較準(zhǔn)確的判斷,以便采取適當(dāng)行動。數(shù)據(jù)分析是組織有目的地收集數(shù)據(jù)、分析數(shù)據(jù),并使之成為信息的過程。也就是指個人或者企業(yè)為了解決生活生產(chǎn)中的決策或者營銷等問題,運用分析方法對數(shù)據(jù)進行處理的過程。所謂的數(shù)據(jù)統(tǒng)計分析,就是運用統(tǒng)計學(xué)的方法對數(shù)據(jù)進行處理。在以往的市場調(diào)研工作中,數(shù)據(jù)統(tǒng)計分析能夠幫助我們挖掘出數(shù)據(jù)中隱藏的信息,但是這種數(shù)據(jù)的分析是“向后分析”,分析的是已經(jīng)發(fā)生過的事情。而在大數(shù)據(jù)中,數(shù)據(jù)的統(tǒng)計分析是“向前分析”,它具有預(yù)見性。
二、大數(shù)據(jù)的分析
1.可視化分析。
數(shù)據(jù)是結(jié)構(gòu)化的,包括原始數(shù)據(jù)中的關(guān)系數(shù)據(jù)庫,其數(shù)據(jù)就是半結(jié)構(gòu)化的,譬如我們熟知的文本、圖形、圖像數(shù)據(jù),同時也包括了網(wǎng)絡(luò)的不同構(gòu)型的數(shù)據(jù)。通過對各種數(shù)據(jù)的分析,就可以清晰的發(fā)現(xiàn)不同類型的知識結(jié)構(gòu)和內(nèi)容,包括反映表征的、帶有普遍性的廣義型知識;用于反映數(shù)據(jù)的匯聚模式或根據(jù)對象的屬性區(qū)分其所屬類別的特征型知識;差異和極端特例進行描述的差異型知識;反映一個事件和其他事件之間依賴或關(guān)聯(lián)的關(guān)聯(lián)型知識;根據(jù)當(dāng)前歷史和當(dāng)前數(shù)據(jù)預(yù)測未來數(shù)據(jù)的預(yù)測型知識。當(dāng)前已經(jīng)出現(xiàn)了許多知識發(fā)現(xiàn)的新技術(shù),其中之一就是可視化方法。數(shù)據(jù)可視化技術(shù)有3個鮮明的特點:第一,與用戶的交互性強。用戶不再是信息傳播中的受者,還可以方便地以交互的方式管理和開發(fā)數(shù)據(jù)。第二,數(shù)據(jù)顯示的多維性。在可視化的分析下,數(shù)據(jù)將每一維的值分類、排序、組合和顯示,這樣就可以看到表示對象或事件的數(shù)據(jù)的多個屬性或變量。第三,最直觀的可視性特點。數(shù)據(jù)可以用圖像、曲線、二維圖形、三維體和動畫來顯示,并可對其模式和相互關(guān)系進行可視化分析。
2.數(shù)據(jù)挖掘算法。
數(shù)據(jù)挖掘是指數(shù)據(jù)庫中的知識發(fā)現(xiàn),其歷史可以追溯到1989年美國底特律市召開的第一屆KDD國際學(xué)術(shù)會議上,而第一屆知識發(fā)現(xiàn)和數(shù)據(jù)挖掘(DataMining,DM)國際學(xué)術(shù)會議是1995年加拿大召開的,會議上將數(shù)據(jù)庫里存放的數(shù)據(jù)生動地比擬成礦床,從而“數(shù)據(jù)挖掘”這個名詞很快就流傳開來。數(shù)據(jù)挖掘的目的是在雜亂無章的數(shù)據(jù)庫中,從大量數(shù)據(jù)中找到有用的、合適的數(shù)據(jù),并將其隱含的、不為人知的潛在價值的信息揭示出來的過程。事實上,數(shù)據(jù)挖掘只是整個KDD過程中的一個步驟。
數(shù)據(jù)挖掘的定義沒有統(tǒng)一的說法,其中“數(shù)據(jù)挖掘是一個從不完整的、不明確的、大量的并且包含噪聲的具有很大隨機性的實際應(yīng)用數(shù)據(jù)中,提取出隱含其中、事先未被人們獲知、卻潛在有用的知識或模式的過程”是被廣泛接受的定義。事實上,該定義中所包含的信息——大量真實的數(shù)據(jù)源包含著噪聲;滿足用戶的需求的新知識;被理解接受的而且有效運用的知識;挖掘出的知識并不要求適用于所有領(lǐng)域,可以僅支持某個特定的應(yīng)用發(fā)現(xiàn)問題。以上這些特點都表現(xiàn)了它對數(shù)據(jù)處理的作用,在有效處理海量且無序的數(shù)據(jù)時,還能夠發(fā)現(xiàn)隱藏在這些數(shù)據(jù)中的有用的知識,最終為決策服務(wù)。從技術(shù)這個角度來說,數(shù)據(jù)挖掘就是利用一系列相關(guān)算法和技術(shù)從大量的數(shù)據(jù)中提取出為人們所需要的信息和知識,隱藏在數(shù)據(jù)背后的知識,可以以概念、模式、規(guī)律和規(guī)則等形式呈現(xiàn)出來。
3.預(yù)測性分析能力。
預(yù)測性分析可以讓分析員根據(jù)可視化分析和數(shù)據(jù)挖掘的結(jié)果做出一些預(yù)測性的判斷。大數(shù)據(jù)分析最終要實現(xiàn)的應(yīng)用領(lǐng)域之一就是預(yù)測性分析,可視化分析和數(shù)據(jù)挖掘都是前期鋪墊工作,只要在大數(shù)據(jù)中挖掘出信息的特點與聯(lián)系,就可以建立科學(xué)的數(shù)據(jù)模型,通過模型帶入新的數(shù)據(jù),從而預(yù)測未來的數(shù)據(jù)。作為數(shù)據(jù)挖掘的一個子集,內(nèi)存計算效率驅(qū)動預(yù)測分析,帶來實時分析和洞察力,使實時事務(wù)數(shù)據(jù)流得到更快速的處理。實時事務(wù)的數(shù)據(jù)處理模式能夠加強企業(yè)對信息的監(jiān)控,也便于企業(yè)的業(yè)務(wù)管理和信息更新流通。此外,大數(shù)據(jù)的預(yù)測分析能力,能夠幫助企業(yè)分析未來的數(shù)據(jù)信息,有效規(guī)避風(fēng)險。在通過大數(shù)據(jù)的預(yù)測性分析之后,無論是個人還是企業(yè),都可以比之前更好地理解和管理大數(shù)據(jù)。
盡管當(dāng)前大數(shù)據(jù)的發(fā)展趨勢良好,但網(wǎng)絡(luò)大數(shù)據(jù)對于存儲系統(tǒng)、傳輸系統(tǒng)和計算系統(tǒng)都提出了很多苛刻的要求,現(xiàn)有的數(shù)據(jù)中心技術(shù)很難滿足網(wǎng)絡(luò)大數(shù)據(jù)的需求。因此,科學(xué)技術(shù)的進步與發(fā)展對大數(shù)據(jù)的支持起著重要的作用,大數(shù)據(jù)的革命需要考慮對IT行業(yè)進行革命性的重構(gòu)。網(wǎng)絡(luò)大數(shù)據(jù)平臺(包括計算平臺、傳輸平臺、存儲平臺等)是網(wǎng)絡(luò)大數(shù)據(jù)技術(shù)鏈條中的瓶頸,特別是網(wǎng)絡(luò)大數(shù)據(jù)的高速傳輸,需要革命性的新技術(shù)。此外,既然在大數(shù)據(jù)時代,任何數(shù)據(jù)都是有價值的,那么這些有價值的數(shù)據(jù)就成為了賣點,導(dǎo)致爭奪和侵害的發(fā)生。事實上,只要有數(shù)據(jù),就必然存在安全與隱私的問題。隨著大數(shù)據(jù)時代的到來,網(wǎng)絡(luò)數(shù)據(jù)的增多,使得個人數(shù)據(jù)面臨著重大的風(fēng)險和威脅,因此,網(wǎng)絡(luò)需要制定更多合理的規(guī)定以保證網(wǎng)絡(luò)環(huán)境的安全。