大數據泛指巨量的數據集,因可從中挖掘出有價值的信息而受到重視?!度A爾街日報》將大數據時代、智能化生產和無線網絡革命稱為引領未來繁榮的三大技術變革。麥肯錫公司的報告指出數據是一種生產資料,大數據是下一個創新、競爭、生產力提高的前沿。世界經濟論壇的報告認定大數據為新財富,價值堪比石油。因此,發達國家紛紛將開發利用大數據作為奪取新一輪競爭制高點的重要抓手。
大數據時代的來臨
互聯網特別是移動互聯網的發展,加快了信息化向社會經濟各方面、大眾日常生活的滲透。有資料顯示,1998年全球網民平均每月使用流量是1MB(兆字節),2000年是10MB,2003年是100MB,2008年是1GB(1GB等于1024MB),2014年將是10GB。全網流量累計達到1EB(即10億GB或1000PB)的時間在2001年是一年,在2004年是一個月,在2007年是一周,而2013年僅需一天,即一天產生的信息量可刻滿1。88億張DVD光盤。我國網民數居世界之首,每天產生的數據量也位于世界前列。淘寶網站每天有超過數千萬筆交易,單日數據產生量超過50TB(1TB等于1000GB),存儲量40PB(1PB等于1000TB)。百度公司目前數據總量接近1000PB,存儲網頁數量接近1萬億頁,每天大約要處理60億次搜索請求,幾十PB數據。一個8Mbps(兆比特每秒)的攝像頭一小時能產生3。6GB數據,一個城市若安裝幾十萬個交通和安防攝像頭,每月產生的數據量將達幾十PB。醫院也是數據產生集中的地方?,F在,一個病人的CT影像數據量達幾十GB,而全國每年門診人數以數十億計,并且他們的信息需要長時間保存??傊?,大數據存在于各行各業,一個大數據時代正在到來。
信息爆炸不自今日起,但近年來人們更加感受到大數據的來勢迅猛。一方面,網民數量不斷增加,另一方面,以物聯網和家電為代表的聯網設備數量增長更快。2007年全球有5億個設備聯網,人均0。1個;2013年全球將有500億個設備聯網,人均70個。隨著寬帶化的發展,人均網絡接入帶寬和流量也迅速提升。全球新產生數據年增40%,即信息總量每兩年就可以翻番,這一趨勢還將持續。目前,單一數據集容量超過幾十TB甚至數PB已不罕見,其規模大到無法在容許的時間內用常規軟件工具對其內容進行抓取、管理和處理。
數據規模越大,處理的難度也越大,但對其進行挖掘可能得到的價值更大,這就是大數據熱的原因。首先,大數據反映輿情和民意。網民在網上產生的海量數據,記錄著他們的思想、行為乃至情感,這是信息時代現實社會與網絡空間深度融合的產物,蘊含著豐富的內涵和很多規律性信息。根據中國互聯網絡信息中心統計,2012年底我國網民數為5。64億,手機網民為4。2億,通過分析相關數據,可以了解大眾需求、訴求和意見。其次,企業和政府的信息系統每天源源不斷產生大量數據。根據賽門鐵克公司的調研報告,全球企業的信息存儲總量已達2。2ZB(1ZB等于1000EB),年增67%。醫院、學校和銀行等也都會收集和存儲大量信息。政府可以部署傳感器等感知單元,收集環境和社會管理所需的信息。2011年,英國《自然》雜志曾出版??赋?,倘若能夠更有效地組織和使用大數據,人類將得到更多的機會發揮科學技術對社會發展的巨大推動作用。
大數據應用的領域
大數據技術可運用到各行各業。宏觀經濟方面,IBM日本公司建立經濟指標預測系統,從互聯網新聞中搜索影響制造業的480項經濟數據,計算采購經理人指數的預測值。印第安納大學利用谷歌公司提供的心情分析工具,從近千萬條網民留言中歸納出六種心情,進而對道瓊斯工業指數的變化進行預測,準確率達到87%。制造業方面,華爾街對沖基金依據購物網站的顧客評論,分析企業產品銷售狀況;一些企業利用大數據分析實現對采購和合理庫存量的管理,通過分析網上數據了解客戶需求、掌握市場動向。有資料顯示,全球零售商因盲目進貨導致的銷售損失每年達1000億美元,這方面的數據分析大有作為。
在農業領域,硅谷有個氣候公司,從美國氣象局等數據庫中獲得幾十年的天氣數據,將各地降雨、氣溫、土壤狀況與歷年農作物產量的相關度做成精密圖表,預測農場來年產量,向農戶出售個性化保險。在商業領域,沃爾瑪公司通過分析銷售數據,了解顧客購物習慣,得出適合搭配在一起出售的商品,還可從中細分顧客群體,提供個性化服務。在金融領域,華爾街“德溫特資本市場”公司分析3。4億微博賬戶留言,判斷民眾情緒,依據人們高興時買股票、焦慮時拋售股票的規律,決定公司股票的買入或賣出。阿里公司根據在淘寶網上中小企業的交易狀況篩選出財務健康和講究誠信的企業,對他們發放無需擔保的貸款。目前已放貸300多億元,壞賬率僅0。3%。
在醫療保健領域,“谷歌流感趨勢”項目依據網民搜索內容分析全球范圍內流感等病疫傳播狀況,與美國疾病控制和預防中心提供的報告對比,追蹤疾病的精確率達到97%。社交網絡為許多慢性病患者提供臨床癥狀交流和診治經驗分享平臺,醫生借此可獲得在醫院通常得不到的臨床效果統計數據?;趯θ梭w基因的大數據分析,可以實現對癥下藥的個性化治療。在社會安全管理領域,通過對手機數據的挖掘,可以分析實時動態的流動人口來源、出行,實時交通客流信息及擁堵情況。利用短信、微博、微信和搜索引擎,可以收集熱點事件,挖掘輿情,還可以追蹤造謠信息的源頭。美國麻省理工學院通過對十萬多人手機的通話、短信和空間位置等信息進行處理,提取人們行為的時空規律性,進行犯罪預測。在科學研究領域,基于密集數據分析的科學發現成為繼實驗科學、理論科學和計算科學之后的第四個范例,基于大數據分析的材料基因組學和合成生物學等正在興起。
麥肯錫公司2011年報告推測,如果把大數據用于美國的醫療保健,一年產生潛在價值3000億美元,用于歐洲的公共管理可獲得年度潛在價值2500億歐元;服務提供商利用個人位置數據可獲得潛在的消費者年度盈余6000億美元;利用大數據分析,零售商可增加運營利潤60%,制造業設備裝配成本會減少50%。