当今世界,信息技术为人类步入智能社会开启了大门,同时也带动了互联网、物联网、电子商务、现代物流、网络金融等现代服务业发展,催生了车联网、智能电网、新能源、智能交通、智慧城市、高端装备制造等产业的兴起。现代信息技术正成为各行各业运营和发展的引擎,但这个引擎正面临着大数据这个巨大的考验,因为各种业务数据正以几何级数的形式爆发 [1] ,其格式、收集、储存、检索、分析、应用等诸多问题,不能再用传统的信息处理技术加以解决,给人类实现数字社会、网络社会和智能社会造成了极大的障碍。比如,纽约证券交易所每天产生1TB的交易数据,Twitter每天就会产生超过7TB的数据,Facebook每天会产生超过10TB的数据,位于欧洲的粒子物理实验室的大型强子对撞机每年产生约15PB的数据 [2] 。根据著名咨询公司IDC的调查与统计,2007年全球信息量约为165EB,即使在全球遭遇金融危机的2009年,全球信息量仍达到800EB,比上一年度增长62%。未来每隔18个月,整个世界的数据总量就会翻倍,预计2020年这一数字将达到35ZB,约为2007年的220倍,而人类历史5000年的文字记载只有5EB的数据。上述统计与调查预示着TB、PB、EB的时代已经成为过去,全球将正式进入数据存储的“泽它(Zetta)时代”。
在具体的应用方面,大数据处理技术可以为国家支柱企业的数据分析和处理提供技术和平台支持,为企业进行数据分析、处理、挖掘,提取出重要的信息和知识,再转化为有用的模型,并应用到研究、生产、运营和销售过程中。同时,国家大力倡导“智慧城市”建设,在城市化与信息化融合的背景下,围绕改善民生、增强企业竞争力、促进城市可持续发展等关注点,综合利用物联网、云计算等信息技术手段,结合城市现有信息化基础,融合先进的城市运营服务理念,建立广泛覆盖和深度互联的城市信息网络,对城市的资源、环境、基础设施、产业等多方面要素进行全面感知,并整合构建协同共享的城市信息平台,对信息进行智能处理利用,从而为城市运行和资源配置提供智能响应控制,为政府社会管理和公共服务提供智能决策依据及手段,为企业和个人提供智能信息资源及开放式信息应用平台。
数据无疑是新型信息技术服务和科学研究的基石,而大数据处理技术理所当然地成为当今信息技术发展的核心热点,大数据处理技术的蓬勃发展也预示着又一次信息技术革命的到来。随着国家经济结构调整、产业升级的不断深化,信息处理技术的作用将日益凸显,而大数据处理技术无疑将成为在国民经济支柱产业信息化建设中实现核心技术的弯道追赶、跟随发展、应用突破、减少绑架的最佳突破点。