通常,企业里面到处都充斥着数据。事实上各行各业的数据量均经历了几何级数的增长,无论是医疗卫生还是金融,抑或是零售业还是制造业。
在此类海量数据库中,隐藏着无数商业秘密,也孕育着很多机遇以及潜在的成功。但将这些信息(除了由媒体和视频生成的非结构化信息之外,还包括历史数据)利用起来却是一项令人望而生畏的工程。
“许多组织会累积30 年或30 年以上的交易数据,此外还有大量多媒体数据。”埃森哲咨询公司首席技术策略官兼总经理柯蒂斯(Gary Curtis) 说,“综合所有信息并理出头绪是企业在数码时代面临的挑战。目前很少有组织能够充分发挥其数据的潜力。”
不可否认的是,这是一项艰巨的挑战。CorporateExecutiveBoard 咨询公司在对5,000 家公司进行了一项研究后发现,尽管对数据进行分析并获得有效信息的能力已成为全球各组织的头等大事,但是真正在这方面取得显著成绩的公司并不多见。
根据CEB 的研究结果,仅有38% 的员工和50% 的高级经理有能力根据数据进行合理决策。在许多组织中,最大的风险来自过度分析。超过40% 的员工更愿意相信分析结果而非自己的判断力,只有近20% 的员工会依直觉行事。
CEB 认为,有能力做出优秀决策的员工——“知情怀疑论者”—能够有效地在直觉判断力与分析结果之间取得平衡。这些人拥有强大的分析技能,并且肯倾听他人对于分析结果的意见,同时他们也敢于发表不同意见。
在今天这样一个数字驱动的大环境下,企业必须能够制定周密计划并且实施可行的解决方案以管理大数据。“这是无法回避的—数据涉及各行各业。”印度塔塔咨询服务公司(Tata Consultancy Services) 的全球顾问实践信息管理总监维斯瓦纳桑(Kalyan Viswanathan) 强调说,“大数据正在改变业务,并且创造新的风险以及机遇。明智的组织都在寻找对其进行有效利用的方式。”
新时代的数据管理
从计算机应用诞生之日起,各公司就一直在寻找对不断增长的数据加以管理和利用的方法。包含更多信息和更多关联点的大数据正处在这一潮流的核心。据麦肯锡咨询公司估计,普通大型企业目前储存的数据量已达到200TB 。
各公司必须设法处理急速增长的非系统化数据,传统数据库或数据仓库并不适合管理这类数据。埃森哲的柯蒂斯表示,“公在过去数年间,司数据来源的种类变得极为繁多”。
大数据可释放数据背后潜藏的价值。它能让数据更加透明,更多地被应用于日常业务;它能借助更多更广泛的数据组给企业提供诸多洞见;它能创建更多的细分市场,以便公司制定更具针对性的营销活动和销售技巧;它能帮助公司汇总所有信息,设计出本来可能会被忽略的新产品和服务。有效运用大数据的组织往往能够获得显著的竞争优势,并挖掘出新的商机。
但是处理大数据并不等于只是安装一套系统,然后就能自动获得结果。企业需要使用正确的技术和工具,制定合适的工作流程和政策,物色善于使用分析法和预测分析软件的人才,从而打造产品和服务以满足瞬息万变的市场需求。
“大数据的处理需要企业在数据仓库、数据整合、商业智能、数据可视化工具、商业分析法和预测建模上大量投入。”塔塔咨询的维斯瓦纳桑如是说,“此外还需要应用运算法则从而能够发现其中的各种规律、关联和关系。”
向先驱公司学习
互联网零售商和服务供应商亚马逊(Amazon) 是在管理大数据方面处于领先的公司之一。很显然,公司面对无穷庞大的数据量,非常需要利用这些数据去了解客户行为,改善运营质量和成本,推出创新性的产品功能,并最终提高公司收益。
亚马逊Elastic Map Reduce (EMR) 计划的总经理西罗塔(PeterSirota) 表示,亚马逊依靠其可扩展的环境( 包括云资源),只需数分钟或数小时(而非数天或数周)即可得出结论和答案。
“Amazon.com 采用多种数据源,包括来自多个应用服务器上的非结构化或者半结构化的记录文件,以及来自多种数据库系统的结构化数据,”西罗塔说。这一环境同样也允许亚马逊及其客户“存储和处理各种类型的数据,包括图像、视频、DNA 序列和天气传感器数据以及从第三方来源( 例如Twitter 、Facebook 和Salesforce) 采集的数据..以更妥善地管理产品数据库,并且分析有助于提高运营业绩的指标”。
这家触角遍及全球的在线巨头依靠开源的Apache Hadoop 进行分布式处理( 包括非结构化数据)。
此外,关系型数据库管理系统(RDBMS) 能够让亚马逊制作各种报告,并针对既定的问题对结构化数据进行优化查询。
“Hadoop 和RDBMS 是互补性的技术,”西罗塔说。此外,通过亚马逊的简单存储服务(Amazon S3) 存储超大量的数据,再加上内嵌的数据处理、分析和搜索工具,亚马逊为其内部运营和使用其服务的外围公司改写了大数据技术的应用领域。
西罗塔指出,云技术大大改变了大数据技术的应用前景。“你可以更快地从数据中得出有用的结果,而所付出的成本是如此之低,这让传统技术望尘莫及。”他说道。
“云技术提供了即时扩展性和弹性。该技术能让你能更快地就所关注的数据问题提出疑问,并迅速获得有意义的解答。定期、全面地对大数据进行分析将有可能转变你与客户互动并做出反应的方式。”
重新设计业务模式
越来越多的公司和政府机构正转而采用大数据技术来重新设计其业务模式。塔塔咨询的维斯瓦纳桑表示,广告商正从堆积如山的数据中筛选出有效信息,以便更透彻地认识顾客的购买行为以及提升业绩的方式。零售商则综合客户行为、心理图表和客户生命周期事件以创建更精确的档案。