大数据:为企业植入“智商”_数据分析师

传统的数据分析，是通过提出假设然后获得相应数据，最后通过数据分析来验证假设。而大数据恰恰相反，它是从收集的海量数据中，通过算法将这些来自不同渠道、格式的数据进行直接分析，从中寻找到数据之间的相关性。简单而言，大数据更偏重于发现，以及猜测、印证的循环逼近过程。
　　一方面，大数据有助于人们发现事物的个体特性，并针对每一个个体提供差异化的解决方案；另一方面，大数据研究也能帮助人们从大量个体的差异变化中，揭示其中存在的难以察觉的规律。
　　“打个比方，当一辆高铁在行驶过程中，大数据技术是通过各个外部渠道的实时数据来分析高铁的安全性。在分析的同时，火车仍在行驶，不会停下。”马克·斯佩尔曼表示，“而传统的分析方法，是一定要等出现事故后才进行追溯分析。”
　　马克同时坦言，驾驭大数据的能力并非那么容易获得。很多时候，传统的商业智能系统与分析软件，在面对视频、图片、文字等非结构化数据时，往往束手无策，缺少有效的分析工具和模型。
　　“一直以来，大数据技术的难点并非在数据的收集上，而是如何利用这些数据。”马克称，“企业必须去芜存菁，将数据转化为正确的商业决策，才能与竞争对手形成差异化。”
　　就这一点来说，全球最大的拍卖网站eBay的做法颇为典型。譬如，一位年轻的女性早上10点在星巴克浏览eBay网站，eBay应该推送给她什么样的商品呢？事实上，eBay此前已经研究了各种不同情形下的不同购物模式，它可以从用户以往的浏览记录里推断她想要什么样的商品，也可以从设定的成百上千种情景模型中计算出用户可能的需求；或是对照另一位有着相似特点的女性用户，看她当时买过什么样的商品，从而判断出这位用户潜在的需求。在综合各种考量因素后，eBay的后台往往在短短几秒内将商品页面推送给用户。
　　变革与挑战
　　通常情况下，获得的信息越多越有利于企业做出明智的决策。但很多时候，数据量过大、数据模型欠缺，会让分析的结果与真实状况大相径庭。就eBay而言，其基于数据分析后“猜错”的情况非常非常多。
　　据专家测算，数据分析师的50%~80%的时间都花在了处理数据上。即便如此，数据搜集的偏差、误差积累叠加、假关联性、数据外生性等问题，纷纷“污染”着分析运算的结果。
　　在此基础上，全球数据目前以每两年翻一番的速度递增，2007年时，全球传感器获取的数据就超过了存储总量。大数据的存储成本很高，而要获取一些新数据，就必须丢掉旧数据。这同样不利于数据的分析与研究。
　　此外，来自各种传感器、文档、网页、数据库的数据，大多是不同的格式。而这些数据要被软件理解和分析，必须被转换为统一格式。
　　将各类数据进行格式统一，又是一个严峻的挑战。数据和人类语言一样都具有模糊性，有些数据人们知道是什么意思，计算机却不能识别。于是，很多时候，人们不得不一次又一次地重复数据转化的工作。
　　相比于大数据带来的技术挑战，更大的难题来自于决策的变化。在信息有限、获取成本高昂且没有被数字化的时代，企业内作重大决策的人往往都是组织的最高层，或是外部拥有专业技能和显赫履历的智囊团。时至今日，高管的决策仍然更多地依赖个人经验和直觉，而不是基于数据。但到了大数据时代，数据分析会直接影响组织怎样做决策、谁来做决策，从而减弱个人的共识性。一个明显例子是，在媒体业，《赫芬顿邮报》和Gawker网站上传播的新闻通常取决于数据，而不再取决于编辑和记者的新闻敏感度。数据比有经验的记者更能揭示出哪些是符合大众口味的新闻。
　　不过，大多数组织都无法轻松地完成这一转变。在9月10日举办的达沃斯论坛上，普华永道发布报告称，调查显示仅有三分之一高管们表示，他们在上一次制定重大决策时采用了数据和分析。虽然有58%的高管们在决策制定上，还是依据直觉、经验、建议以及在企业中的其他经验，但43%的高管们承认，那些拥有高度数据驱动的企业，在过去两年的决策制定获得了很大的提升。所有高管们都表示，未来两年将优先考虑对高质量数据分析的投入，以更好的制定决策。
　　“应该说，大数据并不会完全取代个体做决策，即便取代，那也有很长的路要走。”马克指出，“但大数据会改变人们做决策的内容和方向，会对管理者的知识结构和分析能力提出更高要求。”

变革与挑战
　　通常情况下，获得的信息越多越有利于企业做出明智的决策。但很多时候，数据量过大、数据模型欠缺，会让分析的结果与真实状况大相径庭。就eBay而言，其基于数据分析后“猜错”的情况非常非常多。
　　据专家测算，数据分析师的50%~80%的时间都花在了处理数据上。即便如此，数据搜集的偏差、误差积累叠加、假关联性、数据外生性等问题，纷纷“污染”着分析运算的结果。
　　在此基础上，全球数据目前以每两年翻一番的速度递增，2007年时，全球传感器获取的数据就超过了存储总量。大数据的存储成本很高，而要获取一些新数据，就必须丢掉旧数据。这同样不利于数据的分析与研究。
　　此外，来自各种传感器、文档、网页、数据库的数据，大多是不同的格式。而这些数据要被软件理解和分析，必须被转换为统一格式。
　　将各类数据进行格式统一，又是一个严峻的挑战。数据和人类语言一样都具有模糊性，有些数据人们知道是什么意思，计算机却不能识别。于是，很多时候，人们不得不一次又一次地重复数据转化的工作。
　　相比于大数据带来的技术挑战，更大的难题来自于决策的变化。在信息有限、获取成本高昂且没有被数字化的时代，企业内作重大决策的人往往都是组织的最高层，或是外部拥有专业技能和显赫履历的智囊团。时至今日，高管的决策仍然更多地依赖个人经验和直觉，而不是基于数据。但到了大数据时代，数据分析会直接影响组织怎样做决策、谁来做决策，从而减弱个人的共识性。一个明显例子是，在媒体业，《赫芬顿邮报》和Gawker网站上传播的新闻通常取决于数据，而不再取决于编辑和记者的新闻敏感度。数据比有经验的记者更能揭示出哪些是符合大众口味的新闻。
　　不过，大多数组织都无法轻松地完成这一转变。在9月10日举办的达沃斯论坛上，普华永道发布报告称，调查显示仅有三分之一高管们表示，他们在上一次制定重大决策时采用了数据和分析。虽然有58%的高管们在决策制定上，还是依据直觉、经验、建议以及在企业中的其他经验，但43%的高管们承认，那些拥有高度数据驱动的企业，在过去两年的决策制定获得了很大的提升。所有高管们都表示，未来两年将优先考虑对高质量数据分析的投入，以更好的制定决策。
　　“应该说，大数据并不会完全取代个体做决策，即便取代，那也有很长的路要走。”马克指出，“但大数据会改变人们做决策的内容和方向，会对管理者的知识结构和分析能力提出更高要求。”