如何选择大数据分析项目技术

"大数据"已经成为商业智能（BI）、分析和数据管理市场领域中讨论度最高的话题之一，当然也是最热门的流行语之一。越来越多的企业开始关注BI和分析供应商，希望可以解决大数据环境中的业务问题。不幸的是，要在大数据中获得可见性是说起来容易做起来难。而且，随着供应商不断攻破大数据分析项目的各种难题，投放到市场的产品种类越来越繁多，企业要想选择最能满足他们需求的一款产品也相当不易。
　　那么，到底什么才是真正的大数据呢？最近，IT电子杂志eWeek的一篇报道对大数据做了如下定义（其中部分参考了Gartner公司对这一提法的定义）："大数据指结构化与非结构化数据跨网络传输到处理器和存储设备的数量、种类和速度，以及这些数据转化为企业业务建议的过程。"
　　这样说来大数据就等于数据管理和数据分析，漏掉了关于大数据所面临的业务挑战中很重要的一个方面--复杂度。例如，大数据部署经常涉及到各方面信息，包括来自社交媒体网络、电子邮件、传感器、Web活动日志以及其它数据源的信息等，这些数据很可能与传统的数据仓库系统不兼容。
　　在许多情况下，所有分离的数据都需要整合，以便在更广泛的层面上产生影响。这可能对业务规则、表连接和大数据分析系统的其它组件关系重大。在考虑存储和查询管理的时候，大数据由于其复杂度，与传统数据完全不同；正因为如此，分析数据库和数据分析软件供应商不得不加快脚步帮助公司处理大数据问题。
　　理解大数据是评估技术需求和实施大数据分析规划的第一步，然后根据日益庞大和多样化的数据集，理解市场、理解企业在实现商业价值与发挥竞争优势中所遇到的阻碍因素。
　　大数据分析项目的重大议程
　　当然，许多企业一直拥有大数据集。但是现在，越来越多的企业存储的信息量就算不是PB级，起码也有TB量级。此外，他们希望每天能分析几次关键数据，甚至是实时分析；而传统BI流程对历史数据进行分析的频率是以周或月为单位的。越来越多复杂查询的处理带来了各种不同的数据集，其中有可能包含来自企业资源计划（ERP）系统和客户关系管理（CRM）系统交易数据、社交媒介和地理空间数据，还有内部文档和其它格式信息等等。越来越多的公司也会想给企业客户提供自助服务的BI功能，让对分析结果的理解变得容易一些。[page]
　　所有这一切都涉及到大数据分析战略，而且技术供应商处理这些需求的方式是多种多样的。许多数据库和数据仓库供应商都在关注及时处理大量复杂数据的能力。有的用列式数据存储来实现更快速的查询，有的提供内建的查询优化器，有的增加对Hadoop和MapReduce这类开源技术的支持功能。
　　内存分析工具可能对分析处理速度的提升有所帮助，因为它能减少磁盘数据转换的需求；而数据虚拟化软件和其它实时数据集成技术可对运行中不同数据源的信息进行收集。对于垂直市场而言，现成的分析应用程序都是专门为其定制的，因为诸如电信、金融服务和网络游戏这些行业都必须处理大数据。当公司管理人员和业务经理需要查看大数据分析查询结果时，数据可视化工具可以简化其流程。
　　在数据和分析需求方面符合以上分类描述的企业，在制定实施方案、对大数据基础设施进行选型之前，需要考虑以下问题：
　　数据及时性（并不是所有数据库都支持实时数据可用性）
　　各种数据源需要与数据关联性和业务规则复杂度进行链接，以获得一个包含企业绩效、销售机会、客户行为、风险因素和其它业务指标的全面视图。
　　由于分析的需要，历史数据的数量也需考虑在内。如果我们需要五年的数据，而一个数据源只包含两年的信息，那么该怎么办呢？
　　哪些技术供应商在业内具有大数据分析方面的经验？有没有他们的业绩记录？
　　在企业内部，不同数据入口的负责人是谁？他们在大数据分析策略中分别扮演什么角色？
　　这些因素并不能从根本上影响需求的规划，但是它们可以帮助企业部署大数据分析系统、选择最为合适的技术。