京公网安备 11010802034615号
经营许可证编号:京B2-20210330
存一份备用:大数据分析工具采购指南
大数据分析工具使用户能够分析各种各样的信息——包括结构化事务数据和社交媒体帖子、Web服务器日志文件及其他形式的非结构化和半结构化数据。一旦组织决定要购买一个大数据分析工具,下一步就是制定一个流程,评估可用的产品,然后从中找到一个最适合你需求和要求的产品。
下面我们将介绍在评估各种大数据分析工具符合企业需求的程度时可能用到的必备特性和特定属性。然后,你再编写一个预案请求(RFP),说明使用这些工具将如何解决组织的需求。
建模技术的广度与深度。供应商已经应用了不同级别的建模,并且相应地开发了不同复杂度的分析功能。单个工具支持的分析建模广度反应了所提供的不同方法。其中一些例子包括回归技术、根据过去趋势预测变化值的时间序列模型、分类与回归树(也称为CART)和神经网络。
建模技术的深度反映了所使用方法的两个方面特征:支持更精准开发模型的算法成熟度和建模技术的灵活性。换而言之,数据挖掘和预测分析时需要使用哪一种级别的专业知识才能理解目前能够开发哪一些类别的模型及如何使用一个特定工具完成建模?
经验一般的数据分析师感兴趣的是提供大量分析功能的供应商产品,而更专业的分析师和统计师则更偏好于那些能够更深入分析特定分析模型的工具。
集成与可访问性。大数据分析应用通常依赖于越来越多的内部和外部数据源,其中包括结构化和非结构化数据。这促成了支持数据可访问性和系统集成的功能需求。这个方面要考虑的特性有:
非结构化数据使用率。确认产品能够使用不同类型的非结构化数据(文档、电子邮件、图像、视频、演示文稿、社交媒体渠道信息等),并且能够解析和利用收到的信息。
大数据可访问性。对比供应商工具连接大数据架构的方式,其中包括存储在Hadoop的分布式数据,以及各种横向扩展存储中存储的文件(例如,MongoDB或Apache Cassandra等NoSQL数据)。
与现有平台组件的互操作性。如果要在一些传统数据管理和BI技术中混搭分析方法,那么这一点非常重要。例如,许多分析工具支持通过传统的SQL查询去调用分析模型。这种形式的互操作性允许使用预测模型的结构去产生一些传统数据分析师通常都能使用的查询与报表。
连接性。一定要评估连接性,或者说产品访问其他系统的能力,以及作为数据源给现有平台提供用于生成报表和分析的能力。
易用性。有一些大数据分析产品是供应商从零开始开发的,而有一些则基于开源的R统计语言。无论是哪一种情况,这种评估类别主要关注于产品用于分析数据、开发模型和确定模型有效性与准确性的易用性。
业务分析师可用性。没有统计背景的商业分析师是否也能够轻松地开发分析和应用呢?确定产品是否提供了方便开发和分析的可视化方法。
部署不同业务用例的灵活性。相同的算法方法可以应用到许多不同行业的不同业务场景中。如果你的组织准备做的这类分析数量有限,并且集中在更为普通的用例上(如客户生命周期价值分析、欺骗行为分析或存留预防),那么你可能应该在技术选择牺牲一些灵活性。然而,如果你的组织想要一种广度更大、约束更小的分析方法,则应该寻找一些灵活性更高的建模技术。
模型评分。这包括一些额外工具,它们可以帮助分析师自动比较准确性、有效性和不同预测模型用于相似业务场景时的预测价值。
协同性。隔离分析与开发可能导致重复工作和不协调的结果。提供一种集成协同功能和在大数据分析平台中分享分析模型的手段,使分析师可以协同工作,共同优化他们的应用程序及将来重用相同的模型,从而能够降低开发成本和提高一致性。
接下来要考虑将一项新技术整合到组织中的实践环节。管理与配置的简单性评估包括理解所有的系统需求及安装、配置和持续管理的依赖条件。例如,使用R统计模型的大数据分析工具要求在安装产品时同时购买和安装R环境。此外,还需要确定产品可能安装的平台,以及确定能够嵌入已开发模型和应用的平台。
其他考虑因素包括分析流程与将已开发模型加入到业务应用过程中分配角色和访问权限等安全问题。分析产品所提供的身份验证、授权和访问控制等选项。
大多数高端Hadoop平台和专业设备在设计上都支持多个并行处理和分布式计算的计算节点。如果要求较高的运行性能,那么很重要的一点是所评估的产品是否支持大规模并行处理(MPP)系统配置。
使用MPP平台要求使用一组特定的工具才能高效地使用平台的性能优化机制,其中包括:
平等性和数据分发。如果要用并行进程独立处理分布式的数据集,并且要求减小网络带宽和增大数据存储位置,那么最适合使用数据并行系统。要检查产品的并行性是否能很好地吻合数据分发策略。
产品的下推功能。它使分析算法能够利用系统软件堆中其他组件的内在功能。例如,如果有一个数据库管理系统在其工具集内部提供了支持参数定制的建模工具,并且这些工具本身就经过优化和支持DBMS的架构特性。在这种情况下,分析工具最好要使用原生功能,而不要尝试替换这些功能。
可扩展性和可伸缩性。随着数据量的不断增长和数据管理平台的不断扩展,要评估不同的分析产品如何跟随处理与存储容量的增长而增长。
在使用大数据技术的大部分案例中,产品的价格必须影响购买决策。有一些大数据分析工具价格昂贵,而有一些则价格较低,甚至是免费的。此外,供应商可能根据不同的定价提供不同的特性、功能或约束(如限制可分析数据容量)。
另一个要注意的问题是特殊服务需求。对于每一个评估的产品,我们都要评估它是否需要软件供应商或外部专家的帮助,才能完成安装和培训,或者提供特殊的开发服务。
此外,一定要考虑所评估的长期总拥有成本(TCO)。TCO计算应该包括年度维护费用和支持该产品的系统软件堆分摊费用,以及运维人员、数据中心空间、制冷及其他设施的分摊费用。
根据组织的具体用例来过滤出最适合的产品,从而缩小候选供应商范围。要检查组织需求与上面的评估类别的关系,制作出一个RFP,其中除了说明关于集成、互操作性和企业明细之外的标准问题,主要关注于量化预期因素的符合程度,如分析建模、数据容量、必要知识水平和数据可访问性要求等。
确定最重要的差异性因素,如产品随着数据容量增长的扩展能力和性能,它使用非结构化数据的能力,以及建模功能的广度和深度。同时,要提出一些反映用户社区的需求,特别是分析师专业知识水平有差别或者需要企业内部协作的时候。此外,选择一种大数据分析工具的关键影响因素包括它的初始价格、人员要求和总运营成本,提出一些与评估过程相关的费用和预算问题。
说明业务需求并对它按优先级划分,然后从一组供应商产品中指定预期产品,这样可以使采购团队能够将业务需求与评估类别相关联。通过检查上面的列表、定义相关问题和规定可接受答复来配置RFP,从而确定各个特定的产品符合需求的程度。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在日常办公中,数据透视表是Excel、WPS等表格工具中最常用的数据分析利器——它能快速汇总繁杂数据、挖掘数据关联、生成直观报表 ...
2026-02-28有限元法(Finite Element Method, FEM)作为工程数值模拟的核心工具,已广泛应用于机械制造、航空航天、土木工程、生物医学等多 ...
2026-02-28在数字化时代,“以用户为中心”已成为企业运营的核心逻辑,而用户画像则是企业读懂用户、精准服务用户的关键载体。CDA(Certifi ...
2026-02-28在Python面向对象编程(OOP)中,类方法是构建模块化、可复用代码的核心载体,也是实现封装、继承、多态特性的关键工具。无论是 ...
2026-02-27在MySQL数据库优化中,索引是提升查询效率的核心手段—— 面对千万级、亿级数据量,合理创建索引能将查询时间从秒级压缩到毫秒级 ...
2026-02-27在数字化时代,企业积累的海量数据如同散落的珍珠,若缺乏有效的梳理与分类,终将难以发挥实际价值。CDA(Certified Data Analys ...
2026-02-27在问卷调研中,我们常遇到这样的场景:针对同一批调查对象,在不同时间点(如干预前、干预后、随访期)发放相同或相似的问卷,收 ...
2026-02-26在销售管理的实操场景中,“销售机会”是核心抓手—— 从潜在客户接触到最终成交,每一个环节都藏着业绩增长的关键,也暗藏着客 ...
2026-02-26在CDA数据分析师的日常工作中,数据提取、整理、加工是所有分析工作的起点,而“创建表”与“创建视图”,则是数据库操作中最基 ...
2026-02-26在机器学习分析、数据决策的全流程中,“数据质量决定分析价值”早已成为行业共识—— 正如我们此前在运用机器学习进行分析时强 ...
2026-02-25在数字化时代,数据已成为企业决策、行业升级的核心资产,但海量杂乱的原始数据本身不具备价值—— 只有通过科学的分析方法,挖 ...
2026-02-25在数字化时代,数据已成为企业核心资产,而“数据存储有序化、数据分析专业化、数据价值可落地”,则是企业实现数据驱动的三大核 ...
2026-02-25在数据分析、机器学习的实操场景中,聚类分析与主成分分析(PCA)是两种高频使用的统计与数据处理方法。二者常被用于数据预处理 ...
2026-02-24在聚类分析的实操场景中,K-Means算法因其简单高效、易落地的特点,成为处理无监督分类问题的首选工具——无论是用户画像分层、 ...
2026-02-24数字化浪潮下,数据已成为企业核心竞争力,“用数据说话、用数据决策”成为企业发展的核心逻辑。CDA(Certified Data Analyst) ...
2026-02-24CDA一级知识点汇总手册 第五章 业务数据的特征、处理与透视分析考点52:业务数据分析基础考点53:输入和资源需求考点54:业务数 ...
2026-02-23CDA一级知识点汇总手册 第四章 战略与业务数据分析考点43:战略数据分析基础考点44:表格结构数据的使用考点45:输入数据和资源 ...
2026-02-22CDA一级知识点汇总手册 第三章 商业数据分析框架考点27:商业数据分析体系的核心逻辑——BSC五视角框架考点28:战略视角考点29: ...
2026-02-20CDA一级知识点汇总手册 第二章 数据分析方法考点7:基础范式的核心逻辑(本体论与流程化)考点8:分类分析(本体论核心应用)考 ...
2026-02-18第一章:数据分析思维考点1:UVCA时代的特点考点2:数据分析背后的逻辑思维方法论考点3:流程化企业的数据分析需求考点4:企业数 ...
2026-02-16