
数据挖掘的五个误区
许多成功的企业都发现了围绕着数据挖掘而产生的神话确实就是误解。这些企业没有成为这些误区的牺牲品,而是通过使用数据挖掘技术解决复杂的业务问题来增加利润,获取更大的竞争优势。
实际上正是复杂的数据挖掘技术使得乡村地区的Wal-Mart超市连锁店决定在秋季准备大量某种广告邮件 。虽然可笑, 但Spamouflage-经过巧妙包装的广告邮件已经取得了极大的成功。不单单是一个可爱的想法,Spamouflage帮助Wal-Mart从现有的顾客群中获得了额外的利润,并且也显示了Wal-Mart是多么深刻地理解着他们所服务的人群。
数据挖掘到底是什么?
数据挖掘是一种非常有力的分析工具,它可以帮助企业主管们通过了解顾客的历史行为的信息来预测他们将来的行为。它找到了解开顾客行为秘密的模式。这些发现可被用于创造利润,缩减成本,以及抓住商业机会,获得新的竞争优势。
关于数据挖掘所产生的误解的部分原因是人们并不十分了解它究竟是什么。从最本质上讲,数据挖掘就是一套用于发现和解释详细数据的未知模式的复杂的数学技术。自从80年代中期以来,数据挖掘的应用领域从学术、医药、科学研究领域扩展开来,已被非常有效地应用在零售、银行、电信、保险、旅行和服务行业。
因为数据挖掘被认为是一种分析工具,它经常与在线分析处理(OLAP)相混淆。OLAP是一种有价值的分析技术,它被用于分析业务操作来对已发生的事情做出历史性的回顾。例如,一位市场部经理想要了解为什么某个地区的销售额下滑了。OLAP工具可以帮助他从各个不同的方面提出问题,例如以商店统计的销售额、以产品统计的销售额和一段时间内的销售额。通过从不同的角度观察这些历史数据,他就会分析出对销售额产生影响的因素(商店、产品,或是时间)。
数据挖掘则处理另一类问题。它可被用于预测未来事件,例如,基于促销情况或者哪类顾客最有可能对促销感兴趣来预测下个月的销售额。
误区1:数据挖掘提供了即时的未来预测
数据挖掘既不是水晶球也不是一按按钮就能魔术般出现答案的技术。它是一个多步骤的处理过程,其中包括:定义业务问题,扫描并按条件搜索数据,开发模型,运用获得的知识。典型情况是,企业花费大量时间预处理并且按照条件搜索数据,保证其干净、一致、良好整合,以便于应用他们所需要的商务智能。数据挖掘全部围绕着数据,成功的数据挖掘需要能够准确反映业务的数据。
企业必须懂得,数据挖掘的威力在于:抓住那些能够从本质上被预测或者被描述的特殊的业务难题。其中包括:
顾客分类
预测顾客的购买倾向
监测欺诈
优化供应和发货渠道
理解了这个过程的企业就看到了真正的效果。一家中西部地区的保健供应商识别了高风险病人,并且使用了能够保证护理质量和管理风险的病例管理程序。一家南美电信公司通过分析电话的使用、购买的服务和服务质量的评定等可能导致顾客减少的模式之后,发现了风险并防止了高价值顾客的流失。一家美国的保险公司通过数据挖掘解决方案的时间段来预测并且很快地检测欺诈,然后采取迅速行动来最小化成本。
误区2:数据挖掘对于商务应用程序仍然是不可用的
数据挖掘是一种可用的技术,并且由于他的商业效果受到了很高的评价。这个谎言似乎是那些需要解释为什么他们不能使用这个处理过程,并且在下面这两句话中转来转去的人所编造的。第一句是:“大的数据库不能被有效地挖掘”。第二句是:“数据挖掘不能在数据仓库引擎中完成”。这两句话都曾经是正确的;就像飞机曾经无法离开地面一样。
让我们同时分析这两句话。因为今天的数据库是这样的大,企业都担心数据挖掘项目所需的额外的IT体系结构会带来巨大的成本,以及每个项目的数据处理过程都会消耗太长时间。但是今天的某些数据库使用的并行技术使得数据库内部的挖掘成为可能。通过在数据库内部进行挖掘,企业可以消除数据移动,利用并行处理的性能,最小化数据冗余,以及消除数据挖掘专用的整个新的冗余的数据库的创建及维护成本。
例如,一个包装零售生产企业使用数据挖掘来维护一个顾客忠诚度程序,这个程序可以帮助它的零售伙伴监控促销的效果,并且分析购买者的购物篮。最初这个分析曾经是鼓励它的伙伴促销他们的产品的有效手段。然而随这需要处理的数据量变得越来越大,以致于这个提供给零售伙伴的服务成本变得过于昂贵。虽然这个分析过程是在一个很强大的服务器上面进行的,但是5个分析应用程序仍然用了超过312个小时来处理数据。
在结束这个有价值的服务之前,这家企业尝试了数据库内部的数据挖掘技术。他们将数据载入一个集中的数据仓库,然后将5个分析程序全部转换为一个在数据库中运行的SQL(标准查询语言)程序,利用它的并行处理能力。通过转换为数据库内部的数据挖掘,他们能够将执行时间从用户忠诚度程序的超过312小时缩小到12小时。
误区3:数据挖掘需要单独的、专用的数据库
数据挖掘产品供应商会强调你需要一个昂贵的、专用的数据库、数据中心或者分析服务器来进行数据挖掘,因为需要将数据转换为一种特别的格式来进行有效地处理。这些数据中心不仅采购和维护成本很高,每个单独的数据挖掘项目还需要单独抽取数据,而数据的抽取是很昂贵并且非常费时的。
数据库技术的发展使得现在数据挖掘再也不需要在一个单独的数据中心进行了。实际上,有效的数据挖掘需要一个企业范围的数据仓库,它的全部投资成本也比使用独立的多个数据中心便宜得多了。
原因是这样的:由于企业需在整个企业范围之上实现数据挖掘项目,利用数据挖掘模型的用户数量和其对数据基础设施型都会持续增长。一个先进的企业数据仓库不仅能有效地存储所有的企业数据,同时也消除大多数额外的数据中心或数据仓库的需求,另外这也为数据挖掘项目提供一个理想的基础。这个基础就是一个单一的企业范围的数据仓库,这个数据仓库可以提供一个具有一致性和即时性的顾客视图。并且通过在数据仓库内部合并数据挖掘的外延,企业可以以两种另外的方式缩减成本。第一种方式是,没有必要购买和维护仅为数据挖掘使用的额外的硬件。第二种方式是,企业将为实施数据挖掘项目所需的数据仓库数据导入导出的工作量减少到最低,这已经是公认的极耗费工时和资源的处理过程。
误区4:只有拥有博士学位才可以进行数据挖掘
一些人认为数据挖掘非常复杂,以致必须拥有至少三个博士才可以执行它:一个是统计学或者计量方法专业博士,一个是能够懂得客户的商务博士,一个是计算机专业博士。
实际情况是在成功项目的实施者中根本用不到一个博士。例如,Teradata最近完成了一个南美电信公司的项目,它成功地追踪了顾客行为变化,帮助公司在电信市场开放期间保住了98%的高价值客户。通过协力工作,一个多学科的小组成功地完成了任务。
数据挖掘是一项需要三个专业领域的技术专家共同合作的工作。商务人员必须通过创建一组商业问题来引导项目,解释凸现的模式。具有对数据挖掘技术、统计学和工具的充分了解的分析建模人员构建可靠的模型。IT人员提供对处理过程的深刻观察,理解数据,并提供关键的技术支持。
一个简单的事实就是,一个公司,无论大小,只要拥有能够精确反映业务或者客户情况的数据,都能在这些数据基础上构建模型,对应重要的业务挑战。公司处理的顾客数据量从来就不是关键。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29