企业数据挖掘实际运用的模型-CDA数据分析师官网

热线电话：13121318867

企业数据挖掘实际运用的模型

2018-07-17

企业数据挖掘实际运用的模型

这是好几年前写的一篇文章，今天突然翻出来看到，我觉得对于很多在做数据挖掘的朋友有一定参考。

听了几位从公司几位同事和外面专家介绍关于数据挖掘、数据模型的一些东西。总的来说，很有收获，当然收获并不在具体的技术细节上。更多是在看法，理念上。

我以前也搞过很多模型，从最基本的聚类、决策树、logisitic、回归分析、生存分析、神经网络，还有市场调研中一些联合分析、感知分析、因子分析/主成分分析，当然还有更高级一点的结构方程。在期货公司呆的一年中，还搞过计量模型：ARMA簇、ARCH簇、VaR等，当时对自己产生的模型，感觉很不自信。因为当时的模型识别率指标（例如：R方，并没有达到传说中在学校做论文或者平时玩模型的90%以上），感觉这个模型就是不好的，并不完美。

去年抱着学习的心态，去一家数据量极其丰富的互联网公司，想去看看大公司玩数据到什么程度，虽然以前和许多牛人们交流过，但当时一直觉得应该不是这么简单。

到新公司后同几位做modeling的同事和听了外部专家的演讲，某种程度上我释然的。感觉自己以前在做模型的时候，更多是在做学术研究一样，也许和我是一个追求完美的人有关。

例如：模型成立的假设条件，与变量选择。

模型的假设条件，对数据的分布要求；

模型的变量选择，以及变量的各种预处理；

针对最终的目的理论上可以使用的模型，都去尝试。比如:会员流失问题：决策树、逻辑回归、生存分析，我都会去尝试使用，根据其最终的LIFT值最大的，然后选择。

但实际上，从几位同事与朋友的介绍来看，逻辑回归是许多公司是都在用的模型，

为什么不用更“高级”，更先进的模型呢？原因有二个：

第一个：模型的健壮性。这些模型都是被之前实践证明是最好的，或者性能相对来说最稳定的。衡量的指标不外乎：稳定性、可解释性（这点在商业很重要）、简单性。

第二个：商业运用，已经是流程式的过程，不会轻易去改变，就是你生产线上一样。模型的轻微改变可以要牵动许多方面，是一个大工程。

从与他们的交流来说，我好像忘记了一个东西：这些都是为商业服务的，商业过程不要太复杂，最好的商业模式往往是最简单，不是吗？

我的观点：也许和自己的工作经历有关，但是我觉得对于一个数据分析师或者是数据建模师来说，虽然你用的很简单。但是你掌握的东西应该很多，很复杂，也正是因为有这些基础，你才能选择最好的模型，所以在玩数据挖掘或者数学建模为商业服务的时候，经验很重要，当然这些专业知识的扎实也是最根本的之一。