
浅议工业大数据分析的方法论
人们常说,工业大数据是用来挖掘价值的。但更关键的是:价值应如何被挖掘?
我曾经在多个场合申明:“大数据用到工业,特点是对可靠性要求高,而取得可靠性的难度大。” 这个矛盾是个拦路虎,一定要解决才行。为了解决这个矛盾,我再次提出:“知识首先存在于人的脑子当中,需要用数据去雕琢、证伪、修正——而不是强调从数据里面发现新知识 ”——这与商务大数据是不同的。
我的这个观点有个潜台词:人脑中的知识是模糊甚至是错误的,这才需要去雕琢和证伪。其实,人脑中的多数认识是正确的;但可以挖掘价值的地方,却往往是模糊的、甚至是错误的。事实上,大数据创造的价值是通过修正人的认识中的不足和偏差来实现的。
人脑中的这些模糊认识,发生在什么情况下呢?
一种情况是受部门利益或流程标准的限制。我们知道,组织大到一定程度,就要划分成若干部门;机制复杂到一定程度,就要流程化、标准化。这些都是促进生产力发展的。但是,这些事情又会制约信息的流动和科学决策,从而容易形成与组织利益不一致的个人和部门利益。同时,“标准”和流程的缺陷与不足,让一些价值损失“合法化”,难以从组织整体的高度优化决策。认清事实,就便于我们创造系统的价值。
经验主义、教条主义、官僚主义与唯命是从,也容易让人形成模糊甚至是错误的认识。早在10多年前,我就意识到: 在创新过程中,需要强调价值创造。强调价值创造的原因,是为了避免误入歧途——离开具体的背景,片面追求好的指标。但最近却越来越感到:这个口号正在误导一些企业。在这个口号的引导下,间接创造价值、系统创造价值都被压制了;与风险同在的价值被压制了;算不清楚收益的工作被压制了;长远的价值被压制了。其实,错的不是口号,而是简单地理解这些口号。语言的表现力是有限的;再明确的语言,到了蠢材那里都会被误解。而唯命是从、经验主义、教条主义、官僚主义,就会让人变蠢。有个段子形象地表达了这种现象。市领导到公园考察:“那些多些绿化那就更好了”于是,园长让人运来了一顿盐(把‘绿化那’听成‘氯化钠’)堆在公园里。这个段子看似好笑,在很多地方其实非常接近现实。
还有人认为:系统的价值损失不大,就不重视这些问题。我却觉得,系统价值其实很大,但主要是被掩盖掉了。另外,考虑到很多制造企业的利润率也只有1%~2%,能把小的方面优化起来,利益也是客观的。其实,把局部优化都做好了,整个企业就可能发生质变——这就好比把坑坑洼洼的道路修成了高速公路,司机就可以放心开高速了。否则,你会花费太多的成本来预防“异常”。
数据如何才能起到上述作用?
老大说过一句话:打铁还需自身硬。本人也有个对应的观点:数据的力量来自于真实和科学。这句话的含义是:人们在推进数字化的时候,常常被认识水平和局部利益所绑架、被政绩观绑架,使得数据不具备科学性和真实性。数据不科学,怎么可能用来修正人的错误认识呢?试想,如果真的是“经济增长就靠统计局了”,国家还能搞好吗?英国有位前首相说:“世界上有三类谎言:谎言,弥天大谎和统计数据。”。 搞数据的人,一定要知道:数据是会骗人的。学会不被数据所骗,是数据分析的基本功。
让数据代表科学和真实,其实并不容易。不仅要看到文化和制度的原因,也有技术和认识方面的原因。这里,就需要有方法论的支持。举个例子,希望引发大家的思考:
1、从A地到B地,平均2小时。其实,从A地到B地有两条路,一条平均半小时,一条平均10小时,只是很少有人走10小时的那条路。那么,如果你不知有两条路,仅知道“从A地到B地,平均2小时。”,真的能代表科学与事实吗?
2、喜欢打牌的人,50%是骗子。我们知道:一般来说,这句话是错的。但是,如果统计的对象是一群罪犯呢?结果还是有可能的。
这两个例子用来供大家思考,并没有什么答案。爱其实,很早之前,人们就提出“数据质量”的概念。数据质量,不仅是精度问题,更是“适用性”问题——适用的结果,才是真实的结果。在笔者看来,在大数据时代,让我们有更好的条件通过各种对比,判断一个结论的“适用性”:因为可以找到一大堆的案例进行对比——语文老师从小就告诉我们:有对比才会有说明。
但是,对比说明就那么容易吗?当然也不容易,需要找到一种与业务知识相关的知识和逻辑,才能便于对比说明。否则,整出一个“关公战秦琼”也难说。有了业务知识,就能避免这些笑话。如果缺少业务知识,就很难判断一个分析结果是假象还是众所周知的无聊论断——如前所述,在工业过程中,系统复杂性很容易导致“发现”大量的假象和无聊的结果。如果没有起码的业务知识,时间就会都浪费在无聊的“发现”上。
现在回到开头:工业大数据分析的最终目的是挖掘价值。但现实中直接的作用在于展示现实——展示那些头脑中被假象和错误观念蒙蔽的现实。在被蒙蔽的现实中,隐含着改进的空间——这就是金子所在的地方。当然,看到价值并不等于能够解决问题——这些问题很可能需要用智能制造的办法来解决。所以,我设想:工业大数据或许可以作为智能制造的先导。智能制造的第一要义是“信息感知”:用大数据感知真实的现实,岂不正是智能制造的先导吗?孙子说“知己知彼百战不殆”,不也是要先做到“信息感知”吗?克服官僚主义,不要也要靠“信息感知”。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15在机器学习入门领域,“鸢尾花数据集(Iris Dataset)” 是理解 “特征值” 与 “目标值” 的最佳案例 —— 它结构清晰、维度适 ...
2025-10-15在数据驱动的业务场景中,零散的指标(如 “GMV”“复购率”)就像 “散落的零件”,无法支撑系统性决策;而科学的指标体系,则 ...
2025-10-15在神经网络模型设计中,“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少,模型可能 “欠拟合”(无法捕捉数据 ...
2025-10-14在数字化浪潮中,数据分析师已成为企业 “从数据中挖掘价值” 的核心角色 —— 他们既要能从海量数据中提取有效信息,又要能将分 ...
2025-10-14在企业数据驱动的实践中,“指标混乱” 是最常见的痛点:运营部门说 “复购率 15%”,产品部门说 “复购率 8%”,实则是两者对 ...
2025-10-14在手游行业,“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度,更直接决定了后续 ...
2025-10-13分库分表,为何而生? 在信息技术发展的早期阶段,数据量相对较小,业务逻辑也较为简单,单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中,“数据孤岛” 是普遍面临的痛点:用户数据散落在 APP 日志、注册系统、客服记录中,订单数据分散在交易 ...
2025-10-13在数字化时代,用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”,到视频 APP 的 “打开→搜索→观看→收藏”,再到银 ...
2025-10-11在机器学习建模流程中,“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中,未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储,CDA(Certified D ...
2025-10-11在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中,正交试验(Orthogonal Experiment)因 “用少量试验覆盖多因素多水平组合” 的高效性,成为 ...
2025-10-10