京公网安备 11010802034615号
经营许可证编号:京B2-20210330
来源 | 中国钢铁新闻网
最近闭幕的十八届五中全会把大数据战略提高到一个前所未有的层面———实施国家大数据战略,推进数据资源开放共享。笔者在此想谈一下对推进工业大数据的一点看法。
最近闭幕的十八届五中全会把大数据战略提高到一个前所未有的层面———实施国家大数据战略,推进数据资源开放共享。笔者在此想谈一下对推进工业大数据的一点看法。
大数据的概念与背景
大数据是最近几年才热起来的一个概念。大数据热大约在2012年前后在中国出现。其中,涂子沛先生的《大数据》一书起到了重要的作用。“除了上帝,任何人都必须用数据来说话”这句话,更是得到了时任广东省委书记汪洋(现为国务院副总理)的高度肯定。
读过这本书的人都知道:涂子沛关注的重点是大数据对政治、社会、伦理等方面的影响。后来,各家互联网公司、IT公司将人们关注的热点引向了商业领域,再经股评师的运作,使之成为全社会炙手可热的概念。与此同时,学术界不失时机地将大数据的概念引入了工业界。
然而,工业界重视数据分析早已不是新鲜事了。人们很早就希望通过数据发现客观规律、优化生产过程。例如,笔者25年前就开始涉足工业数据的分析研究,而数据挖掘等理论也早已广泛传播。对数据挖掘的价值,一种流行的观点是:当企业竞争进入白热化、所有手段都已用尽时,数据挖掘提供了领先半步的可能。与现在的观点相比,这个认识是相当低调的。当然,低调背后是有原因的,因为业界真正成功的案例其实非常少。
很多企业急于搭上“工业大数据”这趟快车,然而在现实中遇到了很多的困惑。
人们似乎都认为数据的作用很大,但从事过工业数据分析的人往往有这样的体会:分析过程往往达不到预想的目标,数据似乎并不是传说中的金矿。
这种困惑也体现在商务活动中。企业信息化建设原本应该遵循一个基本原则:用户需求驱动系统开发。从事大数据业务的IT公司对用户说:你说怎么做,我就怎么做;用户却说:我不知道能得到什么,也不知道该怎么做,最好你告诉我怎么做。
谁都不知道怎么做。于是,大家都被畅销书的理念忽悠着做事。然而,畅销书的观点是正确的吗?在笔者看来,畅销书上的观点往往对不上中国企业的现状———或将商务大数据的应用场景套在工业大数据,或将未来的场景套用到现在。
工业大数据与商务大数据有什么不同?
现在关于大数据的流行观点,几乎都是针对商务大数据的。然而,许多观点可能并不适合工业界。笔者认为,工业和商业至少有以下几点不同:
可发现的新知识少。一般来说,发现新知识是大数据分析的一个重要目的。然而,在工业领域,人们对生产过程的研究一般比较深入,专业知识也很丰富,很难从数据中发现新的知识。与之相比,商务活动的大数据分析往往涉及人的喜好,这些恰恰是过去难以量化研究的,故而大数据的含金量高。
对分析结果的质量要求高。工业界对分析结果的精度和可靠度要求高。如果将不可靠、不精确的分析结果用于指导生产,不仅不能创造价值,甚至可能导致极大的损失。与之相比,在许多商务大数据的应用场景下,即便分析错误,损失也不大。
分析难度高。工业系统往往是复杂的人造系统,包含大量复杂的前馈和反馈环节。这意味着,变量间的相关性往往不是自然的因果关系。这个问题很容易误导分析和决策的过程。另外,工业数据的信噪比往往比较低,分析结果很容易出现严重偏离事实的畸变(即所谓的有偏估计)。
相关性包含的信息少。在商务大数据中,数据之间的“相关性”本身往往就具有很大的参考价值,而在工业体系中则未必是这样。
工业大数据体现价值的场景有哪些?
价值是用户决定的。一杯水,放在沙漠里可以救命,剩在餐桌上就是垃圾。工业大数据也是一样,能否创造价值,首先是要看用在什么场景中。
笔者认为,用户对工业大数据提不出需求,是客观现实的真实反映。大数据有用,但合适的应用场景不一定是现在。下面分析几个有用的场景:
质量要求高的生产场景。制造业从什么时候开始重视数据?显然,当我们追求高质量、高稳定性的时候,数据会显得非常重要,数据的价值才得以体现。国外先进企业追求6Sigma(一种改善企业质量流程管理的技术,主要强调通过制定极高的目标、收集数据以及分析结果,来减少产品和服务的缺陷),故而强调数据的重要性;许多企业一味追求低成本,数据的重要性自然就会低。
高度自动化及智能化的生产场景。在高度自动化和智能化的生产单元,人的介入很少,对质量的要求一般也很高。这时,对设备健康状态和产品质量的自动监控就变得非常重要。
工业互联网的场景。工业互联网能使成千上万用户的数据实现共享。多个用户的共享会带来两个过去无法企及的效果。首先是分析结果的可靠性上升。这得益于来自不同用户的实例,可用于对分析结论的重复性认证。其次是分析结果可以在众多的用户中分享,以创造更大的价值。
在当今的中国企业中,符合上述要求的场景是不多见的。多数企业重视成本远甚于质量,智能制造和自动化的水平低,工业互联网尚未起步。由此可见,对中国多数企业来说,工业大数据的价值很可能只是“未来时”,虽然这个未来可能并不遥远。
推进工业大数据现在该做啥?
马云策划淘宝的年代,笔者正在浙江大学攻读博士学位。记得那时学校的网速只有每秒100个字节———这件事启发我们:机会往往发生在条件不太成熟的时候。所以,创新者的起步一定要早。在工业大数据全面应用之前,是我们培养能力、积累技术的时候。
但是,仅起步早是不够的,关键还要走对路子。正如培根所说:“跛足而走对路的人,胜过健步如飞却误入歧途者。”怎样尽早抓住机会呢?笔者认为,可以从以下几个方面做起:
一是理解工业大数据的本质作用
对企业来说,大数据用得好坏的关键是看能否创造出高于成本的价值。所以,笔者赞同从功能的角度定义工业大数据:大数据是过程(生产制造、研发服务、采购销售)痕迹的数字化记录,目的是为“用数据说话”奠定基础,是对已有系统所产生的数据的二次利用。
这意味着,工业大数据平台的建设,应该高度重视数据的组织,避免遗漏重要的数据以及数据之间的联系。例如,实时的设备状态和工艺参数应该与所生产的产品准确对应,相关的时钟不能混乱。
二是以方便“人”的分析为出发点
在商务大数据中,很多人强调机器学习,强调从大量数据中获得规律性、重复性的知识。对于工业大数据,这种认识要做调整:工业知识主要来自人脑,数据的作用是对已有认识的确认、分辨与准确化。这就意味着,大数据平台的要点是方便人从事分析工作。而人的分析工作往往是针对特定事件驱动的。
使得这些过程做到透明化,提高管理水平,通过更有效的管理创造效益。这样,建立大数据平台的一个重要任务是:让相关过程显性化,避免人陷落在信息和数据的海洋中,丧失关注的焦点。按照这个观点,在工业领域,“知识自动化”的重点应该是知识的管理,而非知识的发现。
三是正确认识工业大数据的知识发现
如前所述,由于工业数据体现出来的规律性往往难以突破人已有的认识范围,发现规律性的知识(如工艺与质量之间的关系)是比较困难的。然而,工业大数据往往适合发现另外一类知识,即从数据中提炼信息的知识,将物理量的检测数据转化成产品质量、能耗、效率、设备状态等信息的“软测量”算法,其实就是这种类型的知识。这些知识往往是生产技术人员并不熟悉的盲点。故而,从数据研究者的角度看,它们属于容易出成绩的领域。
过去,学术界对这些问题很热衷,企业却不重视,因为这种知识很难创造价值。不能创造价值的原因,是未能将其纳入管理或者控制的流程中,故而创造价值的途径不畅通。为此,企业可能会需要一个平台,以便将这些知识转化成数字化的模型,并纳入生产制造等流程中,以便创造经济价值。
四是注重与智能制造的结合
在笔者看来,数字化、网络化引发的智能制造大体是这样一个逻辑:信息驱动知识,在决策过程中创造价值、体现智能。其中,信息来自供应链、客户、智能设备、物联网,知识表现为软件化的模型,决策则包括自动或人工的管理与控制。
如前所述,工业大数据在这个逻辑中有两个重要作用:获取“从数据提炼成信息的知识”;决策和专业知识主要来自人脑,但需要用大数据将其验证、矫正和精确化。
五是加强数据分析可靠性理论研究
在工业系统中,可靠分析的结果才有使用价值。可靠性分析原本是统计理论的重要组成部分。但用于大数据明显是不合适的。这些理论的基本假设条件往往都是不成立的。而且,许多理论和著名观点也造成了大量的误导,如盲目强调分析结果的准确性、认为大数据强调相互关系而轻视因果等。
大数据的因果分析是个十分需要重视的领域,但过去主要是科学、哲学研究的范畴,统计学家对其重视不足。笔者认为,其实,可以从杜绝假象、通过证伪等思路来逼近因果。也就是说,重点分析那些容易导致错误结果的情况。同时,逻辑链的完整性和证据的独立性也很重要。
笔者认为,数据的质量和完整性是导致分析错误的重要诱因。因此,建立大数据平台时,不仅要关注数据本身,更要关注数据之间的对应性;不仅要关注数据是什么,还要关注数据的采集过程。数据的采集过程不同,意味着内涵发生了变化。如果数据质量不高,大数据很可能是一堆垃圾。这样看来,盲从商务大数据“非结构化”的观点也是不对的。
end
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17在Python数据清洗、文本校验、账号密码规则校验、脏数据过滤、字符串规整化处理中,正则表达式是最高效、最常用的文本匹配工具。 ...
2026-08-17 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-08-17手游行业具备用户迭代快、竞争激烈、用户粘性易流失的典型特征。随着新游持续上线、玩家审美升级、玩法疲劳等问题出现,存量用户 ...
2026-08-14在数字化产品运营、商业数据分析、业务增长管理中,零散的指标统计无法支撑系统性的业务决策。单一的点击率、转化率、销量数据只 ...
2026-08-14 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-08-14在数据库数据分析、数据清洗、报表统计与业务查询场景中,日期时间是最高频、最核心的基础字段。数据库中存储的日期格式多样,包 ...
2026-08-13在数据统计分析与数据清洗工作中,箱线图是一种简洁高效、客观性强的数据可视化图表,能够直观呈现数据集的分布特征、离散程度和 ...
2026-08-13 很多数据分析师写过无数个SELECT查询,但当被问到“如何新建一张表来固化中间数据”“创建视图和创建物理表有什么区别”“视 ...
2026-08-13在自动化办公、数据采集、定时统计、日志清理、系统监控等场景中,程序往往需要按照固定时间间隔重复执行指定任务,这种运行机制 ...
2026-08-12在数据分析日常工作中,Excel数据筛选是数据清洗、数据提取、样本筛选的核心基础操作。传统Excel手动筛选、函数筛选方式,面对多 ...
2026-08-12