京公网安备 11010802034615号
经营许可证编号:京B2-20210330
忘掉大数据—万物皆数据,数据藏大道
为什么要忘掉大数据?
是不是大数据无用?恰恰相反,大数据太有用了,大数据无处不在,它可以跟所有的应用结合,当然前提是能够采集到相匹配的数据,而随着科技的发展,采集数据的范围越来越大、存储技术越来越先进、计算能力越来越强、算法越来越智能,越来越多的问题能够用数据技术来解决。那我为什么还是要忘掉它?理由有二:其一,数据的关键不在于“数据”本身,而是它表征的事实,我们必须回归到数据产生的场景中去理解数据,也必须从场景出发去应用数据,单纯的大数据毫无意义,想成为一个大数据专家,得先成为某一个应用领域的专家;其二,这是个人对大数据发展的终极梦想,因为数据,我们的生活更加自然,最终再也觉察不到大数据的存在,那才是真正的大数据时代!
回想上古时代,人类对这个世界一无所知或者知之甚少,因为无知,也就无争,所以“老死不相往来”,社会是一种“自然”的稳态,后来,部分人掌握了更多的数据,开始争夺利益,道德崩塌,社会变迁,只有大数据发展到人人都能平等的获取同样多的数据,社会才会进入一种新的“自然”的稳态。道家洞悉了天机,为“自然”的秩序,无为,也无所不为!
扯远了…….接下来谈谈我对数据的理解。
一、数据=Know,数据一直存在
1、数据是人类对世界的观测: 数据是个什么样的东东?我是这么看的,我把世界分为如下这些元素:a、道,主宰世界的运行; b、公理/定理、规律 ;c、场景,包括政治人文地理气候等;d、参与者,包括人和万物,大到天体,小到粒子;于是所有的事情都可以抽象成这样,在a和b的作用下,c和d相互影响在时空中运行,而这时候出现了一个旁观者,把它观测到的这一切记录下来,就形成了我们所说的数据。
数据体现了人类的意志:数据的来源只有两种,要么人类通过手工记录,要么通过科技手段按照人类设想记录下来,记录者对事物的理解、采取的采集手段决定了数据长啥样!所以看到数据,要追溯回记录者当时怎么想怎么记的,才可能真正搞懂数据。
数据并不客观,它是有角度的:正因为数据体现了人类的意志,而人类只能选取某些角度去观测世界,因而记录下来的数据是有角度的,它离客观事实有很大的距离。譬如《史记》就体现了司马迁的偏好,项羽不是帝王,却列入本纪之中,可见其对于项羽的推崇心理。
数据表征事实,但数据只是事实的采样:事物的细节很多,人类只能对局部的点进行记录(空间抽样),也不可能连续记录(时间抽样)。譬如你记录了时间、地点、人物、事件,但还有人物心理、周边环境、星际运行、甚至粒子级别的运动,人类观测不过来,也记录不过来,很多东西无法表征,更存储不下来所有。
数据不仅失真,还可能错漏:眼里见到的不一定就是真实,最终记录下来的也不一定是眼里见到的,还有技术的误差……
真正的“数据”是世界发生的这一切,这个“数据”无穷大,一直存在:相比之下,人类的采集及表征存储技术实在是太渺小了!不少专家惊呼大数据时代来了,我们可以不用抽样能够全数据处理了,真实情况是,人类永远没有全数据,我们对这个世界“Know”得太少啊,真正的大数据时代还早得很!
(注:在我的概念,数据有广义狭义之分,广义的“数据”就是世界发生的这一切,狭义的数据是指人类记录下来的)
顺便也说一下,强人工智能时代还远着呢,且不谈意识那些深层次的话题,也不探究存储及表征技术的落后,三个理由,其一,AI在采集数据方面是预设角度的,而人类对一个事物观测角度有无穷想象空间,你自己都无法预知你会留意哪些方面,其二,模型方面,AI的学习方向也是预设的,人类大脑的联想关联能力、快速归纳能力AI无法做到,譬如婴儿第一次见到围巾,你教它把它挂到脖子上,下次它见到长的东西如皮带,它也会创造性的往脖子上挂,没人教过它围巾与皮带的关联关系!我举的这个例子不一定恰当,相信宝爸宝妈能举出更多更好的例子(欢迎投稿供引用)。其三,解读数据及数据影响行动的能力,AI还太弱。
2、“数据”是物质与意识之间的连接
人类对世界的认知就是体现在对“数据”的掌握,物质通过“数据”传递给意识,意识接收“数据”感知物质。没有“数据”,物质与意识就会中断。脱离了肌壳,不知道灵魂还能不能接收“数据”,如果不能,那就跟物质中断了,这种状态跟创世元灵忍受过的难以想象的孤寂差不多。
3、数据=Know
查英语词典,“know”有知道、了解、懂三层含义,这三层渐进的解释和大数据实在是太吻合了,单一的数据能帮人们浅层次的“知道”一些事实,多维度的数据让我们进一步的“了解”事实,而对数据的综合提炼、深度洞察才能称之为“懂”,“懂”事物的规律、发展方向!所有的数据都是帮助我们Know,譬如运营报表是帮助我们“know”过去的运营情况、监控预警是帮助我们“Know”当下正在发生什么异常的事情、目标客户数据是帮助我们“Know”客户未来会有什么样的购买需求;而大数据挖掘就是利用我们已经“Know”的事实数据去推测我们想“Know”的东西。
二、数据的方法一直在使用
人类一直在有意无意的采用数据方法来思考,几乎所有的领域都有数据的影子。譬如读心术,不就是通过分析身体语言、微观动作、面部动作、空间行为、触觉等非语言行为数据再结合社会习俗、文化背景、民族习惯、现场气氛、对象资料等背景信息来推测对象的心理么?最近“别对我撒谎”就是试图利用图像数据来分析心理,当然智能程度还很低;而侦探就是通过收集现场等数据试图还原真相;所谓闻香识女人、知己知己百战不殆、分久必合合久必分等都是对数据的收集和运用;占卜算卦就更神奇了,利用道具来产生数据(当然,不知道是否还采集了空气中一些神秘的数据)然后推测人的命运……
但是,现行的数据技术并不能解决所有的问题,因为很多数据还没办法收集存储,随着采集技术的发展,未来,一切皆可测量,一切皆可数据化,所有领域的专家,都将是数据科学家。 未来,请忘掉大数据,不要问大数据能做什么,而是几乎所有的领域都必须应用数据技术。大数据无处不在,也就是不存在。
三、所谓的模型、算法,都是为了让数据产生新的数据,Know->行动
前面也说了,数据挖掘,就是利用已掌握的数据推测未知,推测的结果就是一个新的数据,譬如你没有用户的性别数据,只能通过用户的浏览习惯、浏览网页分类来推测它的性别,这个性别对于你就是一个新的数据。
不能影响行动的数据都是没有意义的,换句话说,数据必须与商业(应用)相结合。千辛万苦整出一个数据,没有相应的应用流程来承接,那就徒劳无功。
四、经验也是大数据
大数据出现之后,人们对数据驱动津津乐道,什么数据驱动营销、数据驱动管理、数据驱动运营………如果凭经验做事情,似乎就被一棍子打死。但是,数据看起来很多,实际上很少(前面说的抽样、失真……),它并不总能解决问题,如果掌握的数据与目标相去甚远,无论算法多么的牛叉,都得不到一个与目标匹配的数据结果。
而人类的经验是基于多年接收的大数据运用大脑提炼的结果,除了五官,人类身体的每一寸肌肤都在接收并处理大数据,人类的大脑比计算机模型强得不知道哪里去了,匹配度高的经验效果远远好于一般的数据结果。
所以,别瞧不起经验,很多情况下,数据无能为力!
结语
数据没想象那么强大,但未来数据无处不在,最后,人类一定会忘掉大数据!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中,LSTM(长短期记忆网络)凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑:用 ...
2025-12-01引言:数据时代的“透视镜”与“掘金者” 在数字经济浪潮下,数据已成为企业决策的核心资产,而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27