京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代(1)-别以为自己真的懂 Big Data
最近「大数据( Big Data )」严然变成流行字,感谢科技界的搜索引擎、智能电话、社交媒体等等,由于我们的生活越来越离不开网络,智能手机、平板、电脑……每日透过各项产品连接互联网并使用的资料越来越庞大,形成新的话题。曾经是科技界的新宠儿,现在变成商业界的奇货。谁能掌握在手,谁就能获得更大的商机。
你真的懂得大数据吗?
仔细想想,你真的懂得大数据吗?笔者发现很多人其实都是道听涂说,一知半解。最近 RADICA DATA LAB 早前进行「大数据市场应用调查」,表示教育水平更高者更熟悉大数据。
大数据其实并不是甚么新奇奥秘的玩意,说穿了它就只是 Found Data ,将零散杂乱的各种数据统合分析,从而演算出某些结论、推测以及反应。昔日的数据库是被动的,它要求使用者逐一回馈,像是填写各项问卷、蒐集技术样本等等。
「最可能的答案」而非「最正确的答案」
不论是收集过程、数量以及分析数据都需要花费大量时间,而且往往是针对一些特定主题及目的,数据亦不够全面。然而由于现在电脑及手机的普及,以及网络通讯的流行,实现新的数据收集方式:将大量「数位化资讯」进行演算分析从而「数据化」。即使是普通人也会听闻及发现,为什么手机会知道自己的喜好,搜索时都是将自己常去的网站搬前,显示的广告都是自己有兴趣的,这就是大众所感知到的「大数据」如何影响自己。
大数据有别过去收集数据的方式,它不需要刻版而特定的数据,纵使再零碎不全,都一律交由电脑收集及识别。大众日常于网络上做的每一步活动,都有纪录下来,让有关方面可以因应需要分析用家个人喜好、居住地区、考虑条件、特定浏览时间等等提供「最可能的答案」,而非「最正确的答案」。
大数据重视关连
大数据是违反科学的:科学讲求精确,它却讲求模煳。科学讲求因果,它只重视关连。科学只纪录有用的数据,它却是所有数据都有价值。早于 20 世纪 20 年代 B.Russell 就提出过有关的论文,及后 1965 年 L.A.zadeh 发表模煳集合理论,正式奠定基础。模煳理论实际上是模煳集合、模煳关系、模煳逻辑、模煳控制、模煳量测等理论的泛称。
过去人类尤其是西方科学重精确轻模煳,胡适亦曾撰文<差不多先生传>,崇尚西方学风的他们抨击讽刺中国人特有的「近似推理( Approximation reasoning )」:缺乏科学精神,凡事模棱两可,只要差不多就好。讽刺的是不出数十年,西方科技发展就要学习差不多先生,追求不明确与模煳概念。事实上,模煳理论应用最有效最广泛的领域就是模煳控制。模煳控制出人意料的解决了传统西方理论逻辑无法解决或难以解决的疑难,并取得了一些惊人的成效:大数据就是其中的表表者。
大数据未必百分百正确,但又合乎一般人理解的范围
例如「青年」这个概念,它的内涵大家都清楚明白,但是什么样的年龄阶段内的人是青年,恐怕大家莫衷一是,因为在「青年」这个概念中没有一个清晰确定的边界与外延,这就是模煳概念。人们在认识模煳性时往往带有主观性,每个人对模煳事物的认知不可能完全相同。我们询问一千人他们认知中「年青」的年龄范围,那么我们可能得到一千个不同的答案。尽管如此,当我们用模煳统计的方法对海量数据进行分析时,答案又具有一定的规律性。
大数据就是以相近的塬理运作,假设我们要求电脑在甲城市报告「低收入青年的数量」,这里所说的「低收入」、「青年」都是模煳概念,过去的统计学要先求出「何谓低收入」「何谓青年」的「精确范围」然后才能进行下一步的统计:你要先告诉电脑某个薪金以下是低收入,哪个年龄阶层是青年,然后在资料库指定栏位找符合的条目。然而在大数据时代下,电脑能通过模煳概念去分析判断,演算法会自己跑自己分析「低收入」及「青年」大概的范围,将相关的数据条列出来。它未必百分百正确,但又合乎一般人理解的范围。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大模型(如 Transformer、CNN、多层感知机)的结构设计中,“每层神经元个数” 是决定模型性能与效率的关键参数 —— 个数过少 ...
2025-11-10形成购买决策的四个核心推动力的是:内在需求驱动、产品价值感知、社会环境影响、场景便捷性—— 它们从 “为什么买”“值得买吗 ...
2025-11-10在数字经济时代,“数字化转型” 已从企业的 “可选动作” 变为 “生存必需”。然而,多数企业的转型仍停留在 “上线系统、收集 ...
2025-11-10在数据分析与建模中,“显性特征”(如用户年龄、订单金额、商品类别)是直接可获取的基础数据,但真正驱动业务突破的往往是 “ ...
2025-11-07在大模型(LLM)商业化落地过程中,“结果稳定性” 是比 “单次输出质量” 更关键的指标 —— 对客服对话而言,相同问题需给出一 ...
2025-11-07在数据驱动与合规监管双重压力下,企业数据安全已从 “技术防护” 升级为 “战略刚需”—— 既要应对《个人信息保护法》《数据安 ...
2025-11-07在机器学习领域,“分类模型” 是解决 “类别预测” 问题的核心工具 —— 从 “垃圾邮件识别(是 / 否)” 到 “疾病诊断(良性 ...
2025-11-06在数据分析中,面对 “性别与购物偏好”“年龄段与消费频次”“职业与 APP 使用习惯” 这类成对的分类变量,我们常常需要回答: ...
2025-11-06在 CDA(Certified Data Analyst)数据分析师的工作中,“可解释性建模” 与 “业务规则提取” 是核心需求 —— 例如 “预测用户 ...
2025-11-06在分类变量关联分析中(如 “吸烟与肺癌的关系”“性别与疾病发病率的关联”),卡方检验 P 值与 OR 值(比值比,Odds Ratio)是 ...
2025-11-05CDA 数据分析师的核心价值,不在于复杂的模型公式,而在于将数据转化为可落地的商业行动。脱离业务场景的分析只是 “纸上谈兵” ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-04【2025最新版】CDA考试教材:CDA教材一级:商业数据分析(2025)__商业数据分析_cda教材_考试教材 (cdaglobal.com) ...
2025-11-04在数字化时代,数据挖掘不再是实验室里的技术探索,而是驱动商业决策的核心能力 —— 它能从海量数据中挖掘出 “降低成本、提升 ...
2025-11-04在 DDPM(Denoising Diffusion Probabilistic Models)训练过程中,开发者最常困惑的问题莫过于:“我的模型 loss 降到多少才算 ...
2025-11-04在 CDA(Certified Data Analyst)数据分析师的工作中,“无监督样本分组” 是高频需求 —— 例如 “将用户按行为特征分为高价值 ...
2025-11-04当沃尔玛数据分析师首次发现 “啤酒与尿布” 的高频共现规律时,他们揭开了数据挖掘最迷人的面纱 —— 那些隐藏在消费行为背后 ...
2025-11-03这个问题精准切中了配对样本统计检验的核心差异点,理解二者区别是避免统计方法误用的关键。核心结论是:stats.ttest_rel(配对 ...
2025-11-03在 CDA(Certified Data Analyst)数据分析师的工作中,“高维数据的潜在规律挖掘” 是进阶需求 —— 例如用户行为包含 “浏览次 ...
2025-11-03