京公网安备 11010802034615号
经营许可证编号:京B2-20210330
不关注人性的大数据,只是大忽悠_数据分析师培训
斯大林曾说:一个人的死是悲剧,一百万个人的死就是数据。如果拿医学界的术语,这是一种共情疲劳,如果换成时下最流行的术语,就是我们还无法处理大数据。
上周参加腾讯思享会,主题就是“大数据将如何影响社会变革”。场间针对大数据,提出了不同的声音,有“数据孤岛论”:现有的大数据是断裂而封闭的,比如腾讯说自己有某方面的全数据,但是否有百度,有阿里的?有“数据阴谋论”:现在在用大数据做事的就是大企业和政府机构,如果我们普通人不能掌握,那就是被一个无形的网所束缚、所监控。有从经济安全角度来看待大数据处理“黑箱”问题时的作用。也有从实践角度来谈论大数据在商界中的应用。但最触动我的是下面两个观点。这里简单摘编下以飧读者。
不关注人性的大数据是大忽悠---刘德寰
现在主流对大数据的理解是基于维克托的《大数据时代》进行二次改良。但这其中有两个十分值得商榷的观点,一是对抽样的极端蔑视,二是无原则的推崇相关。大数据是一种抛弃随机分析法(抽样调查)而对所有数据进行处理,那么这其中就存在一个由斯坦福Trevor Hastie提出的问题,如何在稻草里找一根针,前提是很多稻草长得和针一样。这是我们所有大数据研究面临的最大风险,数据太大之后带来的实际上是一个规律的丧失和失真,千万不要忽视了抽样。
抛开这两个观点,更为可怕的是现在的大数据鲜有关注人性。先举个生活中大家都遇到过的问题,一个人去网上买了5升的洗衣液,整个流程花费了不到1分钟。第二天浏览网页,他发现旁边的广告就是各种各样的洗衣液。这是什么?基于大数据的精准营销? 这恐怕是基于大忽悠的精准骚扰吧。 有点常识的人都知道,5升的洗衣液就算家里人再多也要用一个月,而且那个人流程这么短,肯定就是品牌忠诚者,推广的应该是什么时候那个品牌的洗衣液会打折之类的,这才是大数据。人类早期研究问题的方法就是靠体会、知觉、体验、内省等,这些看起来跟大数据无关的东西可能恰恰是大数据的核心,因为它是思想。
谷歌2008年弄了一个非常厉害的东西叫流感趋势预测,它预测的结果比美国疾病控制中心还准,当时轰动了全球。结果后来里面东西越来越乱,严重的高估了流感的状态。为什么?这就是刚刚说的维克多流派谈大数据的时候重相关不重因果。流感跟发病的时间点,跟美国比如中学生篮球赛那个时间点是完全一致的,这俩概念能有关系吗?问题是只要搜索中学生的篮球赛,就构成了流感预测的一个主要的词之一。类似的东西太多了,为什么?因为在谷歌预测的时候,没有找疾控公共卫生的专家,这些东西才是进行大数据预测的一个很重要的前提。
基因工程才是真正的大数据
人有多少细胞?量级为10的14次方。 其中一个细胞癌变就能导致你生命的完结。难道这不是大数据?真正的大数据是生命大数据,基因筛查可以消灭先天性疾病和预防癌症,人类想在千年之后复活亦不是难事。可是这样的基因科技发展却遭遇了无数现实瓶颈和伦理挑战。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18