京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据需要建立规则和标准_数据分析师
作为在上世纪90年代就提出可穿戴设备概念的潘特兰教授,在大数据方面也享有卓著声誉,但他对大数据的看法,站在互联网业者的角度来看略显保守。因为他最为人称道的几个研究方向并非大数据的应用,而是个人数据采集规则,大数据安全和隐私等。不过这些在我们眼里看上去远比不上大数据发展优先的主题,并不妨碍他成为大数据领域首屈一指的专家。
潘特兰的学生中牛人辈出,有发明谷歌眼镜的,也有发明面部识别技术的。潘特兰本人则较为热衷于为大数据采集和应用制定规则,设立标准,甚至还在世界经济论坛这种重大场合为政治及经济人物提供各种与此有关的建议,可以看得出,大数据的规则和秩序是他更为看重的主题。这在当前整个社会对大数据的狂热情绪下,似乎显得有些违和,但谁也不敢肯定,几年后这未必就不是一个至高议题。
与那些喜欢做美食但自己不吃的厨师一样,潘特兰作为可穿戴设备教父,自己是不戴可穿戴设备的。虽然没有明说,但他对产自IT界的各种可穿戴设备所表现出的鄙夷,还是能够令人清晰感知到的。吃饭的时候他曾表达过这样的意思:不要相信那些现有的可穿戴设备,未来的大数据与之没有半点关系。而在现场视频中对各种市面上常见的可穿戴设备进行测试时,结果也确实与其态度有所吻合,所有加入测试的设备无一幸免地暴露出数据上的偏差,外观不错的小米手环误差率竟然达到了15%。
潘特兰将这些设备称之为简单、劣质,而他自己认可的可穿戴设备标准,则完全以用户体验为导向。他认为,那些设备光是能将人的步速和心跳频率测出来,本质上是没什么用的,用户需要让这些设备告诉自己,今天他的身体到底好不好,有没有什么欠缺,该如何进行调理等等。他所说的这种我们从未见过的场景,我想就是可穿戴设备和大数据紧密结合的产物了,很遗憾这种产品目前还没问世。
大数据的四个阶段,采集、存储、分析、应用,目前的发展水平似乎仍停留在采集阶段,但对此已有分歧了。大公司喜欢把合理诉求和自我诉求巧妙混合在一起,然后拿出来说事儿,他们对数据的渴望是贪婪的,恨不得能采集的都采集到,然后实现数据互通,最终实现产品化和商业化。
但要注意到的问题是,数据采集和使用仍然是应该有边界的。就拿BAT来说,腾讯把聊天记录作为大数据样本,阿里把交易信息作为大数据样本,百度把越权抓取的非公开信息作为大数据样本,从法理上来说都是存在一定风险的。个人网上信息的所有权在过去并不是个问题,未来一定会是个问题。
潘特兰为此提出的解决方案,则更显人性化,基于用户角度去考虑问题,较少考虑商业因素。他认为,每个人都有权使用自己的数据,选择进入或者退出网络,或者选择是否分享给别人。只有用户对数据应用和安全放心了,不觉得会有什么问题了,才会有真正的大数据。
其实很容易理解这些话的含义,大公司对数据的撷取是主动的,而用户对数据的被收集则是被动的,这对于一个未来的庞大产业而言,不可能不是一个问题。英国微电影“黑镜“中有个场景,在一个人出车祸死后,系统自动搜集此人在各种社交网络上的发言和分享,类似于人肉搜索,然后基于这些数据模仿出其语言,再通过逼真的模拟语音,实现与未亡人进行跨阴阳两界对话的效果。这个场景相当令人震撼,也相当令人担忧。
如果大数据应用到这个地步,必然会出现不良后果,这会反过头来损害大数据产业的发展。潘特兰说的那些话意思在于,你让用户自己去选择个人数据的应用,赋予其主动权,这才是对大数据发展更有好处的事情。
例如,用户如果认为自己的身体数据并没什么隐私问题,你给他退出的权利,他会主动给你上传更多的优质数据,而这些数据是公司们想通过技术手段收集,也收集不来的。可穿戴设备与这种兼顾了用户权利的数据结合,才会达到他心目中的理想效果。
其实我一直都有个看法,通过大数据预测未来是一件不靠谱的事情,不管你的应用技术如何发达,IT设备如何高效,这本质上是一种违背能量守恒定律的臆想,如永动机一样永远不能实现。不过,在预测未来之外,大数据可做的事情其实要比我们想象的更多,如石油带动能源革命一样,会对未来的人类生活产生重大影响。
这个事情需要有序推进还是野蛮生长,着实是值得深思的问题。由于数据维度的不同,文化习惯的差异,大数据之间未来发展到应用阶段时,会呈现出严重的不同步现象,出现失真,解决这个问题的关键,在于规则和标准。而为大数据建立规则和标准,似乎正是潘特兰教授真正心向往之的一件事,因为他知道,这可能会影响到一个革命性产业在未来的走向。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19