
大数据、小模式、深影响_数据分析师
我今天想跟大家分享的是大数据以及大数据所延伸出来的商业价值。
可能有些人会问这样的问题,我所代表的学院——牛津大学互联网研究院主要的工作职责是什么?我想说,我本身是牛津大学信息哲学与信息伦理学的教授,能在这里和大家一起见证腾讯互联网与社会研究院的成立,是一件非常了不起的事情。因为我认为人类开发数据技术是多年来在古老的地球上开出来的一朵鲜艳的花。其实这个技术在很多年前就已经有了,它深深根植于我们的生活中,它就是哲学。
哲学是土壤,这个土壤要非常关注花朵的健康成长,所以我今天讨论的内容就是如果你认为自己是一朵鲜花,就一定要照顾好你的土壤;如果你是土壤,就要照顾好鲜花。这就是哲学和这个全新的研究院、哲学和我们的信息网络之间的关系。
什么是大数据?大数据是由三个“V”组成的——速度(Velocity)、种类(Variety)和数量(Volume)。现实是大数据一直在变化——速度变得更快,数量变得更多,种类也变得更多样,每一天、每一周都是如此。但是大数据有没有局限?这三个“V”是否会不断地增长?数据会有它的限制吗?
2013年,全中国一共产生了0.8ZB(约8亿TB)的数据,到2020年会变成35ZB,这是快速的增长。而我们的记忆到底能存多少数据?我们的记忆是没有极限的,因为它是动态发展的,这跟数据的增长有关系。
我刚才所讲的是大数据的一些历史。突然有一天我们发现大数据会变成一种资产。什么时候会变成一种大资产呢?如果要选择具体的一天,大概是在2012年,世界经济论坛宣布大数据成为一种新的经济资产,就像货币或者黄金一样。毫无疑问,这种经济的增长速度是非常快的。我从经济论坛上也听到了很多知名的经济学家对于大数据的看法,大家都同意这是一个全新的局面。
现在是什么组成了大数据?不仅仅是速度、种类和数量,还应该有价值(Value)——从三个“V”变成四个“V”。这四个“V”已经陪伴了我们很长时间,这就是为什么我们今天要来参加这个论坛,讨论大数据。
但是你要知道,哲学家总是要不断提问,到底什么是价值?这个价值指什么?讲到大数据的时候,它所体现的价值又是何种内容呢?
我们首先要问为什么大数据本身有价值?大数据以一种方式或者另外一种方式被大家所使用,那么为什么大数据跟之前相比会具有价值呢?因为它是网络资源,这种资源可以跟其他的资源一起合并。它有价值是因为它是可以持续的,可以根据不同的目的来使用,跟过去我们所接触到的黄金、石油等其他资源相比,它是无边无际的海洋。而数据在不断增长,它帮助我们改进现有生活、工作和产品,并预测包括医疗和科学在内的未来趋势。我们也可以用数据来做一些模拟,比如在生物化学的实验室里,可能没有人见过某种动物,但是我们可以在计算机上模拟这种生物。
可见,数据越多,决策过程就越简单,最终你可以使用大数据来创新。这也是为什么我们认为这种新类型资源的价值是不可低估的。《商业周刊》的报道中提到,北京大学光华管理学院教授认为,中国很快会成为世界级的数据市场,而且数据相关的职位将会在未来十年里变得炙手可热。还有消息指,除日本之外的亚太地区的数据产业规模将很快从2.58亿美元增长到17.6亿美元。到2016年,它更是会达到每年46.8%的复合增长率。
为什么大数据如此重要呢?对于我这个哲学家来说,大数据的价值是什么?所谓大数据的价值,是以小的格局和小的形式来体现的,这是什么意思呢?我们看到的就是一些小的数据一点点连接在一起,那么到底多大规模的数据才会出现一个可辨别的形式?可以说,你的眼睛无法辨别这种小模式,除非这些小模式连接起来。如果说你有足够的能力,有足够的数据,你才能发现这些数据连在一起或许是一台电话;如果不太了解技术,你可能就看不到这个电话的形式。
可见,大数据是最敏感的,当这些小的敏感线条连接在一起,你马上就会发现“小模式”决定了一半的数据都是垃圾,但是你不知道是哪一半,只有不断地收集这些数据才能做出判断。
从全球的角度来讲,这样的大数据会有什么样的优势呢?除了优势之外,大数据的风险又是什么?关于未来,我们应该关注哪些方面?
首先就是大数据和小模式与我们隐私之间的关系。当然,还会有新的问题,那就是预测。我们发现有足够的数据,再加上智慧小模式的匹配,计算机就知道你会定什么样的行程,在你买之前它已经知道你要买牙膏了。计算机可以告诉我们,今天要做什么,但是它不会告诉我们为什么要这样做。当然还有来自广告的压力,以及那些日益具有说服力的工具,都可以说服你什么是最好的。这些都会影响到我们的自由,对个人而言,这些都是风险。
但是它们并非不可解决的风险,如果我们能够注意到,这些风险就能被解决。当然,这里不仅仅有风险,还有很多优势。当我们谈到大数据的时候,我们要记住大数据是有价值的,它有知识和技术的价值,让我们可以更好地去了解这个世界。从卫生、技术、教育到医疗的研究,帮助我们深化对世界的理解。我们当然也可以去思考大数据给我们带来的经济和商业价值。例如,企业、企业家利用数据可以创造经济价值,确保未来的一代人会比现在的一代人生活得更加美好。因此,我们需要思考大数据在经济上的价值。
今天我们聚集到这里,还要关注大数据的社会价值,也就是怎么样利用大数据提高社会的价值,怎么样改善你的企业运营,怎么样改善交通运输,以及怎么样预测和改善将来的健康问题。大数据是一个非常好的工具,它可以帮助我们改善生活,给我们带来希望。
我们应该利用什么样的战略来获得大数据的好处,避免风险呢?对于大数据,要利用什么样的价值战略呢?我想,要设定这样一个战略是比较容易的,但是实施起来比较难。大数据可以确保我们避免出现伤害,也可以预防伤害或者去除伤害,并创建福祉。
我给大家解释一下这一点,大家可以思考一下医生给他的患者做什么?医生要尽量防止他的患者出现一些伤痛,希望他变得更加健康和强壮。大数据对整个社会来说也可以帮助我们这样做——防止和去除伤痛,而且最重要的是可以去改善成百上千万人的生活。
历史的车轮一直在往前行进,我们无法阻止它往前走,我们确实发挥着作用,不管是大的还是小的,是作为机构还是个人,我们的作用就是为了确保未来社会的顺利发展。而同时数据的价值、量和速度都会增大增强,就有可能会出现信息过载的问题,出现太多的噪音。面对这样的情形,我们可以做什么呢?
这时,我们就要确保这样一个噪音缺口是尽可能小的,才能充分利用大数据的价值,同时又不会给整个社会体系造成过载,这就是我们这个研究院的一个非常重要的责任。
当然我也要强调一下我们本身的哲学理念。大家可以去思考一下大数据有上万亿个,我们有这么多信息,也知道这些是或者不是的问题是不断增加的。要找到答案,并从中找到信息,我们就必须要去确定正确的问题,也就是要问什么样的问题,才能挤出水分,通过大数据确定小模式。
柏拉图就是这样一个智者,他知道怎么问问题,怎么回答问题,他如果看到我们现在互联网研究院的成果一定会非常高兴,因为他看到我们是充分利用大数据来帮自己实现价值。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中,“设计标签逻辑” 只是第一步,真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键,在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时,折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时,“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号(如 “北京 ...
2025-09-28在 CDA(Certified Data Analyst)数据分析师的技能工具箱中,数据查询语言(尤其是 SQL)是最基础、也最核心的 “武器”。无论 ...
2025-09-28Cox 模型时间依赖性检验:原理、方法与实战应用 在生存分析领域,Cox 比例风险模型(Cox Proportional Hazards Model)是分析 “ ...
2025-09-26检测因子类型的影响程度大小:评估标准、实战案例与管控策略 在检测分析领域(如环境监测、食品质量检测、工业产品合规性测试) ...
2025-09-26CDA 数据分析师:以数据库为基石,筑牢数据驱动的 “源头防线” 在数据驱动业务的链条中,“数据从哪里来” 是 CDA(Certified D ...
2025-09-26线性相关点分布的四种基本类型:特征、识别与实战应用 在数据分析与统计学中,“线性相关” 是描述两个数值变量间关联趋势的核心 ...
2025-09-25深度神经网络神经元个数确定指南:从原理到实战的科学路径 在深度神经网络(DNN)的设计中,“神经元个数” 是决定模型性能的关 ...
2025-09-25在企业数字化进程中,不少团队陷入 “指标困境”:仪表盘上堆砌着上百个指标,DAU、转化率、营收等数据实时跳动,却无法回答 “ ...
2025-09-25MySQL 服务器内存碎片:成因、检测与内存持续增长的解决策略 在 MySQL 运维中,“内存持续增长” 是常见且隐蔽的性能隐患 —— ...
2025-09-24人工智能重塑工程质量检测:核心应用、技术路径与实践案例 工程质量检测是保障建筑、市政、交通、水利等基础设施安全的 “最后一 ...
2025-09-24CDA 数据分析师:驾驭通用与场景指标,解锁数据驱动的精准路径 在数据驱动业务的实践中,指标是连接数据与决策的核心载体。但并 ...
2025-09-24在数据驱动的业务迭代中,AB 实验系统(负责验证业务优化效果)与业务系统(负责承载用户交互与核心流程)并非独立存在 —— 前 ...
2025-09-23CDA 业务数据分析:6 步闭环,让数据驱动业务落地 在企业数字化转型中,CDA(Certified Data Analyst)数据分析师的核心价值,并 ...
2025-09-23