京公网安备 11010802034615号
经营许可证编号:京B2-20210330
爱德华・斯诺登曝光NSA监听之后,乔治・奥威尔著作《1984》的销量都增加了。就目前的情况来说,即使人们不喜欢老大哥在监视自己,也要准备好接受隐私被冒犯的代价,来换得安全保障。
那么“大数据”会怎么样?快速增长的个人数据掌握在公司们手中,它们使用新型的数据分析和人工智能技术来改进自己的产品和服务,预测顾客的需求。谷歌首席执行官拉里・佩奇(Larry Page)描述他心目中理想的科技形态是“一个真正智能的助理,能够帮人类去做事,我们就不必再费脑筋”。
试想一下居住在虚拟的唐顿庄园(Downton Abbey)里,有一台电脑帮你安排一天的计划,给出旅行的最佳路线建议、可能想要观看的影片和最适宜搭乘的航班——甚至帮你订票——这的确有诱惑力。我们都在赶时间,想要一个简单轻松的生活。只要不被信息轰炸或是迫失选择,有个私人助理服务还是不错的。
但是NSA监听事件让所有人大吃一惊,虽然监听计划已经存在60年了,我怀疑许多人是否能明白他们每天制造的数据量有多大,或者是否了解如今科技发展到怎样的程度——一小撮大数据公司已经在进行数据挖掘。科技发展得太快,两年前还认为是不可能的事情如今已经十分平常了。
“未来既令人激动又让人恐惧。拥有海量数据的公司们甚至要比你还要了解你自己。它们能预测你下面可能做什么,”李开复说。他是Google中国的前任CEO,目前在北京做投资。
上周我在一篇专栏文章里将谷歌与19世纪的通用电气进行了比较——这是一家创新的工业公司,借助了在新技术潮流发展的力量。不利的一面是谷歌、亚马逊、微软以及其他科技巨头正在积累自己的力量,需要小心翼翼地控制。
NSA和大数据公司将它们的数据库和计算能力用在了不同的地方——一个是发现间谍和恐怖分子,一个是为用户匹配服务。它们对大规模数据库的使用有相似之处,比如模式识别和网络分析等等。
更进一步来看,这涉及到人工智能技术,比如在用户输入关键词时分析搜索的目的、实时将演讲翻译成另外一种语言(像微软去年在中国演示的那样)、通过读取上千张图像去学习分辨一只猫的照片。
计算机学习人类趋同行为的能力被称作是“深度学习(deep learning)”,值得注意的是谷歌已经聘请了该领域的几位前沿学者,其中就包括科学家、作家雷・库兹韦尔(Ray Kurzweil)。NSA向美国私人公司开放的技术转让中就有“领先的机器学习技术”。
这种软件可以从信息碎片中预测许多东西,只要碎片足够多就可以,好像NSA从运营商Verizon那里获取电话拨叫元数据并对其分析一样。总统奥巴马向美国公民保证“没人在窃听你的电话”,但是只要拨叫纪录就足够了。
哈佛大学教授拉坦娅・斯威妮(Latanya Sweeney)的一项研究表明,有87%的人在获知年龄、性别和邮政编码的情况下能够被确认身份,只要在公开数据库里交叉确认(cross-checked)就可以。这恰恰是社交网络和互联网公司通常所收集的数据。
大数据公司的惊人能力来自一点,它们可以将顾客的个人数据进行整合,其中就涵盖购买的何种商品、位置在哪里(由移动电话的GPS搜集)。由此生成一组有关顾客意图的“推测数据(inferred data)”。
举例说明,如果我在印度时用安卓手机搜索“泰姬陵”,谷歌会优先显示北方邦(Uttar Pradesh)的神庙结果。如果我在伦敦东部的布里克街(Brick Lane),则会返回本地的孟加拉风味餐厅结果。基于我的评价纪录提供餐馆预订服务也就不难实现了。
从一方面来说,如果确实做到这一点(只要是一家好餐厅)我会很高兴,因为能够节省我的一些操作。从另一方面来看,正如世界经济论坛关于个人数据的报告里所讲:“预测数据给人感觉好像无所不知的老大哥在盯着监控录像一样。”
其中引发的担忧之一是掌握这种软件能力的大数据公司很难与之抗衡。我和其他用户提供的数据越多,它们对我们意图的预测就越准确。机器大脑越用越精明。
另外一个和信任有关。社交网络在保护用户数据方面做得很差,它们只拥有一小片段涉及用户行为、习惯和意愿的信息。很明显为什么NSA会把社交网络作为目标——NSA有计算能力,他们需要数据原料。
第三点是所有权的问题。我们都对自己的信息享有一定的权利。但是这些信息和其他人的信息被整合到一个大规模的意愿数据库中,情况会有什么变化?如果我改变主意,如何让信息恢复原状?
最重要的一点,我们不知道这种技术意味着什么,因为我们还处于大数据时代的初级阶段。诚然大数据有许多地方令人倾佩,但是需要一些时间让人们爱上它。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17