京公网安备 11010802034615号
经营许可证编号:京B2-20210330
爱德华・斯诺登曝光NSA监听之后,乔治・奥威尔著作《1984》的销量都增加了。就目前的情况来说,即使人们不喜欢老大哥在监视自己,也要准备好接受隐私被冒犯的代价,来换得安全保障。
那么“大数据”会怎么样?快速增长的个人数据掌握在公司们手中,它们使用新型的数据分析和人工智能技术来改进自己的产品和服务,预测顾客的需求。谷歌首席执行官拉里・佩奇(Larry Page)描述他心目中理想的科技形态是“一个真正智能的助理,能够帮人类去做事,我们就不必再费脑筋”。
试想一下居住在虚拟的唐顿庄园(Downton Abbey)里,有一台电脑帮你安排一天的计划,给出旅行的最佳路线建议、可能想要观看的影片和最适宜搭乘的航班——甚至帮你订票——这的确有诱惑力。我们都在赶时间,想要一个简单轻松的生活。只要不被信息轰炸或是迫失选择,有个私人助理服务还是不错的。
但是NSA监听事件让所有人大吃一惊,虽然监听计划已经存在60年了,我怀疑许多人是否能明白他们每天制造的数据量有多大,或者是否了解如今科技发展到怎样的程度——一小撮大数据公司已经在进行数据挖掘。科技发展得太快,两年前还认为是不可能的事情如今已经十分平常了。
“未来既令人激动又让人恐惧。拥有海量数据的公司们甚至要比你还要了解你自己。它们能预测你下面可能做什么,”李开复说。他是Google中国的前任CEO,目前在北京做投资。
上周我在一篇专栏文章里将谷歌与19世纪的通用电气进行了比较——这是一家创新的工业公司,借助了在新技术潮流发展的力量。不利的一面是谷歌、亚马逊、微软以及其他科技巨头正在积累自己的力量,需要小心翼翼地控制。
NSA和大数据公司将它们的数据库和计算能力用在了不同的地方——一个是发现间谍和恐怖分子,一个是为用户匹配服务。它们对大规模数据库的使用有相似之处,比如模式识别和网络分析等等。
更进一步来看,这涉及到人工智能技术,比如在用户输入关键词时分析搜索的目的、实时将演讲翻译成另外一种语言(像微软去年在中国演示的那样)、通过读取上千张图像去学习分辨一只猫的照片。
计算机学习人类趋同行为的能力被称作是“深度学习(deep learning)”,值得注意的是谷歌已经聘请了该领域的几位前沿学者,其中就包括科学家、作家雷・库兹韦尔(Ray Kurzweil)。NSA向美国私人公司开放的技术转让中就有“领先的机器学习技术”。
这种软件可以从信息碎片中预测许多东西,只要碎片足够多就可以,好像NSA从运营商Verizon那里获取电话拨叫元数据并对其分析一样。总统奥巴马向美国公民保证“没人在窃听你的电话”,但是只要拨叫纪录就足够了。
哈佛大学教授拉坦娅・斯威妮(Latanya Sweeney)的一项研究表明,有87%的人在获知年龄、性别和邮政编码的情况下能够被确认身份,只要在公开数据库里交叉确认(cross-checked)就可以。这恰恰是社交网络和互联网公司通常所收集的数据。
大数据公司的惊人能力来自一点,它们可以将顾客的个人数据进行整合,其中就涵盖购买的何种商品、位置在哪里(由移动电话的GPS搜集)。由此生成一组有关顾客意图的“推测数据(inferred data)”。
举例说明,如果我在印度时用安卓手机搜索“泰姬陵”,谷歌会优先显示北方邦(Uttar Pradesh)的神庙结果。如果我在伦敦东部的布里克街(Brick Lane),则会返回本地的孟加拉风味餐厅结果。基于我的评价纪录提供餐馆预订服务也就不难实现了。
从一方面来说,如果确实做到这一点(只要是一家好餐厅)我会很高兴,因为能够节省我的一些操作。从另一方面来看,正如世界经济论坛关于个人数据的报告里所讲:“预测数据给人感觉好像无所不知的老大哥在盯着监控录像一样。”
其中引发的担忧之一是掌握这种软件能力的大数据公司很难与之抗衡。我和其他用户提供的数据越多,它们对我们意图的预测就越准确。机器大脑越用越精明。
另外一个和信任有关。社交网络在保护用户数据方面做得很差,它们只拥有一小片段涉及用户行为、习惯和意愿的信息。很明显为什么NSA会把社交网络作为目标——NSA有计算能力,他们需要数据原料。
第三点是所有权的问题。我们都对自己的信息享有一定的权利。但是这些信息和其他人的信息被整合到一个大规模的意愿数据库中,情况会有什么变化?如果我改变主意,如何让信息恢复原状?
最重要的一点,我们不知道这种技术意味着什么,因为我们还处于大数据时代的初级阶段。诚然大数据有许多地方令人倾佩,但是需要一些时间让人们爱上它。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据工作的全流程中,数据清洗是最基础、最耗时,同时也是最关键的核心环节,无论后续是做常规数据分析、可视化报表,还是开展 ...
2026-03-20在大数据与数据驱动决策的当下,“数据分析”与“数据挖掘”是高频出现的两个核心概念,也是很多职场人、入门学习者容易混淆的术 ...
2026-03-20在CDA(Certified Data Analyst)数据分析师的全流程工作闭环中,统计制图是连接严谨统计分析与高效业务沟通的关键纽带,更是CDA ...
2026-03-20在MySQL数据库优化中,分区表是处理海量数据的核心手段——通过将大表按分区键(如时间、地域、ID范围)分割为多个独立的小分区 ...
2026-03-19在商业智能与数据可视化领域,同比、环比增长率是分析数据变化趋势的核心指标——同比(YoY)聚焦“长期趋势”,通过当前周期与 ...
2026-03-19在数据分析与建模领域,流传着一句行业共识:“数据决定上限,特征决定下限”。对CDA(Certified Data Analyst)数据分析师而言 ...
2026-03-19机器学习算法工程的核心价值,在于将理论算法转化为可落地、可复用、高可靠的工程化解决方案,解决实际业务中的痛点问题。不同于 ...
2026-03-18在动态系统状态估计与目标跟踪领域,高精度、高鲁棒性的状态感知是机器人导航、自动驾驶、工业控制、目标检测等场景的核心需求。 ...
2026-03-18“垃圾数据进,垃圾结果出”,这是数据分析领域的黄金法则,更是CDA(Certified Data Analyst)数据分析师日常工作中时刻恪守的 ...
2026-03-18在机器学习建模中,决策树模型因其结构直观、易于理解、无需复杂数据预处理等优势,成为分类与回归任务的首选工具之一。而变量重 ...
2026-03-17在数据分析中,卡方检验是一类基于卡方分布的假设检验方法,核心用于分析分类变量之间的关联关系或实际观测分布与理论期望分布的 ...
2026-03-17在数字化转型的浪潮中,企业积累的数据日益庞大且分散——用户数据散落在注册系统、APP日志、客服记录中,订单数据分散在交易平 ...
2026-03-17在数字化时代,数据分析已成为企业决策、业务优化、增长突破的核心支撑,从数据仓库搭建(如维度表与事实表的设计)、数据采集清 ...
2026-03-16在数据仓库建设、数据分析(尤其是用户行为分析、业务指标分析)的实践中,维度表与事实表是两大核心组件,二者相互依存、缺一不 ...
2026-03-16数据是CDA(Certified Data Analyst)数据分析师开展一切工作的核心载体,而数据读取作为数据生命周期的关键环节,是连接原始数 ...
2026-03-16在用户行为分析实践中,很多从业者会陷入一个核心误区:过度关注“当前数据的分析结果”,却忽视了结果的“泛化能力”——即分析 ...
2026-03-13在数字经济时代,用户的每一次点击、浏览、停留、转化,都在传递着真实的需求信号。用户行为分析,本质上是通过收集、整理、挖掘 ...
2026-03-13在金融、零售、互联网等数据密集型行业,量化策略已成为企业挖掘商业价值、提升决策效率、控制经营风险的核心工具。而CDA(Certi ...
2026-03-13在机器学习建模体系中,随机森林作为集成学习的经典算法,凭借高精度、抗过拟合、适配多场景、可解释性强的核心优势,成为分类、 ...
2026-03-12在机器学习建模过程中,“哪些特征对预测结果影响最大?”“如何筛选核心特征、剔除冗余信息?”是从业者最常面临的核心问题。随 ...
2026-03-12