京公网安备 11010802034615号
经营许可证编号:京B2-20210330
如何使用大数据帮助抓捕罪犯
最近波士顿马拉松赛恐怖袭击的余波尚在,我偶然看到了FCW的一篇有趣的文章,它对政府机构中部署的最新技术和IT技术趋势进行了深入分析。在之前的博客文章中,我曾多次提到“大数据”的使用比以往更加普及了。大数据可以简单地定义成一种从大量的数据中集中整理出所需信息,并将其用于战略和战术行动的手段。实际上,看到大数据被用于帮助抓捕罪犯并不稀奇,原因很简单,在当今这个反恐时代,“防火墙之后”的事件几乎与实际犯罪现场发生的事件同样重要。
从根本上说,大家所看到的FBI调查只是大数据和数据分析实践的冰山一角,这只不过是万里长征的第一步。以下是这篇文章的几条要点。
在4月15日的波士顿马拉松赛中,两场爆炸造成了3人死亡和数十人受伤,这之后不到24小时FBI就编译了10TB的数据,希望通过大海捞针的方式找出嫌疑人的蛛丝马迹。
FBI主导的这一调查对海量的手机基站日志、短信、社交媒体数据、照片和视频监控录像进行了分析,希望快速找出嫌疑人。
调查使用了面部识别软件将照片和视频上的面孔与护照、签证、驾照和其它数据上的照片进行对比。
调查人员收集的10TB数据不过是沧海一粟(联邦政府通常处理的是PB级的数据),调查工作实际上进行了大量的数据削减,主要原因是数据量过大,数据介质类型庞杂,要处理的数据的整体复杂度过高,以及分析数据能够利用的时间很有限。
处理TB级数据或更多的视频、数字图像、文字信息和手机记录就已经十分复杂了。不难想象,如果再把社交媒体加入进来这会是一个多么漫无边际、深不见底的泥潭。我发现这篇文章中最有意思的一点是,调查公司借助一家名为Topsy的公司的服务对数十亿条tweet进行了筛选。Topsy保存有2010年7月以来的所有tweet,在恐怖分子调查中,这使调查人员能够对与波士顿相关的tweet进行大数据分析,而不必去分析上千亿条过去和现在的消息。Topsy的数据库分析软件使调查人员能够用关键词“bomb”(炸弹)搜索特定区域(包括波士顿以及邻近郊区)Twitter上的所有评述。
最终,这种细致搜索从两个嫌疑人的Twitter账户上检查出了包含“bomb”的内容。这种对公共记录的搜索很可能发现其它一些事实上不利于调查的线索,包括有些用户转发了提到炸弹的信息,或者参与了作为嫌疑人定罪证据的聊天等等。此外,Topsy的“地理位置推测”(
Geo-inferencing)技术也使调查人员能够对发出tweet信息的具体地点进行准确映射(考虑到仅有1%的Twitter用户在发tweet时使用了地理位置标签,这项推测技术相当了得)。据Topsy称,这些功能比标准的Twitter位置数据的准确度高20倍。
Emulex能够“掌控”大数据
在Emulex,我们认为解决大数据问题的核心在于企业网络的框架。这里有大量的服务器进行着平行处理来创造价值,这些服务器通过以太网和光纤通道协议相互通讯。因此,网络流量的延时和吞吐速度是快速实现大数据部署的关键问题。Emulex之所以能够解决这些延时问题,并获得全球众多企业的选用,是因为我们提供了能够最大限度地扩大数据集群的I/O解决方案,使大数据解决方案能够实现无缝部署。
不幸的是,在一些变态狂的影响下,我们的世界充满着动荡、恐惧,甚至是屠杀。但是同样让我们难以忘怀的是,我们的社会仍能在需要的时候展现出巨大的仁慈和爱心,正像波士顿的公民在这次恐怖袭击之后所展现出来的。尽管大数据为调查提供了重要帮助,但我们不要忘记最终还是一位公民提供的线索把调查人员引向了两名凶犯。归根结底,没有任何技术——无论其多么先进——能够取代人类的善良和不屈不挠的意志。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在描述性统计分析、数据预处理、异常值排查与多组数据分布对比工作中,箱线图(Box Plot)是应用最广泛的可视化与统计工具之一。 ...
2026-07-15在企业数据存储、业务统计与数据分析工作中,绝大多数业务数据都带有时间维度属性,例如订单创建时间、用户注册时间、支付完成时 ...
2026-07-15 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-07-15【核心关键词】产品、经营、客户、调研、销售额、宏观、会计行业、客户满意度、发展趋势、经营状况、数据分析、竞争对手、数据 ...
2026-07-14问卷调查是市场调研、用户研究、社会调研与产品分析的核心数据采集方式。问卷数据大多以分类数据为主,例如用户性别、年龄分层、 ...
2026-07-14 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-07-14在数据分析、业务效果验证、AB实验扩展、行业对比等场景中,我们经常需要对比三组及以上样本的均值差异,例如不同区域的客单价对 ...
2026-07-13在互联网产品运营、用户生命周期管理与商业化数据分析中,留存指标是判断产品价值、用户满意度与商业模式健康度的核心基准。常规 ...
2026-07-13 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-07-13【核心关键词】统计学、互联网、知识、课程、学生、数学、软件、招聘、数据分析、实习经历、机器学习、理论基础、业务思维、统 ...
2026-07-10在互联网运营、产品设计、市场营销与商业数据分析领域,所有转化、成交、复购行为的底层逻辑,都依托于用户决策流程。用户从产生 ...
2026-07-10 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-07-10数据透视表是数据分析中最常用、最高效的汇总分析工具,具备快速分组、聚合计算、维度拆解、数据可视化等优势,能够轻松完成求和 ...
2026-07-09在统计学、CDA数据分析、机器学习与商业数据研究中,正态分布是最基础、最重要的数据分布形态。绝大多数参数检验、数据建模、指 ...
2026-07-09 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-07-09【核心关键词】采购、周期、原材料、企业、产品、成本、要素、库存、供应商、数据分析、生产计划、生产制造、加工制造、技术工 ...
2026-07-08在数据分析、特征工程、机器学习建模的工作流程中,原始数据往往包含多个不同维度的数值指标,例如客户交易数据中的消费金额、交 ...
2026-07-08 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-07-08商业谈判是企业采购合作、渠道签约、价格议价、项目合作、客户签约的核心关键环节,直接决定企业的合作成本、利润空间与经营风险 ...
2026-07-07在数据分析、业务效果验证、AB 测试、学术研究等场景中,T 检验是假设检验体系里最基础、应用最广泛的统计方法,也是均值差异分 ...
2026-07-07