京公网安备 11010802034615号
经营许可证编号:京B2-20210330
如何使用大数据帮助抓捕罪犯
最近波士顿马拉松赛恐怖袭击的余波尚在,我偶然看到了FCW的一篇有趣的文章,它对政府机构中部署的最新技术和IT技术趋势进行了深入分析。在之前的博客文章中,我曾多次提到“大数据”的使用比以往更加普及了。大数据可以简单地定义成一种从大量的数据中集中整理出所需信息,并将其用于战略和战术行动的手段。实际上,看到大数据被用于帮助抓捕罪犯并不稀奇,原因很简单,在当今这个反恐时代,“防火墙之后”的事件几乎与实际犯罪现场发生的事件同样重要。
从根本上说,大家所看到的FBI调查只是大数据和数据分析实践的冰山一角,这只不过是万里长征的第一步。以下是这篇文章的几条要点。
在4月15日的波士顿马拉松赛中,两场爆炸造成了3人死亡和数十人受伤,这之后不到24小时FBI就编译了10TB的数据,希望通过大海捞针的方式找出嫌疑人的蛛丝马迹。
FBI主导的这一调查对海量的手机基站日志、短信、社交媒体数据、照片和视频监控录像进行了分析,希望快速找出嫌疑人。
调查使用了面部识别软件将照片和视频上的面孔与护照、签证、驾照和其它数据上的照片进行对比。
调查人员收集的10TB数据不过是沧海一粟(联邦政府通常处理的是PB级的数据),调查工作实际上进行了大量的数据削减,主要原因是数据量过大,数据介质类型庞杂,要处理的数据的整体复杂度过高,以及分析数据能够利用的时间很有限。
处理TB级数据或更多的视频、数字图像、文字信息和手机记录就已经十分复杂了。不难想象,如果再把社交媒体加入进来这会是一个多么漫无边际、深不见底的泥潭。我发现这篇文章中最有意思的一点是,调查公司借助一家名为Topsy的公司的服务对数十亿条tweet进行了筛选。Topsy保存有2010年7月以来的所有tweet,在恐怖分子调查中,这使调查人员能够对与波士顿相关的tweet进行大数据分析,而不必去分析上千亿条过去和现在的消息。Topsy的数据库分析软件使调查人员能够用关键词“bomb”(炸弹)搜索特定区域(包括波士顿以及邻近郊区)Twitter上的所有评述。
最终,这种细致搜索从两个嫌疑人的Twitter账户上检查出了包含“bomb”的内容。这种对公共记录的搜索很可能发现其它一些事实上不利于调查的线索,包括有些用户转发了提到炸弹的信息,或者参与了作为嫌疑人定罪证据的聊天等等。此外,Topsy的“地理位置推测”(
Geo-inferencing)技术也使调查人员能够对发出tweet信息的具体地点进行准确映射(考虑到仅有1%的Twitter用户在发tweet时使用了地理位置标签,这项推测技术相当了得)。据Topsy称,这些功能比标准的Twitter位置数据的准确度高20倍。
Emulex能够“掌控”大数据
在Emulex,我们认为解决大数据问题的核心在于企业网络的框架。这里有大量的服务器进行着平行处理来创造价值,这些服务器通过以太网和光纤通道协议相互通讯。因此,网络流量的延时和吞吐速度是快速实现大数据部署的关键问题。Emulex之所以能够解决这些延时问题,并获得全球众多企业的选用,是因为我们提供了能够最大限度地扩大数据集群的I/O解决方案,使大数据解决方案能够实现无缝部署。
不幸的是,在一些变态狂的影响下,我们的世界充满着动荡、恐惧,甚至是屠杀。但是同样让我们难以忘怀的是,我们的社会仍能在需要的时候展现出巨大的仁慈和爱心,正像波士顿的公民在这次恐怖袭击之后所展现出来的。尽管大数据为调查提供了重要帮助,但我们不要忘记最终还是一位公民提供的线索把调查人员引向了两名凶犯。归根结底,没有任何技术——无论其多么先进——能够取代人类的善良和不屈不挠的意志。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19