
高德交通数据分析师:专车加剧广州城市拥堵
2015年7月23日,中国Hadoop技术峰会在上海浦东嘉里中心如火如荼地召开。下午的大数据应用分论坛,基于最新的大数据技术,结合落地应用案例进行讲解与讨论,也受到了业内外的广泛关注。
当日下午,来自公安部交通管理科学研究所的方艾芬主任在大数据应用分论坛上发表了题为《大数据在交通管理中的应用》的讲演,从技术革新到落地案例,多方面多角度地阐释了Hadoop大数据平台对交通管理方面的帮助与改革。
方主任首先对公安部交通管理研究所的性质与职能作了简要介绍。交通管理研究所是公安部直属的道路交通管理工程技术研究的科研机构,主要从事道路交通事故预防及鉴定技术、公安交通管理业务信息化技术、公安交通管理大数据技术及云计算技术、智能交通管理技术等技术领域的研究工作。
方主任的讲演从公安交通管理信息化的现状,机动车缉查布控大数据平台建设及应用实践和未来交通管理信息化展望三方面来召开。
首先是公安交通管理信息化的现状,我国机动车的保有量为2.71亿,其中汽车保有量1.63亿,仅次于美国,位列世界第二。而驾驶人数量3.12亿则为世界第一。我国公路通车里程达到446.39万公里,其中高速11.19万公里。这些背景数据说明我国已进入汽车社会。对于道路交通管理的需求与压力也与日俱增。
2012年起,公安部推出全国公安交通管理综合平台,在全国31个省、480多个地级市全面应用。公安交通管理主要业务全面信息化。同时,以公安交通管理综合应用平台为依托、以各地卡口系统为基础的全国机动车缉查布控系统也已应用,实现了缉查布控、预警拦截、轨迹分析、综合研判四方面的公安公路交通安全联网管控信息化。
卡口系统主要进行图像抓拍、通行记录等数据处理,并实时上传至缉查布控系统。目前,全国联网接入卡口23000多个,已汇聚上传车辆轨迹数据350亿多条,每日新增1亿多条。同时,机动车通行数据,车辆、驾驶证等基础数据,运维监管等其他数据也达到上亿条并且仍保持增长趋势。这些数据既包括常规的结构化数据,也包括图片、视频等非结构化、半结构化数据,价值巨大。
然而庞大的数据量也带来了一些问题。比如海量的数据中有百分之九十九的数据从未被使用,极低的利用率使得相关部门只能被动地通过数据解决已有问题,而无法使用现有数据进行分析、监管。究其原因,在于传统的关系型数据库面对如此庞大的数据量,无法进行高效的处理,受此限制,大部分的数据也发挥不出本来的价值。
然而现有数据量仍然在不断地增长,这一问题对数据库的革新提出了要求,传统关系型数据库向分布式数据库的转型势在必行。
方主任借此背景,引出了机动车缉查布控大数据平台建设与应用实践的成功经验。
大数据平台的建设需求在于应用大数据、云计算等技术,建设省级、部级机动车缉查布控大数据平台,汇聚全省、全国机动车轨迹信息,实现海量数据的接入、存贮,实现过车查询、全库搜索、轨迹分析、套牌分析、伴随分析、碰撞分析、区间测速等实时分析应用,实现跨部门、跨警种、跨区域信息共享和深度挖掘应用,为准确监测公路通行状况、快速缉查交通违法行为、打击各类涉车违法犯罪,不断提升道路交通安全管控水平、决策分析和社会服务能力提供全新技术实现手段。
而公安交管部门的大数据平台以大范围碰撞比对作为主要目标,是国内较早落地应用大数据平台的案例。方主任以省级平台——山东省缉查布控大数据平台案例作为主要讲解对象。
数据方面,山东省缉查布控大数据平台已在17个地市联网接入卡口1000多套,日过车记录超过1000万条(预期全面联网后1到1.5亿条每天)。全省2300多万机动车,3000多万驾驶人进入关联信息。自2014年9月正式运行起,已累积近40亿条,25TB数据。
架构上采取混合型架构,部分数据存储于HBase分布式数据库,一些关键数据存储于Oracle数据库,采用企业级发行版Hadoop软件,解决了数据实时处理,快速查询检索和多维度分析研判等问题。
方主任还提到在软件平台上,选择了星环科技的TDH产品,从2014年9月运行至今,性能稳定可靠,用户体验极佳。
基于大数据平台,公安交管部门能根据海量数据提取信息,分析轨迹,在一秒之内实现实时比对,产生预警,从而有针对性地干预、拦截。动态静态信息的碰撞比对,解决了许多过去的难题。比如逾期未年检车辆的发现与预警,无论是车主的无心之失或有意为之,都为公安部门的监管带来了极大的便利。同时还有假牌套牌分析处理与核对等,这是过去的监管系统难以顾全的。
总的来说,借助大数据TDH平台的帮助,公安交管部门相较之前更好地利用到了已有的数据,有力提升动态化、信息化执法能力,提升了对重点车辆动态监管能力,提升了对路面重点交通违法行为动态发现能力,提升了对机动车通行情况的分析研判能力,提升了对各地执法情况的监督能力,提升了对源头企业的监管能力。
而在未来,计划建立全国公安交通集成指挥平台,基于关联系统、平台信息,落成部省市三级全国联网监控。公安部交通管理科学研究所目前正依托全国公安交通管理数据中心、 云计算和大数据应用联合实验室, 开展交管大数据应用模式、技术架构、研判分析和预测模型研究,研发基于云计算技术的交通管理大数据挖掘研判系统。CDA数据分析师培训
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01CDA 数据分析师:企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”, ...
2025-09-01数据清洗工具全景指南:从入门到进阶的实操路径 在数据驱动决策的链条中,“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化:以预测结果为核心的闭环调优路径 在机器学习模型落地中,“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程:协同落地数据驱动价值 在数据驱动决策的实践中,“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代,数据驱动决策已成为企业核心竞争力的关键要素。CDA(Certified Data Analys ...
2025-08-28CDA认证:数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据,当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28