京公网安备 11010802034615号
经营许可证编号:京B2-20210330
深圳市4万台公共运营车辆实时全球定位系统(GPS)数据,每天500万次交通刷卡数据,联通300万号通话位置数据,深圳移动800万号动态位置数据,20万交通监测视频数据……这些数据,每天达到PB(Petabyte,千万亿字节)量级。
深圳市交通运输委员会期望对数据进行分析,以达到治理交通拥堵目的;公安部门希望获得犯罪线索,预防恶性事件发生;深圳市民希望出行更快捷、更方便;电商企业希望提高配送效率,降低配送成本;物流公司希望降低空驶里程,提高物流效益。
“我们能否支持海量异构数据融合?如何进一步快速揭示并利用数据之间的复杂关系?智能终端作为数据的主要来源和表达载体,将何去何从?”中科院深圳先进院先进计算与数字工程研究所(以下简称“数字所”)常务副所长冯圣中告诉记者,“这些挑战,蕴涵着技术创新与产业创新的巨大机遇。”
呈现并不那么简单
中国科学院深圳先进技术研究院(以下简称“先进院”)院长樊建平总结先进院的大数据架构从外到内分四块,分别是可视化引擎、数据计算引擎、数据操作引擎和数据节能引擎。
“大数据技术的意义不在于掌握规模庞大的数据信息,而在于对这些数据进行智能处理,从中分析和挖掘出有价值的结构化的信息。”先进院多媒体集成技术研究中心主任汤晓鸥告诉记者。
“作为最外层的可视化模块,不仅要让人‘看到’数据,更重要的是展示数据里面隐藏的信息。”数字所副所长、可视计算研究中心主任陈宝权在接受《中国科学报》记者采访时表示。
陈宝权举例介绍,一个城市里面蕴涵了三维城市场景数据、交通视频监控数据、出租车GPS轨迹以及市民的社交网络等各种各样的数据。如何把这些数据融合在一起,再提炼有用信息,如同大海捞针般充满挑战;通过可视化手段把数据有效呈现出来,如同打亮了探照灯一样,让重要信息(“针”)从大数据的背景(“海”)中清晰显现。
早在2011年,可视计算研究中心就完成了深圳福田、罗湖、南山和盐田4个区所有街道的三维实景建模。陈宝权告诉记者:“我们有一辆装载着激光扫描仪和360°实景影像系统的车,每天行走于大街小巷,可将街道两旁实景进行数据采集,再进行场景三维建模,从而得到深圳的城市3D模型。”这样的模型是其他城市数据的载体。
陈宝权指出,随着城市、交通、气象等数据容量和复杂性不断增长,可视化的需求将越来越大,依靠可视化手段进行数据分析将会成为业内的标准。
汤晓鸥从自身研究的视觉领域举例:“大规模视觉数据对物体识别、图像检索、视频分析等传统技术提出了巨大挑战,同时也孕育着新的技术方向和产业机会。”
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17