京公网安备 11010802034615号
经营许可证编号:京B2-20210330
深圳市4万台公共运营车辆实时全球定位系统(GPS)数据,每天500万次交通刷卡数据,联通300万号通话位置数据,深圳移动800万号动态位置数据,20万交通监测视频数据……这些数据,每天达到PB(Petabyte,千万亿字节)量级。
深圳市交通运输委员会期望对数据进行分析,以达到治理交通拥堵目的;公安部门希望获得犯罪线索,预防恶性事件发生;深圳市民希望出行更快捷、更方便;电商企业希望提高配送效率,降低配送成本;物流公司希望降低空驶里程,提高物流效益。
“我们能否支持海量异构数据融合?如何进一步快速揭示并利用数据之间的复杂关系?智能终端作为数据的主要来源和表达载体,将何去何从?”中科院深圳先进院先进计算与数字工程研究所(以下简称“数字所”)常务副所长冯圣中告诉记者,“这些挑战,蕴涵着技术创新与产业创新的巨大机遇。”
呈现并不那么简单
中国科学院深圳先进技术研究院(以下简称“先进院”)院长樊建平总结先进院的大数据架构从外到内分四块,分别是可视化引擎、数据计算引擎、数据操作引擎和数据节能引擎。
“大数据技术的意义不在于掌握规模庞大的数据信息,而在于对这些数据进行智能处理,从中分析和挖掘出有价值的结构化的信息。”先进院多媒体集成技术研究中心主任汤晓鸥告诉记者。
“作为最外层的可视化模块,不仅要让人‘看到’数据,更重要的是展示数据里面隐藏的信息。”数字所副所长、可视计算研究中心主任陈宝权在接受《中国科学报》记者采访时表示。
陈宝权举例介绍,一个城市里面蕴涵了三维城市场景数据、交通视频监控数据、出租车GPS轨迹以及市民的社交网络等各种各样的数据。如何把这些数据融合在一起,再提炼有用信息,如同大海捞针般充满挑战;通过可视化手段把数据有效呈现出来,如同打亮了探照灯一样,让重要信息(“针”)从大数据的背景(“海”)中清晰显现。
早在2011年,可视计算研究中心就完成了深圳福田、罗湖、南山和盐田4个区所有街道的三维实景建模。陈宝权告诉记者:“我们有一辆装载着激光扫描仪和360°实景影像系统的车,每天行走于大街小巷,可将街道两旁实景进行数据采集,再进行场景三维建模,从而得到深圳的城市3D模型。”这样的模型是其他城市数据的载体。
陈宝权指出,随着城市、交通、气象等数据容量和复杂性不断增长,可视化的需求将越来越大,依靠可视化手段进行数据分析将会成为业内的标准。
汤晓鸥从自身研究的视觉领域举例:“大规模视觉数据对物体识别、图像检索、视频分析等传统技术提出了巨大挑战,同时也孕育着新的技术方向和产业机会。”
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析与建模中,“显性特征”(如用户年龄、订单金额、商品类别)是直接可获取的基础数据,但真正驱动业务突破的往往是 “ ...
2025-11-07在大模型(LLM)商业化落地过程中,“结果稳定性” 是比 “单次输出质量” 更关键的指标 —— 对客服对话而言,相同问题需给出一 ...
2025-11-07在数据驱动与合规监管双重压力下,企业数据安全已从 “技术防护” 升级为 “战略刚需”—— 既要应对《个人信息保护法》《数据安 ...
2025-11-07在机器学习领域,“分类模型” 是解决 “类别预测” 问题的核心工具 —— 从 “垃圾邮件识别(是 / 否)” 到 “疾病诊断(良性 ...
2025-11-06在数据分析中,面对 “性别与购物偏好”“年龄段与消费频次”“职业与 APP 使用习惯” 这类成对的分类变量,我们常常需要回答: ...
2025-11-06在 CDA(Certified Data Analyst)数据分析师的工作中,“可解释性建模” 与 “业务规则提取” 是核心需求 —— 例如 “预测用户 ...
2025-11-06在分类变量关联分析中(如 “吸烟与肺癌的关系”“性别与疾病发病率的关联”),卡方检验 P 值与 OR 值(比值比,Odds Ratio)是 ...
2025-11-05CDA 数据分析师的核心价值,不在于复杂的模型公式,而在于将数据转化为可落地的商业行动。脱离业务场景的分析只是 “纸上谈兵” ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-05教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-04【2025最新版】CDA考试教材:CDA教材一级:商业数据分析(2025)__商业数据分析_cda教材_考试教材 (cdaglobal.com) ...
2025-11-04在数字化时代,数据挖掘不再是实验室里的技术探索,而是驱动商业决策的核心能力 —— 它能从海量数据中挖掘出 “降低成本、提升 ...
2025-11-04在 DDPM(Denoising Diffusion Probabilistic Models)训练过程中,开发者最常困惑的问题莫过于:“我的模型 loss 降到多少才算 ...
2025-11-04在 CDA(Certified Data Analyst)数据分析师的工作中,“无监督样本分组” 是高频需求 —— 例如 “将用户按行为特征分为高价值 ...
2025-11-04当沃尔玛数据分析师首次发现 “啤酒与尿布” 的高频共现规律时,他们揭开了数据挖掘最迷人的面纱 —— 那些隐藏在消费行为背后 ...
2025-11-03这个问题精准切中了配对样本统计检验的核心差异点,理解二者区别是避免统计方法误用的关键。核心结论是:stats.ttest_rel(配对 ...
2025-11-03在 CDA(Certified Data Analyst)数据分析师的工作中,“高维数据的潜在规律挖掘” 是进阶需求 —— 例如用户行为包含 “浏览次 ...
2025-11-03在 MySQL 数据查询中,“按顺序计数” 是高频需求 —— 例如 “统计近 7 天每日订单量”“按用户 ID 顺序展示消费记录”“按产品 ...
2025-10-31在数据分析中,“累计百分比” 是衡量 “部分与整体关系” 的核心指标 —— 它通过 “逐步累加的占比”,直观呈现数据的分布特征 ...
2025-10-31在 CDA(Certified Data Analyst)数据分析师的工作中,“二分类预测” 是高频需求 —— 例如 “预测用户是否会流失”“判断客户 ...
2025-10-31