京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据存储平台发展必须具有弹性
大数据已经成为安防行业不能不提的话题,它涵盖了4V面向,分别是处理时效、数据格式、数据量与真实性,通过快速的采集、发现和分析,从大量化、多类别的数据中提取价值。安防大数据时代最显着的特征就是数据共享,提高数据处理能力。粗略计世界至少有1亿个摄像头在角落静静的看着,这样的视频监控将是数据的大生成器。从摄像前端的海量数据和到有效数据之间的也存在矛盾,摄像头不停歇的工作,如实记录镜头覆盖范围发生的一切,但对于客户来讲大部分信息是无效,有效信息可能只分布在一个较短的时间段内,大量的数据存储给数据库带来不小的压力,而无效的数据更是对于资源的浪费。
近日,美国市场研究公司IDC发布报告称,大数据技术和服务的不断升级,拉动全球存储市场将在2011至2016年间实现53%的复合年增长率。在可预见的未来,多数组织产生、处理、存储的数据都将继续保持快速增长。“在可预见的未来,存储是大数据和分析领域最大的基础设施开支之一。”IDC存储系统研究总监阿西什·纳卡尼说,“大数据和分析领域所产生的存储开支将从2011年的3.799亿美元,激增至2016年的60亿美元。”
在受访企业中,有68.6%在选择存储架构时主要看重性能,有59.5%更加看重成本。接近31%的受访企业表示,虽然尚未针对数据分析基础架构部署企业存储系统,但准备在今后6个月内部署。
在实际应用方面,63.7%的受访企业主要借此分析运营数据,还有53.3%主要分析交易数据。IT是数据分析基础架构的最大影响因素,远高于排名第二的运营。有超过61%的受访企业,将提升客户满意度作为数据分析方案所应解决的最大商业挑战。
大数据存储容易出现问题
在大数据时代来临之际,我们面临的挑战还有存储问题。大数据中的大容量通常可达到PB级的数据规模,那么对于海量数据存储系统扩展能力的要求也会很高。以国内某省为例,公共视频监控已经超过100多万个摄像头,总保有量近400万,以此估计,全国摄像头数量不少于4000万,某投行的报告称行业每年还在以20%加速增长,行业龙头海康威视12年的年报披露的销售量就达570万套(含前后端),增长37%。而另一个数据也很惊人,英国的摄像头数量与人口数量之比已经达到1:15。
粗略计世界至少有1亿个摄像头在角落静静的看着,这样的视频监控将是数据的大生成器。从摄像前端的海量数据和到有效数据之间的也存在矛盾,摄像头不停歇的工作,如实记录镜头覆盖范围发生的一切,但对于客户来讲大部分信息是无效,有效信息可能只分布在一个较短的时间段内,大量的数据存储给数据库带来不小的压力,而无效的数据更是对于资源的浪费。
与此同时,存储系统的扩展一定要简便,尽量能通过增加模块或磁盘柜来增加容量,甚至不需要停机。基于这样的需求,客户现在越来越青睐Scale-out架构的存储。Scale-out集群结构的特点是每个节点除了具有一定的存储容量之外,内部还具备数据处理能力以及互联设备,与传统存储系统的烟囱式架构完全不同,Scale-out架构可以实现无缝平滑的扩展,避免存储孤岛。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在使用Excel数据透视表进行数据分析时,我们常需要在透视表旁添加备注列,用于标注数据背景、异常说明、业务解读等关键信息。但 ...
2025-12-22在MySQL数据库的性能优化体系中,索引是提升查询效率的“核心武器”——一个合理的索引能将百万级数据的查询耗时从秒级压缩至毫 ...
2025-12-22在数据量爆炸式增长的数字化时代,企业数据呈现“来源杂、格式多、价值不均”的特点,不少CDA(Certified Data Analyst)数据分 ...
2025-12-22在企业数据化运营体系中,同比、环比分析是洞察业务趋势、评估运营效果的核心手段。同比(与上年同期对比)可消除季节性波动影响 ...
2025-12-19在数字化时代,用户已成为企业竞争的核心资产,而“理解用户”则是激活这一资产的关键。用户行为分析系统(User Behavior Analys ...
2025-12-19在数字化转型的深水区,企业对数据价值的挖掘不再局限于零散的分析项目,而是转向“体系化运营”——数据治理体系作为保障数据全 ...
2025-12-19在数据科学的工具箱中,析因分析(Factor Analysis, FA)、聚类分析(Clustering Analysis)与主成分分析(Principal Component ...
2025-12-18自2017年《Attention Is All You Need》一文问世以来,Transformer模型凭借自注意力机制的强大建模能力,在NLP、CV、语音等领域 ...
2025-12-18在CDA(Certified Data Analyst)数据分析师的时间序列分析工作中,常面临这样的困惑:某电商平台月度销售额增长20%,但增长是来 ...
2025-12-18在机器学习实践中,“超小数据集”(通常指样本量从几十到几百,远小于模型参数规模)是绕不开的场景——医疗领域的罕见病数据、 ...
2025-12-17数据仓库作为企业决策分析的“数据中枢”,其价值完全依赖于数据质量——若输入的是缺失、重复、不一致的“脏数据”,后续的建模 ...
2025-12-17在CDA(Certified Data Analyst)数据分析师的日常工作中,“随时间变化的数据”无处不在——零售企业的每日销售额、互联网平台 ...
2025-12-17在休闲游戏的运营体系中,次日留存率是当之无愧的“生死线”——它不仅是衡量产品核心吸引力的首个关键指标,更直接决定了后续LT ...
2025-12-16在数字化转型浪潮中,“以用户为中心”已成为企业的核心经营理念,而用户画像则是企业洞察用户、精准决策的“核心工具”。然而, ...
2025-12-16在零售行业从“流量争夺”转向“价值深耕”的演进中,塔吉特百货(Target)以两场标志性实践树立了行业标杆——2000年后的孕妇精 ...
2025-12-15在统计学领域,二项分布与卡方检验是两个高频出现的概念,二者都常用于处理离散数据,因此常被初学者混淆。但本质上,二项分布是 ...
2025-12-15在CDA(Certified Data Analyst)数据分析师的工作链路中,“标签加工”是连接原始数据与业务应用的关键环节。企业积累的用户行 ...
2025-12-15在Python开发中,HTTP请求是与外部服务交互的核心场景——调用第三方API、对接微服务、爬取数据等都离不开它。虽然requests库已 ...
2025-12-12在数据驱动决策中,“数据波动大不大”是高频问题——零售店长关心日销售额是否稳定,工厂管理者关注产品尺寸偏差是否可控,基金 ...
2025-12-12在CDA(Certified Data Analyst)数据分析师的能力矩阵中,数据查询语言(SQL)是贯穿工作全流程的“核心工具”。无论是从数据库 ...
2025-12-12