京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据资源体系让大数据发挥大价值
大数据的时代已经到来,并且大数据在未来的时间内将影响着政府、企业以及个人的工作与生活,在此环境下,数据将成为与人财物比肩的资源,面对如此宝贵的财富,如何让大数据发挥大价值已经成为政府、企业以及信息化厂商急需解决的问题,同方在国内率先提出数据资源体系的概念,通过数据资源体系让大数据发挥大价值。
如何发挥数据的价值 众所周知,大数据的时代已经到来,在大数据时代,数据的存储也好、数据的整合加工、分析挖掘也罢,都是为了使用数据,让数据发挥最大价值,现阶段在政府机关及企业中对数据进行挖掘分析让其发挥最大价值的方法主要有两种,一种是信息化程度较高,技术实力较强的政府机关或企业,通过自有的技术让数据发挥最大的价值,典型的代表如国外的沃尔玛、亚马逊、谷歌等公司,国内的阿里巴巴、百度等公司,这些公司在数据存储、整合加工、分析挖掘及应用方面有业内较好且领先的技术,但是所具有的技术都是为了满足自身业务发展的需要而开发设计,不对外公布;另一种是采用市场中主流的一些数据挖掘工具、数据分析工具、商业智能工具对已有的数据进行相关的挖掘、分析,让其产生价值,采用此类方法进行数据整合加工、分析挖掘的用户,可以达到初步的数据分析要求,但是由于其涉及的数据量巨大、数据种类众多、数据结构复杂、数据之间相互独立缺少关联关系、数据覆盖的业务面较广,仅是通过一些数据分析挖掘工具很难让已有数据发挥其最大价值。
因此,让大数据发挥最大价值,不仅要采用数据分析挖掘等相关工具,更重要的是从数据的本质和数据所描述的业务出发,规划和整理数据,建立起数据之间相互的关联关系,并体系化对数据进行管理,才有可能让数据源源不断的、最大化的发挥其价值。 同方在大数据领域率先提出了数据资源体系的概念,数据资源体系的形成是对数据进行规划设计,围绕用户的核心目标,采用顶层设计的方法对核心目标进行层层的分解,形成可落实各层级目标的指标体系,并且以指标体系为基础,形成可描述业务、存储数据、描述数据的元数据体系,并且以元数据体系为指导,形成一套即可以满足用户各层级的应用需求,又能够让数据源源不断、最大化发挥价值的数据资源体系。 数据资源体系的形成,首先要对数据进行资源化,然后将数据资源进行体系化管理,下面将对数据资源体系的形成进行详细分析。
如何让数据“资源化” 首先,数据是资源,是可以与人、财、物比肩的资源,更进一步数据已形成与石油、煤炭等相当的战略资源,与其他资源相同,数据也需要采用科学的方法进行开采、挖掘才可能发挥出其应有的价值,与其他资源不同的是,数据是可再生、可重复利用的资源,并且只要通过科学的方法和技术对数据进行挖掘,就可以让数据源源不断的发挥他的价值。中国的信息化产业经过近几十年的发展,在各行业、各领域已经积累了大量的数据,据有关机构调查,这些已经产生的数据中95%以上的数据都存放在各自的存储设备或硬盘中,自产生之后就没有经过任何使用,一直属于沉睡状态,因此,这些数据也就不产生任何价值,也就不能称之为资源。对于此类数据如不能让其成为资源,并发挥价值,对于数据的拥有者来说,数据的存储与维护将会无止境的投入,这些无价值的投入将会给数据的拥有者带来巨大的负担,而这个负担又不能丢弃,必须由数据拥有者来承担,因为这些数据的拥有者始终认为,这些数据是其拥有的具有无限价值的资源,如何唤醒这些沉睡中的数据,并让其真正意义上成为资源是现阶段各行业、各领域的数据拥有者都在思考,并力争解决的问题。
对于以上问题的解决,首先需要将沉睡的数据唤醒,也就是将数据进行资源化,让其真正意义上成为数据资源,并将所形成的数据资源进行体系化管理,最终形成数据资源体系。分析以上问题,数据不能形成资源,不能发挥其价值的原因主要有以下两点: 第一、已经存在的数据相互独立,没有建立相互的关联关系,而数据价值的产生往往需要从多维度、多角度分析相关数据才可能会挖掘出其价值; 第二、数据的存储与使用缺乏统一的规划设计,已有的数据大多数来源于是已经建立的各类业务系统,而各业务系统都是为了满足各自业务板块的需要而建立,缺乏统一的规划和设计,因此,对于已有数据的存储和使用以及新生数据的存储和使用缺乏统一的规划和设计。
因此,将数据形成数据资源主要需要解决以上两个问题,对于数据的统一规划和设计同方采用顶层设计的方法,从用户的核心目标出发,站在全局的角度规划和设计数据采集、存储、整合加工、分析挖掘及应用等方面的标准和规则,并通过顶层设计的方法将核心目标自顶向下进行层层分解,分解为一系列具体的工作目标和工作任务,层层贯彻实施,并通过工作部署、跟踪、监测、评价、调整、反馈等一系列手段和措施,确保各项工作与核心目标保持一致,并且将已经产生或以后产生的数据规划到各层级目标及任务中,在此过程中,将纳入到规划体系内的数据通过指标和元数据的方法进行描述,将数据分解为“细粒度的数据元素+相对粗粒度的数据集及其组织结构描述”,把数据元素(最小的不可再分的信息单元)做为数据资源的最小描述与管理单位,基于各种数据元素的按需组合形成面向实际业务、管理、服务需要的数据集并对数据集的构成形式和组织关系提供统一规范的描述形式,形成粗粒度的资源管理单元,再把数据元素和数据集用资源管理的手段和方法组织在一起,实现数据的资源化。 如何让数据资源体系化 数据要发挥价值,首先是将数据形成资源,对于已经形成的数据资源只有通过科学的技术和方法进行管理和使用才可以不断的发挥数据资源的价值,在此过程中对于数据资源的不断使用,需要一个科学合理的管理和保障体系做支撑,才能让数据资源源源不断的发挥最大价值,因此需要将已形成的数据资源进行体系化管理,从而形成数据资源体系。
让数据资源体系化,首先对于体系的规划设计也要采用顶层设计的方法,围绕着组织的核心目标,将已经形成的数据资源进行规划和设计,将已经通过指标与元数据描述的数据资源按照统一的规划设计形成指标体系,并以指标体系为基础形成元数据体系,以指标体系、元数据体系为指导逐步完成数据的采集、整合加工、综合应用、共享发布、信息服务与推送等一系列数据资源生产的流程,从而将整个过程形成一套完整的体系,即数据资源体系。 数据资源体系让数据发挥价值 在形成的数据资源体系中,扩展是全方位的,指标可以通过扩充其属性来不断完善,并可以通过资源管理手段进行扩充和增加,以此支持数据元素级别的资源增长;而数据集更是可以随时按需创建,只要数据元素足够全面,针对每一业务需要都可以创建一个特定的数据集来全面支撑,这样就可以最大程度的满足各种不同的数据层面需求,从而最大程度发挥数据的价值。
小结 大数据时代已经来临,政府机关及企事业单位对于数据价值挖掘的需求也越来越多,发挥数据的价值,不仅仅是使用数据分析挖掘工具,更应该从对数据的规划设计做起,通过数据资源体系为数据源源不断发挥其最大价值打好最结实的基础,最终让大数据发挥数据的最大价值。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型搭建中,“最后一层是否添加激活函数”是新手常困惑的关键问题——有人照搬中间层的ReLU激活,导致回归任务输出异 ...
2025-12-05在机器学习落地过程中,“模型准确率高但不可解释”“面对数据噪声就失效”是两大核心痛点——金融风控模型若无法解释决策依据, ...
2025-12-05在CDA(Certified Data Analyst)数据分析师的能力模型中,“指标计算”是基础技能,而“指标体系搭建”则是区分新手与资深分析 ...
2025-12-05在回归分析的结果解读中,R方(决定系数)是衡量模型拟合效果的核心指标——它代表因变量的变异中能被自变量解释的比例,取值通 ...
2025-12-04在城市规划、物流配送、文旅分析等场景中,经纬度热力图是解读空间数据的核心工具——它能将零散的GPS坐标(如外卖订单地址、景 ...
2025-12-04在CDA(Certified Data Analyst)数据分析师的指标体系中,“通用指标”与“场景指标”并非相互割裂的两个部分,而是支撑业务分 ...
2025-12-04每到“双十一”,电商平台的销售额会迎来爆发式增长;每逢冬季,北方的天然气消耗量会显著上升;每月的10号左右,工资发放会带动 ...
2025-12-03随着数字化转型的深入,企业面临的数据量呈指数级增长——电商的用户行为日志、物联网的传感器数据、社交平台的图文视频等,这些 ...
2025-12-03在CDA(Certified Data Analyst)数据分析师的工作体系中,“指标”是贯穿始终的核心载体——从“销售额环比增长15%”的业务结论 ...
2025-12-03在神经网络训练中,损失函数的数值变化常被视为模型训练效果的“核心仪表盘”——初学者盯着屏幕上不断下降的损失值满心欢喜,却 ...
2025-12-02在CDA(Certified Data Analyst)数据分析师的日常工作中,“用部分数据推断整体情况”是高频需求——从10万条订单样本中判断全 ...
2025-12-02在数据预处理的纲量统一环节,标准化是消除量纲影响的核心手段——它将不同量级的特征(如“用户年龄”“消费金额”)转化为同一 ...
2025-12-02在数据驱动决策成为企业核心竞争力的今天,A/B测试已从“可选优化工具”升级为“必选验证体系”。它通过控制变量法构建“平行实 ...
2025-12-01在时间序列预测任务中,LSTM(长短期记忆网络)凭借对时序依赖关系的捕捉能力成为主流模型。但很多开发者在实操中会遇到困惑:用 ...
2025-12-01引言:数据时代的“透视镜”与“掘金者” 在数字经济浪潮下,数据已成为企业决策的核心资产,而CDA数据分析师正是挖掘数据价值的 ...
2025-12-01数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27