京公网安备 11010802034615号
经营许可证编号:京B2-20210330
活用大数据,创造应用价值
大数据(BigData)近年来已成为业界最炙手可热的话题之一,在大数据时代,企业不仅需要提升储存容量与数据管理能力,更重要的是,要设法从庞大、多元格式的数据海洋中,挖掘出数据的极致价值,进而创造新的商业机会与营运决策。
国立台北商业技术学院教授邹庆士指出,大数据是个大议题,大家其实都还在学习阶段,但可以确定的是,对电脑而言,最有价值的东西已经不再是硬体,而是数据,许多产品及应用也都是以数据为基础,才能进一步产生重大价值。
邹庆士指出,大数据的主要应用,仍是以数据探勘为主,但跟过去相比,特点在于数据量变得非常大,但大数据不见得数大就是美,容量大小还可以靠技术来解决,整理的时间则因为变得非常长,已经成为数据分析的困扰。邹庆士认为,唯有从数据分析的本质开始思考,才能真正深入大数据这个议题。
邹庆士甚至认为,就像Web 1.0是建立网站,Web 2.0则是经营网站,现在的大数据应用,应该要进入「大数据2.0」的时代。在「大数据1.0」的时代,数据是靠IT科技来建立,后来则是透过统计领域或机器学习模式,来建立模式,但现在需要的是达到视觉化及诠释数据的能力。邹庆士认为,在大数据1.0,需要的是掌握新技术与系统,但在大数据2.0,需要培育新型数据分析人才。
若从数据探勘角度来思考,为了要让大数据发挥价值,以数据为基础来做决策,首先要注意的是,数据探勘是一个跨领域的科学,涉及统计、AI、MachineLearning等,必须将来自于不同领域的数据收集起来后,才能整合调理得出结论。
邹庆士将跨产业的数据探勘过程,简化成三个步骤,分别是数据预先处理、数据探勘及后处理,其中又以第一个阶段花最多的时间,邹庆士表示,前置处理非常重要,才不会在后面产生问题,导致「垃圾进、垃圾出」的数据输出结果。
至于第二阶段的主要工作,分别是预测(Predictive)、群集(Cluster)、关联、异常等管理为主。但回到数据分析的根本,邹庆士认为,第一步要先做到数据有感,才知道该怎么对待数据;第二步是数据混搭,要懂很多不同的模式,知道每一个模式建模的特性,最后才能落实想法,先后完成模型混搭及雏型化工具,再一步步放大,但一定要建立在商业理解上。
邹庆士还将大数据的属性分成四类,第一类是名目尺度(nominal),如身分证号码、眼色、邮递区号,特征是仅能比较异同;第二类是顺序尺度(ordinal),如排名、年级、高度等,特称是能够分别顺讯;第三类是区间指度(interval),如日期、温度等,特征为有绝对零点,差异或距离都有其意义;第四类为比例尺度(ratio),如长度、时间、次数等,特征为有自然零点,比率有其意义。
邹庆士强调,每一类的处理方式都不同,运算的方式也因此会有适用的领域,不能随便乱用。数据集类型则分为三种,分别是记录数据(如数据矩阵、文件或交易数据)、图形数据(如全球资讯网或分子结构)及有序数据(如时间、次序、间或基因序列数据等),邹庆士指出,大数据时代要面对的数据不只一种,而是多元的数据来源。
大数据时代的数据来源,其实是充斥在每个领域,包括推文串流、网页伺服器记录等。邹庆士指出,其实重点不在找数据,而是如何混搭各方来源数据,进行混模加值。
因此,邹庆士建议,面对大数据时代,企业要练就数据柔术(DataJiujtsu),好的数据人才,不能只是懂科技,而是要涉猎许多领域,才有办法将大问题分解成小问题,不用立即处理海量数据,做到小处着眼,反覆加值,以机敏弹性的流程,逐步迈向目标。
邹庆士指出,R工具的出现,就是要因应前述的需求,目前已有5,000多个套件,而且支持开放源,所有的演算逻辑都是公开的,可以藉此了解其他工程师的思维。
但在使用工具解决大数据的问题时,邹庆士认为要注意三个议题,分别是撰写有效率的程式,提高执行速度;将数据储存在外部,以避免记忆体受限的问题;运用专门的统计程序,以有效率的方式分析大量数据。
但不管是什么工具,都会一直不断地在演化,邹庆士指出,要特别注意工具的发展,工作才会有效率。此外,大数据分析要能伸缩自如,可大可小,数据分析的思维,一定要回到数据本身的属性,如纷丝团经营指标最佳权重,数据栏位超过90个,所以在开始进行大数据分析时,第一个步骤反而是删除不必要的栏位。
邹庆士指出,活化大数据应用价值的关键,主要是加强个人与组织的数据分析思考能力,唯有将数据、程式及人的智慧加以整合,才会产生价值。企业还必须要能活化顾客留下的数据轨迹,因为价值的关键在于应用。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数字化时代,用户的每一次操作——无论是电商平台的“浏览-加购-下单”、APP的“登录-点击-留存”,还是金融产品的“注册-实名 ...
2026-01-13在数据驱动决策的时代,“数据质量决定分析价值”已成为行业共识。数据库、日志系统、第三方平台等渠道采集的原始数据,往往存在 ...
2026-01-13在CDA(Certified Data Analyst)数据分析师的核心能力体系中,“通过数据建立模型、实现预测与归因”是进阶关键——比如“预测 ...
2026-01-13在企业数字化转型过程中,业务模型与数据模型是两大核心支撑体系:业务模型承载“业务应该如何运转”的逻辑,数据模型解决“数据 ...
2026-01-12当前手游市场进入存量竞争时代,“拉新难、留存更难”成为行业普遍痛点。对于手游产品而言,用户留存率不仅直接决定产品的生命周 ...
2026-01-12在CDA(Certified Data Analyst)数据分析师的日常工作中,“挖掘变量间的关联关系”是高频核心需求——比如判断“用户停留时长 ...
2026-01-12在存量竞争时代,用户流失率直接影响企业的营收与市场竞争力。无论是电商、互联网服务还是金融行业,提前精准预测潜在流失用户, ...
2026-01-09在量化投资领域,多因子选股是主流的选股策略之一——其核心逻辑是通过挖掘影响股票未来收益的各类因子(如估值、成长、盈利、流 ...
2026-01-09在CDA(Certified Data Analyst)数据分析师的工作场景中,分类型变量的关联分析是高频需求——例如“用户性别与商品偏好是否相 ...
2026-01-09数据库中的历史数据,是企业运营过程中沉淀的核心资产——包含用户行为轨迹、业务交易记录、产品迭代日志、市场活动效果等多维度 ...
2026-01-08在电商行业竞争日趋激烈的当下,数据已成为驱动业务增长的核心引擎。电商公司的数据分析师,不仅是数据的“解读官”,更是业务的 ...
2026-01-08在数据驱动决策的链路中,统计制图是CDA(Certified Data Analyst)数据分析师将抽象数据转化为直观洞察的关键载体。不同于普通 ...
2026-01-08在主成分分析(PCA)的学习与实践中,“主成分载荷矩阵”和“成分矩阵”是两个高频出现但极易混淆的核心概念。两者均是主成分分 ...
2026-01-07在教学管理、学生成绩分析场景中,成绩分布图是直观呈现成绩分布规律的核心工具——通过图表能快速看出成绩集中区间、高分/低分 ...
2026-01-07在数据分析师的工作闭环中,数据探索与统计分析是连接原始数据与业务洞察的关键环节。CDA(Certified Data Analyst)作为具备专 ...
2026-01-07在数据处理与可视化场景中,将Python分析后的结果导出为Excel文件是高频需求。而通过设置单元格颜色,能让Excel中的数据更具层次 ...
2026-01-06在企业运营、业务监控、数据分析等场景中,指标波动是常态——无论是日营收的突然下滑、用户活跃度的骤升,还是产品故障率的异常 ...
2026-01-06在数据驱动的建模与分析场景中,“数据决定上限,特征决定下限”已成为行业共识。原始数据经过采集、清洗后,往往难以直接支撑模 ...
2026-01-06在Python文件操作场景中,批量处理文件、遍历目录树是高频需求——无论是统计某文件夹下的文件数量、筛选特定类型文件,还是批量 ...
2026-01-05在神经网络模型训练过程中,开发者最担心的问题之一,莫过于“训练误差突然增大”——前几轮还平稳下降的损失值(Loss),突然在 ...
2026-01-05