京公网安备 11010802034615号
经营许可证编号:京B2-20210330
在日常生活中,我们要使用大量的应用程序来生成新的数据、变更数据、删除数据,当然在大多数的情况下我们还要查阅和分析数据。就来想象一个收发 email 的简单应用程序吧。我们已经存储了地址信息,可能还存储了一些文档。我们可以决定是否存储已经发送过的邮件,但是也可能隔一段时间后将其删除,或者删除已经发送过的所有邮件。那么我们该如何处理一段时间以前删除或者修改过的地址呢?我们再也不会看到它们了。
Email 程序大部分都属于不是很复杂的数据库,但是完全可以将其看作一个在单用户环境下的 OLTP(在线事务处理系统)简单示例。它使用了所有的所谓访问数据的操作 CRUD(创建、读取、更新、删除)。当数据存储达到一定量的时候,规模就会几乎保持不变,因为可以从存储中删除过期数据。
数据仓库就完全是一种不同种类的应用程序。它并不是用来运行当前的操作,例如发送邮件。它是用来分析数据并且从现有数据中发现新的价值,主要是用来预测未来的情况。数据仓库并不是解决所有问题的通用结构。它必须集中于某一问题领域,例如航空服务、顾客收益等。
数据仓库也有有趣的一面,那就是数据库本身是稳定增长的。数据没有被删除,也不发生变更。我们不需要将冗余数据置于数据库之外(因为加入仓库中的数据经过了数据净化的过程,该过程检查了数据的正确性)来减少复杂性同时增强读取操作的性能。
为了能够对数据仓库中的数据进行分析,数据存储于一个多维结构中,叫做星型模式。如果将星型模式扩展,就会得到雪花模式。本白皮书将会阐述如何使用IBM Rational Rose进行星型模式建模和雪花模式建模。
为了更好地解释如何对数据仓库建模,本白皮书将使用一个简单数据集市的的例子(即一个数据仓库或者数据仓库的一部分),来分析旅客乘坐航班 Happy Flying and Landing(愉快飞行平安降落)的行为和满意程度。
我们将存储乘客信息和每个航班的的相关数据、选择的菜单以及乘客对飞行的满意程度。
回页首
数据仓库引入了新的术语,扩展了数据建模的术语表。为使本文的阐述能够完备,下面我介绍一下最常用的术语。
数据仓库是一个支持管理决策的数据集合。数据是面向主题的、集成的、不易丢失的并且是时间变量。
数据仓库是所有操作环境和外部数据源的快照集合。它并不需要非常精确,因为它必须在特定的时间基础上从操作环境中提取出来。
数据仓库只限于单个主题的区域,例如顾客、部门、地点等。数据集市在从数据仓库获取数据时可以依赖于数据仓库,或者当它们从操作系统中获取数据时就不依赖于数据仓库。
事实是数据仓库中的信息单元,也是多维空间中的一个单元,受分析单元的限制。
事实存储于一张表中(当使用关系数据库时)或者是多维数据库中的一个单元。
每个事实包括关于事实(收入、价值、满意记录等)的基本信息,并且与维度相关。
在某些情况下,当所有的必要信息都存储于维度中时,单纯的事实出现就是对于数据仓库足够的信息。我们稍后讨论有关缺无事实的情况。
维度是绑定由坐标系定义的空间的坐标系的轴线。数据仓库中的坐标系定义了数据单元,其中包含事实。
坐标系的一个例子就是带有 x 维度和 y 维度的 Cartesian(笛卡尔)坐标系。
在数据仓库中,时间总是维度之一。
在数据仓库的数据中发现新信息的过程被称为数据挖掘,这些新信息不会从操作系统中获得。
分析空间是数据仓库中一定量的数据,用于进行数据挖掘以发现新信息同时支持管理决策。
一种用来在数据仓库中将一个维度中的分析空间限制为数据子集的技术。
一种用来在数据仓库中将多个维度中的分析空间限制为数据子集的技术。
一种使用关系数据库实现多维分析空间的模式,称为星型模式。
星型模式将在本白皮书中稍后进行进一步讨论。
不管什么原因,当星型模式的维度需要进行规范化时,星型模式就演进为雪花模式。
回页首
星型模式的基本形式必须实现多维空间(常常被称为方块),以使用关系数据库的基本功能。
首先,我们需要理解多维空间。
几何学中的方块是指一个三维空间,其中每个维度的尺寸都相同。想象一个立方体,每个维度都有三个单元,我们即得到相同结构的33=27个单元。
多维分析空间(或者数据仓库方块)与几何空间中的方块仅仅存在细节上的差异。
维度不仅限于 3 维。不过,处理很多维度的立方体也不是件轻松的事情,这会导致大多数的实现被限制于 6 或者 7 维。不要期盼使用图形可以很好地表示超过 4 的维度--如果您有幸能发现一种方法,别忘了告诉我一下。
维度并不具有相同的规模和单元。规模从几个单元到几百万个单元,差别巨大。单元可以是一天、一位顾客、部门等。
单元,相当于子方块(1×1×1等),包含事实。
数据立方体需要很大的内存以存储所有事实。无论是否包含事实,都必须要预留单元。
这就是为什么使用关系数据库和星型模式的原因。使用它们能够优化存储并且保持数据结构的灵活性。
星型模式的基本思想就是保持立方体的多维功能,同时也增加了小规模数据存储的灵活性。
在图3中,星型模式使用事实 Flight 表示了一个 4 维方块(Passenger、Menu、Flight Schedulet 和 Time)。基本上,事实必须指定一个维度,以将其放入立方体的单元中。
我们的例子中的维度是:
Passenger,描述了飞行航程中的每位乘客,由经常飞行号(frequent flyer number)指定。不是经常乘坐飞机的乘客不是数据仓库的一部分。
Flight Schedule,是指所有常规飞行的日程。
Menu,是用于飞行的菜单。只有对菜单进行基本的分类才会对数据挖掘有重要意义。
Time,是指飞行的时间。
事实 Flight 描述了乘客在唯一的 Time 的单程飞行上选择 Menu。
分析空间可以是完整的方块,或者我们可以根据维度将分析空间分割成小片。
每个维度根据一个对象进行描述,对象可以用类表示,这些类就是有关业务主题的名称。这一点对于成功建立数据仓库来说是很重要的,因为仓库的用户(经理、分析员、市场)对于信息技术的术语并不是很熟悉。
事实本身就是商业智能的另一个对象,仍然通过类进行表示。
事实指每个维度。事实与维度的关联常常是一对任意,这也就意味着每个事实都与单个维度的一个单元准确对应,而维度的每个单元(每个Passenger、Time等)可以与任意数量的事实发生关联(包括0个事实)。
使用 Rational Rose 将对象模型转换为数据模型即完成了星型模式的实现。这里我们可以看到转换后的结果。
在图4中,没有显示自动创建的主键和外键约束。
星型模式的维度是独立的表。当对象模型转换为数据模型时,Rational Rose 可以生成维度的主键。
事实表指从维度表中使用键迁移的维度,当生成数据模型时 Rational Rose 可以生成外键。
在星型模式中切片和切块是对维度的限制(选择)。这是一个运行时问题,而不是建模问题,但是模型必须分辨其需要。
基本的星型模式并不能满足数据挖掘的所有需要。我们需要更复杂的维度,例如时间。分析员希望根据周、月、季度等识别模式。
维度必须进行规范化。我们不需要冗余的维度表,这只会使数据切片变得更加复杂。这种过程中我们得到的模式被称为雪花模式。
我们来看一个简单的雪花模式例子。我们将时间维度规范化为周、月和季度。
我们希望能够使用附加的规范化维度将立方体切片:周、月和季度。在本例中,我们假定季度是月的平行层次,这也就意味着我们不能将季度假定为若干月的聚合。由于这个原因,我们将使用一张范化表(是对 OLAP 查询的一项简单附加)预先选择时间维度。
最终雪花模式添加了规范化维度。
当然,所有的维度都可以像时间例子那样进行规范化,这就导致了比较复杂的数据集市模式的出现。
由 Rational Rose 从雪花模式中开发的实现模式(数据模型)是完善的。
创建的约束在图中也没有显示。
雪花模式中可以存在切片,不仅仅在基本的 Time 维度上,也可以在规范化的 Week、Month 和 Quarter 维度上。
在一次飞行中,我们不仅仅只吃一顿饭。在长途飞行中可能要多次用餐。在这种情况下,我们认为事实 Flight 和 Menu 维度不是一对多的关联。我们必须使用多对多关联。不过,这种关联不可能在星型模式中实现。
雪花模式的一种特殊形式是使用一种必要的数据结构以满足这项要求。
首先,我们将模型变更为事实和维度间的多对多关联。使用 Rational Rose,这只是关联基数的变更。
我们无法在关系数据库中实现多对多关联。实现多对多关联需要使用另一种雪花模式。
在下图中,我们关注一下已经开发的雪花模式的一部分,该部分处理多对多维度。
Rational Rose 生成了附加的维度表 FlightMenu,它是指 Menu 维度和 Flight 事实。
确定关系用于解决多对多关联。
对于雪花模式的架构师来说,最重要的一点就是识别多对多关系。简单对象视图可能会使设计员理解概念,而生成的数据视图有助于进一步深入有关实现的问题。
数据挖掘可以从隐藏在操作系统表面下的数据中发现信息。我们想了解的一个问题就是选定菜单与乘客统计资料之间的依赖关系。
乘客统计资料数据可以在 Passenger 维度的层次上构建。乘客可以根据邮政编码分组,然后再按国家进行分组。
层次通过使用聚合来指定。聚合定义了所包括的内容。Country 包含了 ZIP 编码,ZIP 编码包含了多名 Passenger 信息。
最终通过使用外键实现了聚合。
点击查看大图
生成的约束仍然没有在图中表示出来。
使用聚合,维度可以在任何定义的级别上使用。分析空间可以通过 Passenger、ZIP Code或者 Country 进行切片。
随着数据仓库架构师不断地添加细节内容,雪花模式变得越来越复杂。因此设计过程必须在到达某种程度后停止以保持数据仓库运行良好。
星型或者雪花模式仍然仅仅关注于一个事实--在本例中就是Flight。那么复杂关系又是什么情况呢?
对于每个事实我们都必须设计其各自的模式。如果我们想要进行复杂查询的话,它们就必须具有共同的维度--我们称其为一致的维度。
让我们使用 Pilot 作为一个维度,PilotFlight 作为一个事实来定义第二个星型模式。我们还要使用附加的 Flight Schedule 维度和 Time 维度。
第二个模式可以单独使用或者与 Passenger 模式结合使用,从而根据使用一致维度的飞行员维度来查询 Passenger 的满意程度。
即使在使用一致维度的数据仓库的简单结构中,Pilot 与 Passenger 之间的关系也是简单的。
在开发数据模型时,数据仓库将大量小型星型模式与雪花模式相结合形成了大型的数据仓库模式。
我们想要评估乘客对于飞行的满意率。可以使用不满意到很满意几个级别进行评定。评定记录存放在事实表 Flight 中作为一个属性(列)。
如果我们想要得出一个平均记录,那么就必须为记录定义值以进行计算。我们可以将记录分为 0 到 10 级。这样就可以得到一个平均记录。平均值应该存储在维度表中,以用于简单的切片,其中我们只想进行一维切片。
Rational Rose 根据目标数据库的数据类型生成了实现属性。对象模型是用来定义数据库的数据源的。
IBM Rational Rose 是设计数据仓库实现的最佳工具。
对象模型定义了有关模式的全局结构的对象,和包括数据源的整体数据仓库。它代表了数据仓库中有关视图的对象,同时隐藏了实施细节。
数据模型是数据仓库的实现模型。数据模型可以从对象模型中生成,反之亦然。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 1. 销售漏斗阶段判断 题目:销售漏斗模型中,通过广告、社交媒体等方式触达品牌信息(如浏览品 ...
2026-09-07在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02数据分析的核心并非单纯操作工具、整理报表或绘制图表,而是依靠科学的思维逻辑挖掘数据价值、解释业务现象、指导经营决策。在完 ...
2026-09-02在社会经济、产业研究、区域治理与大数据实证分析中,面板数据是最具研究价值的数据类型。面板数据同时包含截面维度与时间维度信 ...
2026-09-02 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-09-02在数据驱动决策的体系中,数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中,诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能,Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时,常常感到“知道要分析,却不知道用什么方法”。其实,数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中,自增ID是数据表最常用的主键字段,用于唯一标识每一条业务数据,正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中,平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中,最常 ...
2026-08-31在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31