第 4卷第 2期
2005年 6月
长沙通信职业技术学院学报
Journal of Changsha Telecommunications
and Technology Vocational College
Vo1.4 No.2
Jun.2005
数据 仓 库 与 数 据 仓库 工 具
潘 景 新
(韶关学院信息工程学院,广东韶关 512005)
【摘 要】数据仓库是数据库技术的一个新的发展方向。文章介绍了数据仓库的特点和数据仓库的组成结构,并对数据仓库
的工具选择进行了详细的分析。
【关键词】数据仓库;体系结构;数据抽取和转换;数据仓库工具
【中图分类号】 TP311.13 【文献标识码】 A 【文章编号】 1671-9581(2005)一02-0068—04
Data warehouse and data warehouse tools
PAN Jing——xin
(The Institute of Information Engineering,Shaoguan
University,Shaoguan,Guangdong,China 5 1 2005)
Abstract: Data warehouse is a Dew developmental direction of database technology . This paper introduces the
characteristics of data warehouse and its architecture and analyzes the choices the data warehouse tools in detail.
Key W ords:data warehouse;architecture;data extraction and convemion;data warehouse tools
1 引言
随着市场竞争的加剧和信息社会需求的发展,
从大量数据中提取(检索、查询等)制定市场策略的
信息就显得越来越重要了。这种需求既要求联机服
务,又涉及大量用 于决策的数据,而传统的数据库
系统已无法满足这种需求。其具体体现在三个方面:
历史数据量很大;辅助决策信息涉及许 多部门的数
据,而不同系统的数据难 以集成;}扣于访问数据的能
力不足,它对大量数据的访问性能明显下降。数据仓
库技术正是为了解决传统的数据库所存在的缺陷而
发展起来的。
数据仓库技术从本质上讲,是一种信息集成技
术,它从多个信息源中获取原始数据 .经过加工处理
后,存储在数据仓库的内部数据库中。为了使数据仓
库用户能有效地使用数据仓库中的信息,进行深层
次的综合分析和决策,数据仓库系统要向用 提供
[收稿 日期 ]2005-03—28
[作者简介 ]潘景新 (1975一 。 . 尔人,J’ 省韶关学院信,色,T程学院实验中心,研究方向:信 。1稃
68
维普资讯
第 2期 数据仓库与数据仓库工具
一 整套数据访问和分析工具⋯。通过所提供的访问工
具,为数据仓库的用户提供统 一、协调和集成的信息
环境,支持企业全局的决策过程和对企业经营管理
的深入综合分析。
2 数据仓库
2.1数据仓库的特点
数据仓库是⋯个用以更好地支持企、I 或组织的
决策分析处理的、面向主题的、集成的、不可更新的、
随时间不断变化的数据集合[2]。它具有以下几个特
点。
·面向主题:和传统数据库面向应用组织数据不
同,数据仓库面向主题组织数据。所谓丰题,就是企
业某一宏观领域所涉及到的分析对象。面向主题对
数据进行组织保证了分析处理围绕主题进行,忽略
了不必要的细节,比面向应用的数据组织方式具有
数据仓库管 ./— 、 用户查询
工具
理T具 \ /
数据抽取 、转 数据仓库 标准 客户
换 、装载工具
机,服务器
圈 丁且
数据建模工 \\、 一// DSS/EIS
具 工具
图 1数据仓库体系结构
更高的抽象级别。
·数据集成:数据仓库中的数据并非由自身生
成,而是来源于其它数据系统,这些系统相对于数据
仓库称为数据源。这些数据源可以是支持事务处理
的传统数据库,也可以是半结构化的数据库甚至是
无结构的文件系统等。由于分析处理应用 的丰富性
和复杂性,数据仓库往往要从一个以j_的数据源中
获得数据。数据仓库的集成特性还指数据源 的原始
数据往往不能直接进入数据仓库必须经过例如综合
等处理并转化成数据仓库可以理解的格式。
·不可更新:对用户而言,数据仓库中存放的是
历史数据,是不可以修改的,只能进行查询分析等只
读操作。
·数据随时问变化:对于系统 (而不是用户)而
言,由于数据源的变化,必须/1 断地更新数据仓库中
的数据以反映这种变化,包括增加新的历史数据、删
除旧的历史数据,改变原有历史数据的时问粒度等。
2.2数据仓库的组成结构
一 个数据仓库包括了以下几个组成部分:
①数据源:为数据仓库提供源数据,如各种生产
系统数据库、OLTP系统的操作性数据 ,外部数据源
等到可以作为数据仓库的数据源。
数据构造及存储和管理] 具:根据系统需求进
行数据建模,确定从源数据到数据仓库的数据抽取、
清理和转换过程 ,并根据需求重新组织和加T数据,
装载到数据仓库的目标数据库中。为数据仓库的运
行提供管理手段 ,包括安全管理和存储管理等。
⑨数据仓库的目标数据库 :存储经检验、整理、加
工和重新组织后的数据。
(垒)前端数据访问和分析工具:供业务人员分析和
决策人员访问目标数据库中的数据,并进 一步深入
分析使用 。
数据仓库的体系结构如图 1所示:
3数据抽取和转换工具
数据抽取、转换和加载,是数据仓库实现过程
中,数据由数据源系统向数据仓库加载的丰要方法。
如何选用合适的数据抽取和转换工具从数据源巾抽
取所需要的数据,根据业务需求,选用合适的数据抽
取和转换工具从数据源中抽取所需要的数据,对数
据进行转换,包括检验 、整理、加工和重新组织的功
能步骤后,存放到目标数据库中,是数据仓库体系结
构设计时要考虑的一个关键问题。 数据抽取转换
的步骤是:设置数据源、设置数据目的地、设置转换
方式、将数据转移任务存储为一个包、执行包实际进
行数掘转移pl。数据抽取、转换和加载_T 其的结构如
下图 2所示:
69
维普资讯
长沙通信职业技术学院学报 第 4卷
图2数据抽取、转换压力加载工具的结松
传统的关系型数据库管理系统支持多种数据复
制模型,可以提供整个企业范围内复杂的数据库复
制功能,从而满足正常情况下数据仓库对数据抽取
功能的要求。这种系统支持一般的数据抽取、数据复
制和一定程度上的数据重新组织、聚簇和汇总,但是
如果数据源之间的数据存在逻辑上的不一致,需要
额外的重新组织和转换加工,那么其功能显得不足。
举例而言,传统的关系型数据库管理系统不能自动
完成从主机的 OLTP系统中抽取源数据,解决数据
间的不一致造成的冲突,对数据进行重新组织后转
换到 目标数据库中的全部过程。因此,只有当源数据
完全正确可靠、组织合理且没有任何不一致时,才能
直接采用传统的关系型数据库管理系统巾的数据复
制功能完成数据抽取工作。然而在工程实践中,源数
据组织不合理,包含冗余数据,数据在逻辑上冲突和
数据定义冲突等问题十分常见,因此,有必要考虑采
用特别的数据抽取和转换工具。
专门的数据抽取转换工具提供收集、转换和修
订操作型数据的功能,并 自动把转换后的数据装载
到数据仓库指定的数据库中。目前,市场上已经有一
些这样的工具。多个主要的传统关系型数据库管理
系统厂商已经开发了其数据库产品与专门的数据抽
取和转换工具之间的集成接口,以扩展其数据库产
品的功能。因此 ,采用专用的数据抽取和转换工具十
分方便。
一 般说来,数据抽取和转换工具主要提供两个
方面的功能。首先,这些工具都提供流行的基丁视窗
70
的图形用户接口,使得用户 (数据仓库管理员)能方
便的描述数据抽取和转换的需求。数据转换包括对
数据进行匹配、归并、排序、创建新的数据域、选择数
据子集、聚簇数据、转换操作型数据、在一个或多个
数据库之间解决数据的语法、定义或格式的冲突等
操作,其次,这些工具能自动创建运行在数据源所在
平台上的程序,自动至此那个数据抽取、检验和重新
组织等功能。用户可以为抽取程序加上转换逻辑。这
些工具根据用户的输入建立有关元数据 ,其中描述
了源数据和目标数据的格式,以及如何把源数据转
换成 目标数据。
综上所述,传统的关系型数据库管理系统也许
不能全面满足对数据抽取和转换的功能需要,数据
仓库体系结构设计人员可以根据具体的需要选择合
适的数据抽取和转换工具,与数据库管理系统相结
合,全面实施数据抽取和转换。
4前端数据访问和分析工具
从数据源 中抽取 出相应的数据 ,经过检验 、整
理、加工和重新组织后存放到数据仓库的数据库巾,
下一步就是要考虑如何使用户 (业务决策人员、各
级管理人员和业务分析人员)能够方便灵活的使用
数据仓库中存储的数据,达到数据仓库工程的预定
目标。在数据仓库中,这是通过为用户提供 一套前端
数据访问和分析工具来实现的。目前市场上能获得
的数据访问和分析工具种类繁多,主要有关系型查
询工具、关系型数据的多维视图工具、DSS~IS软件
包和客户机/H&务器工具等 4大类 。
维普资讯
第 2期 数据仓库与数据仓库工具
关系型查询工具
通用的关系型查询工具提供高度友好的用户接
口,可以访 问关系型数据。借助这样的工具,一般用
户无需技术人员的协助,即可表述查询要求。查询结
果能根据用户的需要,形成报表和示意图,这样的工
具都支持标准的用户接口,并同时访问多个数据库
服务器和数据库管理系统。
② 关系型数据的多维视图工具
这类工具是为采用传统的关系型数据库管理系
统作为数据仓库目标数据库的用户而设计的。通过
使用这样的工具,虽然数据仓库的数据库是关系型
的,但用户可以以多维的方式分析关系型数据。其最
大的优点是不必采用专用的多维目标数据库管理系
统即可达到多维分析的目的。这类工具具有多种具
体的实现手段,一些工具并不在客户机一端形成局
部数据库,而只是维护多维视图,另一些工具则从数
据仓库中抽取所需的关系型数据子集,在客户机上
通过一种称之为数据立方的多维结构方式加以局部
存储 ,还有一些工具则更为先进,为了在关系型数据
库上进行多维分析,实现了一个 3层的软硬件结
构。
③ DSS,EIS软件包
DS IS软件包是更为复杂的工具,用于复杂
的多为数据分析,用其可直接提供面向业务的信息
分析,如财务报表分析和合并财务报表分析、业务品
种利润分析、企业负债分析和管理报表等。
④ 客户机假 务器工具
对 于那些 特定 的不 能直接采 用现 有工具 和
DS IS软件包的业务需求 ,可以考虑使用通用的
客户机 匣务器工具开发前端的应用。通过使用这种
工具,可以开发特定的功能,满足用户对图形界面、
数据操作及数据分析报表等多方面的特殊需求。这
些工具都能提供对数据的透明访问,简化对数据库
的访问操作,支持多媒体应用,能够迅速构建前端决
策支持应用系统,开发成本较低。使用这些工具开发
的应用可以通过 DDE和 OLE接口与第三方产品实
现透明连接,因此在开发前端工具的过程中,可以根
据需要把很多现成产品连接到其中,如字处理系统
和统计软件包等,这对于提供开发效率和系统质量
是颇有裨益的。由于通用客户机 艮务器工具应用广
泛,用户众多,因此在开发客户化的数据访问和分析
工具时,应积极考虑使用这样的工具。
面对众多的前端数据访问和分析工具,应该根
据功能需求选择,要着眼于工具是否易于使用及功
能是否可靠。一般来说,简单的关系型查询工具对业
务分析人员来说是透明的访问数据,而关系型数据
的多维视图则能够提供多维分析的能力,业务专家
可以使用 DSS'EIS工具分析大量的历史数据,发现
业务发展规律,预测未来发展趋势,当要实现特殊的
功能时,可以考虑使用通用的客户机假务器工具。
[参考文献]
[1]罗运模.SQLServer2000数据仓库应用与开发 【M】.北京:
人民邮电出版社,2001.
[2]王珊等.数据仓库技术与联机分析处理[M】.北京:科学出
版社,1999.
[33沈兆阳 Microsoft SQL Server 20000 OLAP解决方案一数
据仓库与 Analysis sen,ices[M].北京 :清华 大学出版社,
2O0l
7l
维普资讯