- 1 -
中国科技论文在线
数据挖掘新任务:特异群组挖掘#
朱扬勇,熊赟**
基金项目:国家自然科学基金(61170096 )
作者简介:朱扬勇,(1963-),男,教授,目前的主要研究兴趣为数据科学,大规模数据处理及挖掘。
(复旦大学计算机科学技术学院数据科学研究中心,上海 201203)
摘要:特异群组挖掘是一种新的数据挖掘任务,应用领域广泛,具有重要的应用价值。聚类、5
异常挖掘和特异群组挖掘属于根据数据对象的相似性来划分数据集的数据挖掘问题。其中,
聚类是将大部分具有相似性的数据对象分到若干个簇中的过程;异常挖掘发现数据集当中明
显不同于大部分对象(具有相似性)的数据对象;而特异群组挖掘是发现数据集当中明显不
同于大部分数据对象(不具有相似性)的数据对象,其在问题定义、算法设计和应用效果都
不同于聚类和异常挖掘,不能由现有的聚类、异常等数据挖掘技术实现。本文首次对特异群10
组挖掘问题进行了系统描述,包括介绍特异群组挖掘问题的动因和背景、定义和内涵、研究
意义、主要研究问题和研究方向等。
关键词:数据挖掘;特异群组;聚类;异常;相似性
中图分类号:TP311
15
Peculiarity Group Mining: A New Task in Data Mining
Zhu Yangyong, Xiong Yun
(Research Center for Dataology and DataScience, School of Computer Science, Fudan University,
ShangHai 201203)
Abstract: Peculiarity group mining (PGM) is a novel task in data mining research. Peculiarity 20
groups (PG) can be found in a wide range of areas. Together with clustering and outlier mining,
their goals are all to partition a data set according to data similarity. Clustering is to assign most of
data objects in a given data set into clusters so that objects in the same cluster are similar in some
sense. Outlier mining is to find data objects that are different from most of objects (these objects
are similar) in a given data set. However, peculiarity group mining is to find data objects that are 25
different from most of objects (these objects are not similar). It is different from clustering and
outlier mining from the following aspects: problem definition, algorithm design and applications.
It is difficult to realize using existing technique of clustering or outlier mining. To the best of our
knowledge, this paper is the first investigation of peculiarity group mining problem systematically,
including what peculiarity group mining is? Why we need peculiarity group mining? And what 30
research topics we should focus on in PGM and how to develop it.
Keywords: Peculiarity Group; Data Mining; Clustering; Outlier Detection (Anomaly Detection);
Data Similarity
0 引言 35
数据挖掘是从大量数据中寻找其规律的技术[1]。数据挖掘的任务有关联规则挖掘、分类、
演变分析、聚类和异常挖掘。其中,聚类是将大部分具有相似性的数据对象分到若干个簇中
的过程;异常挖掘发现数据集当中明显不同于大部分对象(具有相似性)的数据对象。在实
际中,还有一类挖掘任务是发现数据集当中明显不同于大部分数据对象(不具有相似性)的
数据对象,其在问题定义、算法设计和应用效果都不同于聚类和异常挖掘,不能由现有的聚40
类、异常等数据挖掘技术实现,是一种新的数据挖掘任务,我们称其为特异群组挖掘[2]。特
异群组挖掘是对现有数据挖掘任务的有益补充,具有重要的应用价值和现实意义,将为多领
域的实际应用提供有价值的数据分析信息,同时,也面临许多新的问题和挑战。本文首次对
- 2 -
中国科技论文在线
特异群组挖掘问题进行了系统描述,包括特异群组挖掘问题的动因和背景、定义和内涵研究
意义、主要研究问题和研究方向等。作为一个新的数据挖掘任务,特异群组挖掘的研究和应45
用会快速发展。
本文剩下部分的内容安排如下:第 1节阐述为什么需要特异群组挖掘;第 2节给出特异
群组挖掘问题定义并阐述其内涵;第 3节分析特异群组挖掘问题与聚类、异常挖掘的差异;
第 4节提出特异群组挖掘问题的主要研究内容;最后是本文的一些结论和进一步工作展望。
1 为什么需要特异群组挖掘 50
根据数据对象之间的相似与否来划分数据集的数据挖掘方法有聚类和异常挖掘。聚类是
针对数据集中的大部分数据对象,即一个数据集中大部分对象属于某些数据簇,而数据集中
那些小部分明显不同于其他数据的对象常常被忽略或作为噪声消除[3];异常挖掘用于发现数
据集中明显不同于大部分数据对象(具有相似性)的数据对象(异常对象)[4],这些对象一
般不属于任何簇,也不和其他对象相似,很多情况下异常对象也被称为孤立点。 55
然而,在实际中,有许多“相似数据对象相对较少”的应用场景下的数据挖掘需求,这些
需求不能用现有的聚类和异常挖掘算法来实现。例如,在行为科学研究中,行为数据反映了
对象的各种行为方式,这些行为通常是个体对象主动的行为(如股票交易行为、车辆行驶行
为等)。一般情况下,行为对象具有个体性(personality),不具有群体组织性。因此,如
果有两个以上(含两个)的对象存在共同的行为,那么说明这些对象具有群体组织性,有别60
于通常大部分对象的个体性,是一种异常现象,这些对象称为特异群组(Peculiarity Group)
(即数据集中明显不同于大部分对象(不具有相似性)的数据对象)[2]。
实际场景 1:证券市场股价操纵行为。由于股票交易是个体主动行为为主的,因此,有
一批账户在多天具有共同的股票交易行为是一种异常现象。例如,存在一批账户
{A37650988*,A37650*897,A401735*04,A20906459*,A37650*994,A451380*38,65
A45138060*}在 2011年 11月 11日,11月 16日,11月 19日,11月 22日,11月 26日这
五天中,他们具有共同的股票交易行为:<(11 Nov 2011, {买入股票 C}), (16 Nov 2011, {买入
股票 G, 增仓股票 C}), (19 Nov 2011, {减仓股票 G, 增仓股票 C}), (22 Nov 2011, {卖出股票
G}),(26 Nov 2011, {卖出股票 C})>。从证券交易的特性和经验来看,这些账户涉嫌操纵股票
价格的可能性很大。证券监管部门希望能够挖掘到这些交易账户(特异群组),为监控证券70
价格操纵事件提供技术服务[2]。
实际场景 2:驾车犯罪团伙行为。以汽车为作案工具的犯罪案件中,一种常见的情况是
多辆汽车共同参与作案。作案车辆为熟悉作案地点和行程,通常会提前准备,在多天内共同
出现在多个地点,随着智能交通技术的发展,这些信息都将由高清摄像头识别记录。由于城
市道路上的车辆行驶是个体主动行为为主的,因此,这种有一批车辆在多天共同出现在多个75
监控点的行为是一种异常现象。警察机关希望能够从监控数据库中挖掘到这些车辆(特异群
组),为案件侦破提供线索[2]。
实际场景 3:医保卡欺诈行为。中华人民共和国社会保险法规定我国的基本医疗保险由
用人单位和职工按照国家规定共同缴纳基本医疗保险费。由医疗机构为参保人提供合理、必
要的医疗服务。参保人使用医保卡就医发生费用时,将由医保基金支付医保范围内的费用,80
超出医保范围的费用才需要个人现金支付。为保证医保基金的正常安全运转,医保机构对参
保人医保消费行为有一定的限制,如参保人只能消费病情和处方相关的药品而不允许超范围
配药,个人医保费用只允许用于本人就诊、购药等。由于每张医保卡的这种使用限制,一种
- 3 -
中国科技论文在线
典型的用卡欺诈行为是嫌疑者使用多张医保卡获得尽可能多的药品,然后卖出获取利益(医
保卡套现)。个人使用医保卡就医是个体主动行为为主的,因此,嫌疑者使用一批医保卡(即85
多个医保卡账户)在多天在多个或同一个医院进行刷卡购买药品的行为,是一种异常现象。
医保监督局希望能够找到这样的欺诈行为账户予以监管。
针对这类数据挖掘需求,我们在 Day-by-Day行为数据集上提出了特异群组挖掘问题[2]。
特异群组数据挖掘需求在个性化的行为数据集中较为常见,是一个非常有意义的问题。因为
社会中人的行为大部分具有个体性,所以,个体性数据集是广泛存在的,例如,证券交易系90
统、道路交通监控系统、信用卡消费系统、医疗保险系统和银行系统等等。当然,也可以推
广到更多数据集。和聚类、异常挖掘不同,特异群组挖掘所关注的是一个数据集中大部分数
据对象不相似,而每个特异群组中的对象是相似的。
2 什么是特异群组挖掘
特异群组挖掘研究开始于 2009年发表于 ICDM2009的论文“Mining Peculiarity Groups in 95
Day-by-Day Behavioral Datasets” [2]。在该论文中,定义了一种面向集合值的 Day-by-Day行
为数据集;并在该数据集上设计了一种特异度度量,有效地度量了个体性数据集中具有组织
性的特异群体:群组中对象具有的共同行为模式的长度值越大,表示他们相对于普通对象的
特异性越明显,即共同行为模式是 Day-by-Day行为数据集中的异常现象;在此基础上设计
和实现了一个 Day-by-Day 行为数据上的特异群组挖掘算法。但特异群组挖掘不限于100
Day-by-Day 行为数据集,第 2 节已指出在广泛应用中存在特异群组挖掘问题。因此,不失
一般地,我们对特异群组及特异群组挖掘问题定义如下:
定义 1(特异群组):对于一个其中大部分数据对象不具有相似性的数据集,如果有一
组对象具有相似性或共同特性,则这些数据对象称为特异对象,这些特异对象所形成的组,
称为特异群组。 105
注:这里的一组对象,我们称两个(含两个)以上对象。但在对应的问题背景下,可能
需要根据特异度度量的设计对组内对象的个数加以约束,例如 k个以上。
定义 2(特异群组挖掘):特异群组挖掘是发现数据对象集中明显不同于大部分数据对
象(不具有相似性)的数据对象(特异对象)集(特异群组)的过程。
注:特异群组挖掘问题针对的是一个数据集中大部分数据对象不相似,而每个特异群组110
中的对象是相似的。
3 与聚类、异常挖掘的差异
特异群组挖掘、聚类挖掘和异常挖掘问题都是根据数据对象的相似性来划分数据对象的
数据挖掘问题。但他们在问题定义、算法设计和应用效果上是存在差异的。
聚类 115
聚类是根据最大化簇内的相似性、最小化簇间的相似性的原则,将数据对象集合划分成
若干个簇的过程[3]。簇是数据集中相似对象的集合,簇中任意两个数据对象都是相似的。相
似性是定义一个簇的基础,聚类过程的质量取决于簇相似性函数的设计。例如,欧式距离是
应用最为普遍的相似性度量之一,然而,现实世界中的问题,数据的分布往往具有欧式距离
无法反映的复杂结构[5]。在难以获得一个明显的簇相似性函数的情况下,某些聚类算法可看120
作是一个学习相似性函数的过程。
- 4 -
中国科技论文在线
不同的相似性定义将得到不同类别的簇[6]。图 1-a表示明显分离的簇,其中每个对象到
同簇中每个对象的距离比到不同簇中任意对象的距离都近(或更相似);图 1-b表示基于原
型的簇,其中每个对象到定义该簇的原型的距离比到其他簇的原型的距离更近(或更相似);
图 1-d是基于邻近的,其中两个对象是相连的,每个对象到该簇某个对象的距离比到不同簇125
中任意点的距离更近;图 1-e是基于密度的簇,簇是对象的稠密区域,被低密度的区域环绕;
图 1-c则表示一种概念簇,即簇是有某种共同性质的对象的集合[6]。
图 1 不同相似性定义下的各种簇[6] [7]
130
可以看出,具有某种共同性质的对象取决于挖掘目标的定义。不同的相似性定义得到不
同的簇,甚至还有不同形状、不同密度的簇等等(图 1-f,1-g)。但现有聚类算法都有一个
共同的特性,即目标都是将大部分数据对象聚为簇。
异常挖掘
异常挖掘是发现数据集中所包含一些特别数据的过程,这些数据(称为“异常”)其行135
为和模式与一般数据不同[4]。异常是可能不同于其他数据对象的数据对象,因为它属于一个
不同的类或簇。这个概念来自于一个与大多数数据对象簇(类)不同的思想(图 2)。因此,
异常挖掘是发现数据对象集中明显不同于大部分数据对象(具有相似性)的数据对象(称为
异常对象)的过程。
一个数据集中大部分对象属于某些数据簇,而异常对象不属于任何簇,一般也不和其他140
对象相似,因此很多情况下异常对象都是孤立点。
图 2 异常(孤立点,不属于任何簇,一般也不和其他对象相似)[6]
聚类、异常、特异群组挖掘问题的差异 145
聚类是根据最大化簇内的相似性、最小化簇间的相似性的原则,将大部分数据对象分到
- 5 -
中国科技论文在线
若干个簇中的过程,数据集中那些小部分明显不同于其他数据的对象常常被忽略或作为噪声
消除。而特异群组挖掘是发现数据对象集中明显不同于大部分数据对象(不具有相似性)的
数据对象的过程。虽然特异群组中的对象具有一定的相似性,在一定程度上符合传统簇的概
念,但是,特异群组之外的对象数目一般远大于特异群组中对象的数目,并且这些对象不属150
于任何簇,因此,特异群组挖掘并不将整个对象集聚类成簇,这与聚类的目的不一致。
异常挖掘用于发现数据集中明显不同于其他对象的数据,由于应用领域不同,这些“数
据集中偏差较大的数据”通常被称为异常(anomaly)、孤立点/离群点(outlier)、不一致观
察值(discordant observation)、例外(exception),等等[8-12]。其中,异常和孤立点最为常
见,有时甚至等价[8]。最近的文献[8]对现有异常挖掘的研究进行了分类、比较和评价。现有155
异常挖掘研究主要集中于发现数据集中不属于任何簇,一般也不和其他对象相似的异常对象
(孤立点),文献[8]将其归纳为点异常(Point Anomalies)。这些显然和特异群组挖掘是不
同的。
与特异群组挖掘在术语上比较相近的是集合异常(Collective Anomalies)挖掘[8] [13-16]
(图 4)。如果异常点形成一个紧密的簇,那么基于聚类或最近邻的异常挖掘方法将难以发160
现[8],文献[8]将这种异常点形成的簇归纳为集合异常。集合异常挖掘处理的数据集中的大部
分数据对象是相似的,其目的是发现明显不同于大部分对象(具有相似性)的数据形成的集
合,而特异群组挖掘的目的是发现数据集中明显不同于大部分数据对象(不具有相似性)的
数据集合,即特异群组挖掘处理的数据集中大部分数据对象不相似。
165
图 3 集合异常[7]
还有几个相关的概念是少类挖掘(Rare Category Detection) [17-20]和非平衡分类
(Imbalanced Classification)[21-24]。
少类挖掘问题处理的数据集中的大部分数据对象是相似的,其目的是发现明显不同于大170
部分对象(具有相似性)的数据形成的集合,且类的大小差异大(如图 4)。虽然 Rare Category
挖掘在概念和目的上和集合异常接近,但是,该问题中小类常常嵌于/紧密邻近大类,而集
合异常通常是和正常类分离的[17],因此,在方法上是不同于集合异常挖掘[17]。而且,少类
挖掘问题需要有先验知识或专家对一部分数据对象打好标签(注,即使是无监督的少类挖掘
问题,在初始输入数据数据集中不需要打上类标签的数据,在计算过程中也需要借助于少量175
的 labeling oracle)[17]。此外,目前少类挖掘问题的研究主要在大类分布平滑假设(Smoothness
assumption)和少类中数据对象紧致假设(compactness assumption)下进行的。
- 6 -
中国科技论文在线
图 4 少类挖掘[16]
180
非平衡数据集(Imbalanced data set)是指某些类拥有数据集中的大多数数据对象,称为
多数类(majority class),剩下的仅含有少数数据对象的类称为少数类(minority class或 rare
category)[22]。
非平衡分类问题目的是构建一个准确的分类器优化划分准则,将数据集划分成不同的类
别,包括类的大小差异的大类和小类。其与上述概念不同在于,该挖掘的结果是要求能够同185
时得到大类和小类[17]。
概括来说,如果一个数据集中的大部分数据对象都能够归属于某些簇,那么那些不能归
属于任何簇的数据对象就是异常对象;如果一个数据集中的大部分数据对象都不属于任何簇
(互不相似),那么那些具有相似性的数据对象所形成的群组就是特异群组。因此,一个数
据集的特征决定了簇、特异群组、异常对象。 190
讨论:只要调整相似度阈值,几乎所有聚类、异常挖掘问题都会有一个特
异群组问题
这个问题取决于我们所获得的数据集的特征以及我们对相似性阈值的指定。在特异群组
挖掘问题未提出之前,算法的设计致力于将大部分数据对象尽可能的划分到簇中,在这样的
假设下,算法尽可能的调整其相似性阈值(或和相似性阈值相关的参数的阈值)以使得大部195
分数据对象尽可能的划分到簇中。然而,在实际中,很多问题获得的数据集并不是大部分数
据对象都能在一个比较小的相似性阈值范围内是相似的,例如第 2节中的几个实际场景中的
数据集中的大部分数据对象具有个性化;又如舆情分析或关键字检索应用中,目前的针对无
先验标签的应用,采用聚类或异常挖掘的方法进行,事实上,web页面涉及的信息是非常广
泛,从整个 web 环境而言,页面具有个体独立性的特点。只是为了得到期望的大部分对象200
划分到簇的目标,算法扩大了这个相似性阈值;或者是人为的预先选取了具有大部分数据对
象相似的数据集(例如这个例子中选取了具有某些类别共同话题或共同关键字的web页面)。
然而,我们要做的是探索高效准确的方法能够在这个广泛的、普遍的、而不是过滤过的数据
集中,去发现相似的数据对象集合,这个任务即个性化数据集中挖掘特异群组。
综上,特异群组挖掘在问题定义、算法设计和应用效果都是不一样的,不能由聚类、异205
常等现有的数据挖掘技术实现,需要设计新的算法和产生新的理论。
特异群组挖掘主要研究内容
特异群组挖掘主要研究内容包括:研究特异群组挖掘问题的形式化,探讨特异群组的特
异性度量,设计特异群组挖掘算法,并给出特异群组挖掘的 Benchmark 数据集,进而形成
一个特异群组挖掘理论体系。具体如下: 210
1) 特异群组挖掘问题的形式化研究
发展数据挖掘统一理论是数据挖掘研究领域十大挑战问题之一[25],形式化是其中的一
- 7 -
中国科技论文在线
项重要工作。形式化研究的目的是希望能够为问题的研究提供更好的理论、方法和工具,扩
大其应用范围和使用价值。形式化方法需要用形式化的语言建立精确的、无二义性的问题定
义和描述,以形成具有严密数学基础的科学体系。 215
特异群组挖掘问题定义的形式化是特异群组挖掘问题的一项重要研究内容。包括:研究
特异群组挖掘问题的形式规约(形式化描述),对问题“做什么”进行数学描述,用具有精确
语义的形式语言来表达特异群组挖掘问题及其特征,以减少可能的误解所带来的问题;对形
式规约讨论其一致性和完备性(是否完全、无遗漏地刻画所要描述的对象)等性质。
特异群组挖掘的数据集要求绝大多数数据对象具有个体性,目的是寻找最相似的小部分220
数据对象,这体现了特异群组挖掘问题的特征和性质。为保证特异群组挖掘算法的建立,关
键需要考虑这些特征和性质适当程度的形式化。并且需要在探索特异群组挖掘与聚类、异常
挖掘的差异基础上,获得更多的性质和特征,力求问题定义和描述形式化的完备和一致。
然而,从应用角度看,抽象度适当的形式化描述存在一定困难。因此,如何合理适当的
对特异群组挖掘问题进行形式化是建立特异群组挖掘理论体系需要解决的关键。 225
2) 特异群组特异度度量研究
什么是特异?是特异群组挖掘工作首先需要回答的问题。特异群组的“特异性”表现为什
么,需要有相应的度量来衡量其特异程度。事实上,特异群组挖掘问题是在大多数具有个体
性的对象数据集中挖掘满足特异度的对象集,一般地,特异群组对象的群体性和普通对象的
个体性不同。而群组中的个体对象本身单独而言并不一定特异,只是和群组中的相关对象一230
起构成了特异群组。特异性是定义一个特异群组的基础,正如相似性度量一样是一个既重要
而又复杂的问题。因此,需要研究衡量特异群组特异度的度量,并给出特异度度量的性质。
特异群组挖掘的质量取决于特异性度量的设计。特异性通常会因应用需求的不同而不同,或
是因数据集中数据特征的不同而不同。所以,如何根据一个应用需求或数据集特征设计特异
性度量函数是关键。另外,特异性还会有多种形式。 235
3) 特异群组挖掘框架算法研究
特异群组挖掘问题作为一个新的研究问题,需要设计相应的特异群组挖掘算法,主要从
两方面着手:一方面,针对大规模数据集,算法的效率是算法设计需要考虑的重要因素之一。
不同于需要找到大部分的相似数据对象簇的聚类挖掘问题,特异群组挖掘的目标是发现小部
分的相似点集,因此,现有的聚类算法和集合异常挖掘算法在挖掘特异群组上或是难以实现,240
或是算法效率上存在局限。特异群组挖掘针对的数据集是大部分对象是个性化的、互不相似
的,而仅有少部分对象是相似的,因此,需要探索更合适的高效算法;另一方面,针对不同
类型的数据集设计对应的算法,提高挖掘结果的准确性。例如多维数据集、高维数据集,序
列数据集、分类属性数据集和离散属性数据集等。此外,还包括更多新产生的新形式数据集。
4) 领域数据集中的特异群组挖掘算法研究 245
特异群组存在于广泛的应用领域,因此,需要将特异群组挖掘扩展到更多的应用领域。
各领域数据集有各自的数据特征,研究面向领域的特异群组挖掘算法,以适应更多的应用领
域,包括智能交通系统中车辆驾驶行为分析、证券交易系统中交易行为分析、生物医疗数据
分析和社会网络分析等等。
5) 特异群组挖掘的 BENCHMARK数据集研究 250
随着特异群组挖掘问题研究的深入,特异群组挖掘算法的性能提高和相关算法比较是特
异群组挖掘研究面临的问题,为满足研究者对算法的专注,需要为研究者建立特异群组挖掘
的 BenchMark数据集。性能随着应用领域的不同而不同,面向领域的 BenchMark是应对特异
- 8 -
中国科技论文在线
群组应用的多样性的必然产物。面向领域的 BenchMark 数据集涉及各领域数据集。该部分
研究的目的在于为研究者提供易于访问的标准数据集,用于算法性能测试、性能比较和评价。 255
结论和进一步工作
特异群组挖掘是一个新的数据挖掘任务,是重要的研究方向,具有广泛应用背景,将在
证券交易、智能交通、社会保险、生物医疗、银行金融、应急响应、舆情分析和网络社区等
更多领域得到应用和扩展。在这个研究方向上将会有大量的数据挖掘算法出现,致力于提高
挖掘的效率和结果的准确率,并适应更多类型的数据集,包括在实际需求中产生新的数据集,260
如 Day-by-Day数据集。
本文首次对特异群组挖掘问题进行了系统描述,包括特异群组挖掘问题的动因和背景、
定义和内涵研究意义、主要研究问题和研究方向等。我们的进一步工作计划针对特异群组挖
掘的几个主要内容进行研究,逐步建立特异群组挖掘理论体系,包括:对特异群组问题的形
式化研究;特异性度量的探索;特异群组挖掘框架算法的研究,及其在领域数据集上的扩展;265
以及建立特异群组挖掘的 BenchMark数据集。
[参考文献]
[1] 朱扬勇,熊赟. 数据学[M]. 上海:复旦大学出版社,2009
[2] Xiong Y, Zhu Y Y. Mining Peculiarity Groups in Day-by-Day Behavioral Datasets[C]. In Proceedings of IEEE 270
International Conference on Data Mining (ICDM09), 2009: 578-587.
[3] Jain Anil K. Data clustering: 50 Years Beyond K-means[J]. Pattern Recognition Letters, 2010, 31: 651-666.
[4] Hawkins D. Identification of Outliers[M]. London: Chapman and Hall, 1980:2-26.
[5] 公茂果,王爽,马萌,等. 复杂分布数据的二阶段聚类算法[J]. 软件学报,2011,22(11):2760-2772
[6] Tan P N, Steinbach M, Kumar to Data Mining[M]. Addison-Wesley, 2006. 275
[7] Karypis G, Han Eui-Hong, Kumar V. CHAMELEON: A Hierarchical Clustering Algorithm Using Dynamic
Modeling[J]. IEEE Computer, 1999, 32(8): 68-75.
[8] Chandola V, Banerjee A, Kumar V. Anomaly Detection: A Survey[J]. ACM Computing Surveys, 2009, 41(3):
1-58.
[9] Hodge V. J, Austin J. A Survey of Outlier Detection Methodologies[J]. Artificial Intelligence Review, 2004, 280
22(2): 85-126.
[10] Agyemang M, Barker K,Alhajj R. A Comprehensive Survey of Numeric and Symbolic Outlier Mining
Techniques[J]. 2006, Intelligent Data Analysis, 2006, 10(6): 521-538.
[11] Patcha A, PARK J M. An Overview of Anomaly Detection Techniques: Existing Solutions and Latest
Technological Trends[J]. Computer Networks. 2007, 51(12): 3448-3470. 285
[12] Tang J, Chen Z, Cheung W, et al. Enhancing Effectiveness of Outlier Detections for Low density Patterns[C].
In Proceedings of the Pacific-Asia Conference on Knowledge Discovery and Data Mining. 2002: 535-548.
[13] Das K, Schneider J, Neill Daniel B. Anomaly Pattern Detection in Categorical Datasets[C]. In Proceedings of
ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD 2008), 2008: 169-176.
[14] Knorr E M. Outliers and Data Mining: Finding Exceptions in Data[D]. University of British Columbia, 2002. 290
[15] Das K., Schneider J. Detecting Anomalous Records in categorical Datasets[C]. In Proceedings of ACM
SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD 2007). 2007.
[16] Liu F T, Ting K M, Zhou . On Detecting Clustered Anomalies using SCiForest[J]. Machine Learning and
Knowledge Discovery in Databases. Lecture Notes in Computer Science. 2010, 6322/2010: 274-290.
[17] He J R. Rare Category Analysis[D]. CarnegieMellon University, 2010. 295
[18] Vatturi P, Wong W K. Category detection using hierarchical mean shift[C]. in KDD, 2009, 847-856.
[19] Dasgupta S, Hsu D. Hierarchical sampling for active learning. in ICML, 2008, 208-215.
[20] He J R, Tong H H, Carbonell J. Rare Category Characterization[C]. in ICDM, 2010.
[21] Chawla N. Mining when classes are imbalanced, rare events matter more, and errors have costs attached[C].
in SDM, 2009. 300
[22] Sun Y, Kamel M S, Wang,Y. Boosting for learning multiple classes with imbalanced class distribution[C]. in
ICDM, 2006, 592-602.
[23] Tang Y, Zhang Y Q, Chawla N V, Krasser S. Svms modeling for highly imbalanced classification[J]. Trans.
Sys. Man Cyber. Part B, 2009, 39(1): 281-288.
[24] Huang K, Yang H, King I, Lyu M classifiers from imbalanced data based on biased minimax 305
probability machine[J]. in CVPR, 2004, 558-563.
[25] Yang Q, Wu X D. 10 Challenging Problems in Data Mining Research[J]. International Journal of Information
Technology & Decision Making. 2006, 5(4): 597-604.