58 2011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
【摘 要】文章通过分析传统KPI指标体系的不足,提出了客户感知体系建立原则与方法,并详细阐述了山东客户感知
指标评估体系建模过程,通过实际数据对比两种建模方法的优劣。有关结果将为TD-SCDMA网络指标评估提供重要
的参考,并对运营商指标体系架构与性能评估提供帮助。
【关键词】TD-SCDMA 客户感知 评估体系
TD-SCDMA客户感知评估体系研究
位 莅 吕雪峰 王治国 中国移动通信集团山东有限公司
1 前言
随着移动网络建设的成熟和运维经验的积累,网络
设备的KPI(Key Performance Indicator)指标基本能
够达到运维考核要求。但随着竞争的加剧,需要做好对
终端客户感知的管理,而传统上基于话统的KPI指标,越
来越难以满足这些需求,网络中经常出现网络KPI指标良
好,客户抱怨主观感知差的问题。
上述问题,主要原因是传统KPI指标存在以下不足:
(1)话统KPI粒度大,统计平均的指标无法表征个
体用户的体验;
(2)设备传统测量手段有限,覆盖类指标、用户面
指标(话音质量、单通等)难以考核,使得原有KPI体系
不全面,片面追求掉话等部分指标可能使得这些非考核
的重要指标恶化;
(3)传统话统指标基于网元设备的处理过程,没有
面向客户感知设计,使得指标的统计点不对应实际客户
感知。
因此,尝试从三个方面建立客户感知评估体系:
(1)设计从客户感知出发的QoE(Qual i t y o f
Experience)→KQI(Key Quality Indicator)/KPI映射
分解,以此对网元的KPI统计进行优化,强化E2E KPI设
计,贴合客户感知;
(2)设计新的性能测量手段,实现对覆盖、用户面
指标的测量,如MR覆盖统计、话音MOS分测量等,对网
元的KPI体系进行扩展;
(3)深入应用单用户粒度的性能数据(CHR等),
实现对用户级评估,克服传统KPI大粒度统计带来的均化
与淹没效应,发现对业务质量感知不好的少部分用户。
2 山东客户感知评估体系架构
建立原则与体系模型
客户感知(QoE)是面向最终用户的体验,我们从
用户的真实业务质量感知出发,构建一套可测量的客户
感知评价体系,其建立原则为:
(1)全面性原则:指标的选取应该比较全面,能够
有效地反映移动语音业务的基本特征。
(2)独立性原则:指标选取应尽可能减少相互之间
的相关性,避免指标之间的冗余程度、减少感知度影响
维度或指标之间的各种关系。
(3)可操作性原则:这一原则要求指标的含义要明收稿日期:2011-01-04
592011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
确,可得到测量。因此,感知度的维度以及相应的指标
要有明确的说明,内涵和外延要清楚。进行量化评估时
必须有明确的测试方法、表述方法,使各项指标容易计
算出来,具有科学的现实统计基础,以便于操作、重复
和验证。
(4)概念驱动和数据驱动相结合原则:指标体系的
设置一方面可以参考相关文献、概念或已有工作成果,
由专家集体制定;另一方面可以从收集数据开始,进行
指标的探索性分析,使用诸如聚类、回归等统计技术确
定指标体系。对于复杂的系统可以采用二者相结合的方
法,从而避免方法带来的指标体系设置上的缺陷。
(5)适应性原则:指标与指标体系设置时应使
其在一定时期内,在涵义、范围、方法等方面保持相
对稳定。
网络指标-客户感知度的评估模型如图1所示:
图1 客户感知评估体系模
通 过 建 立 一 套 健 全 的 语 音 业 务 质 量 评 价 体 系
体:QoE(用户感知层)-KQI(业务层指标)-
KPI(网络层指标),从端到端视角审视影响业务
质量的指标,全面监测用户感知。KQI直接对应终
端用户的业务感受体验,解决当前“网络指标好,
用户感知不好”的问题,对网络级和端到端拉通无
线、核心网、承载网,基于业务进行全流程的语音
质量评估和优化,指导整体优化,提高优化的有效
性。
表1 CS业务KQI指标展示
类
别
用户
感知 中兴KQI指标
获取
途径 取值
比例
因子
覆
盖
性
信
号
弱
退服小区占比 OMCR %
K1
弱场起呼小区占比 工具 %
每呼叫电路域系统间切换比 工具 %
每呼叫分组域系统间切换比 工具 %
弱覆盖小区占比 工具 %
2/3G重选频次 工具
位置更新成功率 核心网 %
寻呼成功率 核心网 %
接
入
性
CS接
入时
长
TD始发语音业务平均建立时长 网管
K2
TD终接语音业务平均建立时长 网管
TD始发VP业务平均建立时长 网管
TD终接VP业务平均建立时长 网管
语音业务DT接续时长 DT
VP业务DT接续时长 DT
CS接
通问
题
退服小区占比 OMCR %
K3
TD语音业务无线接通率 网管 %
高UpPTS干扰小区占比 网管 %
语音业务DT无线接通率 DT %
VP业务DT无线接通率 DT %
保
持
性
CS
掉话
弱覆盖小区占比 工具 %
K4TD语音业务无线掉话率 网管 %语音业务DT无线掉话率 DT %
VP业务DT无线掉话率 DT %
完
整
性
CS通
话质
量
VP业务上行误块率 网管 %
K5
语音业务上行误块率 网管 %
VP业务下行误块率 DT %
语音业务下行误块率 DT %
语音质量EMI/语音质量EMI满分 DT
总
计
指标
综合 K6
建模方法
本次建模结合3G用户感知调查(QoE)问卷的评分
值,建立网络提取的客观指标到用户感知主观感受之间
的联系,并用数学模型表述出来。
建模过程使用了两个模型的指标取值做KQI参考依
据,一个是混合指标模型;另外一个使用中兴网络的
minOS网管性能指标模型;考虑到现在的DT、CQT数据
有片面性,只是特定的路线及环境的测试, 且测试手机
与在网用户的终端性能差异,不能真实反映用户的感知
的情况,故在此没有专门为基于DT/CQT指标的数据进行
分析建模。
60 2011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
另外,由于用户感知的调查是基于语音用户进行
的, 所以本次建模只涉及CS业务(语音、视频)用户的
建模,数据业务的建模暂时不做分析。
具体步骤如下:
(1)用户感知体系CS业务的KQI指标呈现将指标
分类为反映用户感知的建模需要比例因子,分别用K1、
K2、K3、K4、K5表示覆盖比例因子、CS接入时长比例
因子、CS接入问题比例因子、CS通话保持性因子、CS
通话质量因子。如表1所示。
(2)根据5个用户感知项,进行用户调查QoE分值
评估
采用现场问卷调查方式,采集了310个样本点,对
QoE的6个问题进行问卷调查。采用5分制的评价标准:
优,评价分值5分;良,评价分值4分;中,评价分值3
分;差,评价分值2分;劣,评价分值1分。
以表2统计显示,济南用户感知得分均高于82分,总
表3 覆盖类KQI评估
类
别
用户
感知 中兴KQI指标 获取途径 取值 单项得分公式
单项
得分
覆
盖
性
信
号
弱
退服小区占比 OMCR % max(0,(-E2)*2000)
弱场起呼小区占比 工具 max(0,(-E3)*500)
每呼叫电路域系统间切换比 工具 max(0,(-E4)*500)
每呼叫分组域系统间切换比 工具 max(0,(-E5)*500)
弱覆盖小区占比 工具 max(0,(-E6)*250)
系统间重选频次 工具 max(0,(2-E7)*50)
覆盖
性
信号
弱
位置区更新成功率 核心网 max(0,(E28-0)*1000)
寻呼成功率 核心网 max(0,(E29-0)*1000) 97..94
体感知度很好。其中,用户对网络信号覆盖满意指数反
映最差,其次是通话连续性。通过QoE 评分来看,济南
的网络处于良好水平。
根据现网KQI数据指标值,建立公式评估单项KQI分
值(如表3)。
单项KQI评估公式,先确定每个指标的容忍区间,再
通过函数来实现。对于退服小区占比,设定容忍区间为
[0%,5%],即:
◆当取值统计为5%或者超过5%,按照经验这个值
已无法接受,将会给用户感知带来负面影响,故单项得
分为0分;
◆当取值为0%,网络无退服小区,则单项得分为
100分。
因此,该评估公式可通过EXCEL函数max(0,(-
退服小区占比)*2000)来实现,通过计算取得分值为65
分,分数不是很理想,需加强故障小区的排障力度。同
理,对于其它覆盖类KQI指标,
需先设定的容忍区间如表4。
针对每个用户感知QoE,对
关联KQI进行线性加权,取得加
权分值。
覆盖类关联KQI加权公式如
表5所示。
关联KQI加权公式,需考虑
每个KQI在对应用户感知项中的
网络信号覆
盖满意指数
接入时长
满意指数
接入问题满
意指标
通话连续性
满意指数
语音清晰
满意指数
整体满意指
数
QoE提问项 Q1 Q2 Q3 Q4 Q5 Q6
总得分/评价
用户数 1278/310 1388/310 1335/310 1321/310 1362/309 1321/310
平均得分
转换为100分 86 88
表2 QoE分值汇总表
612011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
权重比,并且所有权重相加为1,权重比的设定,主要考
虑单个KQI指标对相关感知项的影响大小,影响越大,比
值越高;影响越小,比值越小。对于用户感知-覆盖性,
我们设定了各个KQI指标权重,见权重列所示,并对单项
KQI公式进行加权,最终得到的分值为分。
(3)使加权公式与用户调查QoE值相拟合,与实际
值进行比对
表5 覆盖类KQI指标加权公式
类别 用户感知 中兴KQI指标 获取途径 取值 单项得分公式 单项得分 权重
覆盖性 信号弱
退服小区占比 OMCR % max(0,(-E2)
*2000) %
弱场起呼小区占比 工具 max(0,(-E3)*500) %
每呼叫电路域系统间切换比 工具 max(0,(-E4)*500) %
每呼叫分组域系统间切换比 工具 max(0,(-E5)*500) %
弱覆盖小区占比 工具 max(0,(-E6)*250) %
系统间重选频次 工具 max(0,(2-E7)*50) %
覆盖性 信号弱 位置区更新成功率 核心网 max(0,(E28-0)*1000) %寻呼成功率 核心网 max(0,(E29-0)*1000) 97..94 %
根 据 用 户 感 知 调 查 结
果,反复2和3步骤,最终使
加权公式与用户调查QoE值
相拟合;与实际调查QoE值
进行对比分析、调整差异。
拟合主要有2种手段,
一是调整容忍区间,二是修
改权值比,最终使加权公式
得到的分值与用户调查的
QoE值相一致。若容忍区间
和权值比已设置合理,还是
无法拟合的话,可通过常数
项来平衡这两者的差值。用
户调查获得Q1,即网络信
号覆盖满意指数,值为
分;而KQI-QoE加权公式
得到的分值为分,由
于加权公式已设置合理,因
此只能通过常数来平
衡两者的差值。即
表4 覆盖类KQI指标容忍区间
定义类型 KQI指标项 评分标准 含义
覆盖性
退服小区占比 占比区间[0,5%]对应分数区间[100,0]
退服占比为0%,为100分;
退服占比为5%或者超过5%,则为0分;
区间内按比例递增,逐步减分。
弱场起呼小区
占比
占比区间[0,20%]对
应分数区间[100,0]
弱场起呼占比为0%,为100分;
弱场起呼占比为20%或者超过20%,则为0
分;
区间内按比例递增,逐步减分。
每呼叫电路域
系统间切换
比
占比区间[0,20%]对
应分数区间[100,0]
切换比为0%,为100分;
切换比为20%或者超过20%,则为0分;
区间内按比例递增,逐步减分。
每呼叫分组域
系统间切换
比
占比区间[0,20%]对
应分数区间[100,0]
切换比为0%,为100分;
切换比为20%或者超过20%,则为0分;
区间内按比例递增,逐步减分。
弱覆盖小区占
比
占比区间[0,20%]对
应分数区间[100,0]
弱覆盖占比为0%,为100分;
弱覆盖占比为20%或者超过20%,则为0分;
区间内按比例递增,逐步减分。
系统间重选频
次
频次区间[0,2]对应分
数区间[100,0]
重选频次为0次,为100分;
重选频次为2或者超过2次,则为0分;
区间内按次数递增,逐步减分。
TD网络寻呼
成功率
成功率区间[90,100]
对应分数区间
[0,100]
寻呼成功率为90%或者低于90%,为0分;
寻呼成功率为100%,则为100分;
区间内按次数递增,逐步加分。
位置更新成功
率
成功率区间[90,100]
对应分数区间
[0,100]
寻呼成功率为90%或者低于90%,为0分;
寻呼成功率为100%,则为100分;
区间内按次数递增,逐步加分。
62 2011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
(4)把QoE-KQI模型用线性矩阵表示,并获取KQI
至QoE的映射关系模型系数矩阵
(5)建模方法1—基于综合指标获取KQI的建模公式
由本文后附表1得到完整的CS业务的用户感知综合
指标体系,以及单项得分值和加权后的K值评分。然后,
再通过上面介绍的覆盖性指标建模公式得出相同的方
法,及K1的到Q1的拟合公式,确定比例因子,常数参数
修正方法,可以得出基于综合指标的CS业务用户感知的
完整建模公式。
将QoE与KQI整合在一起,用矩阵形式表示:
并获得系数矩阵为:
*
得到常数修正值如表6:
表6 常数修正值
因子 KQI QoE 常数修正值
1
2
3 86
4
5 88
6
(6)建模方法2——基于网管性能统计的建模公式
用相同于CS业务用户感知的完整建模公式建立方
法,可以建立基于网管性能统计的建模公式,即得到建
模 方 法 2 的 建
模公式及常数
修正值,见本
文后附表2。
将QoE与
KQI整合在一起,用矩阵形式表示:
并获得系数矩阵为:
*
632011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
得到常数修正值如表7:
表7 常数修正值
因子 KQI QoE 常数修正值
1
2
3 86
4
5 88
6
建模效果分析
方法1基于综合指标的KQI得分要偏低于用户调查
QoE值。其中以网络覆盖指数K1比较差,主要由于弱覆
盖小区比例高所致;其次由于弱覆盖引起的掉话指数K4
也较为偏低,方法2基于网管性能统计部分KQI得分要好
于实际用户感知QoE得分;并且网络信号覆盖暂无法统
计。K3值偏低主要由于UP干扰小区比例偏高所致。两种
建模方法对比如图2所示:
图2 两种建模效果对比
通过图2建模和效果分析,2种不同统计方法建立的
模型与实际用户感知QoE值还是存在误差。误差原因:一
方面,由于用户感知调查QoE采集样本点较少,QoE值没
有完全反映网络状况;另一方面,数据的统计方法也存在
局限性,有待改进。不过,从整体效果看,基于综合指标
的方法1使用多种指标获取方式,考虑的网络因素的方面
多,因此建模效果较好,能够更加准确的评价网络;因
此,建议还是采用方法1的KQI-QoE建模方法。
3 结束语
本文通过分析传统KPI指标体系存在的不足,提出了
客户感知体系建立原则与方法,并详细阐述了山东客户
感知指标评估体系建模过程,基于本文的分析结果,将
为运营商指标体系架构与性能评估提供有益的帮助。
【作者简介】
位 莅:工程师,硕士,现就职于
山东移动公司,主要研究方向为
移动通信网络管理。
吕雪峰:工程师,硕士,现就职
于山东移动公司,主要研究方向
为移动通信网络优化与管理。
王治国:工程师,硕士,现就职
于山东移动公司,主要研究方向
为移动通信网络规划与优化。
参考文献
[1]李世鹤. TD-SCDMA第三代移动通信系统标准[M]. 北
京: 人民邮电出版社,2003.
[2]啜刚. CDMA无线网络规划与优化[M]. 北京: 机械工业
出版社,2004.
[3]北京中网华通设计咨询有限公司. CDMA网络工程设
计[M]. 北京: 电子工业出版社,2005. ★
64 2011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
附表1 CS业务KQI指标加权公式
类别 用户感知 中兴KQI指标
获取
途径 取值 单项得分公式 单项得分 权重 加权公式
加权后
得分
覆
盖
性
信号弱
退服小区占比 OMCR % max(0,(-E2)*2000) %
max(0,(-E2)
*2000)*10%
+max(0,(-E3)
*500)*10%
+max(0,(-E4)
*500)*15%
+max(0,(-E5)
*500)*15%
+max(0,(-E6)
*250)*15%
+max(0,(2-E7)*50)
*10%
+max(0,(E28-0)
*1000)*10%
+max(0,(E29-0)
*1000)*10%
72,27
弱场起呼小区
占比 工具 %
max(0,(-E3)
*500) %
每呼叫电路域系
统间切换比 工具 %
max(0,(-E4)
*500) %
每呼叫分组域系
统间切换比 工具 %
max(0,(-E5)
*500) %
弱覆盖小区占比 工具 % max(0,(-E6)*250) %
系统间重选频次 工具 max(0,(2-E7)*50) %
接
入
CS接入
时延长
TD始发语音业务
平均建立时长 网管
min(100,max(0,8-
E8)*50) % min(100,max(0,8-E8)
*50)*15%
+min(100,max(0,8-
E9)*50)*15%
+min(100,max(0,8-
E10)*50)*15%
+min(100,max(0,8-
E11)*50)*15%
+min(100,max(0,8-
E12)*51)*20%
+min(100,max(0,8-
E13)*52)*20%
TD终接语音业务
平均建立时长 网管
min(100,max(0,8-
E9)*50) %
TD始发VP业务平
均建立时长 网管
min(100,max(0,8-
E10)*50) %
TD终接VP业务平
均建立时长 网管
min(100,max(0,8-
E11)*50) %
语音业务DT接续
时长 DT
min(100,max(0,8-
E12)*51) %
VP业务DT接续
时长 DT
min(100,max(0,8-
E13)*52) %
CS接通
问题
退服小区占比 OMCR % max(0,(-E14)*2000) %
max(0,(-E14)
*2000)*20%
+max(0,()
*2000)*30%
+max(0,(-E16)
*500)*20%
+max(0,()
*1000)*15%
+max(0,()
*1000)*15%
TD语音业务无线
接通率 网管 %
max(0,()
*2000) %
高UpPTS干扰小
区占比 网管 %
max(0,(-E16)
*500) %
语音业务DT无线
接通率 DT %
max(0,()
*1000) %
VP业务DT无线接
通率 DT %
max(0,()
*1000) %
保
持
性
CS掉话
弱覆盖小区占比 工具 % max(0,(-E19)*500) %
max(0,(-E19)
*500)*30%
+max(0,(-E20)
*2000)*30%
+max(0,(-E21)
*2000)*20%
+max(0,(-E22)
*2000)*20%
TD语音业务无线
掉话率 网管 %
max(0,(-E20)
*2000) %
语音业务DT
掉话率 DT %
max(0,(-E21)
*2000) %
VP业务DT掉话率 DT % max(0,(-E22)*2000) %
652011年第3-4期
“TD-SCDMA网络优化与运营”专题
责任编辑:林 菊 linju@
完
整
性
CS通话
质量
VP业务
上行误块率 网管 %
max(0,-E23)
*2000 % max(0,-E23)
*2000*15%
+max(0,-E24)
*5000*15%
+max(0,(-E25)
*2000)*15%
+max(0,-E26)
*5000*15%
+min(100,max
(0,E27-2)*50)*40%
语音业务
上行误块率 网管 %
max(0,-E24)
*5000 %
VP业务下行
误块率 DT %
max(0,(-E25)
*2000) %
语音业务下行误
块率 DT %
max(0,-E26)
*5000 %
语音质量EMI/语
音质量EMI满分 DT
min(100,max
(0,E27-2)*50) %
覆盖
性
信号弱
位置区更新
成功率 核心网 %
max(0,(E28-0)
*1000) %
寻呼成功率 核心网 % max(0,(E29-0)*1000) 97..94 %
附表2 基于网管KQI指标加权公式
类别 用户感知 KQI指标
获取
途径 取值 单项得分公式
单项
得分 权重 加权公式
加权后
得分
覆盖性 信号弱
接入性
CS接入
时延长
TD始发语音业务
平均建立时长 网管
min(100,max
(0,8-E3)*50) %
min(100,max
(0,8-E3)*50)
*30%
+min(100,max
(0,8-E4)*50)
*30%
+min(100,max
(0,8-E5)*50)
*25%
+min(100,max
(0,8-E6)*50)
*25%
TD终接语音业务
平均建立时长 网管
min(100,max
(0,8-E4)*50) %
TD始发VP业务平
均建立时长 网管
min(100,max
(0,8-E5)*50) %
TD终接VP业务平
均建立时长 网管
min(100,max
(0,8-E6)*50) %
CS接通
问题
退服小区
占比 OMCR %
max(0,(-
E7)*2000) %
max(0,(-
E7)*2000)*30%
+max(0,(E8-
)*2000)
*40%
+max(0,(-
E9)*500)*30%
TD语音业务无线
接通率 网管 %
max(0,(E8-
)*2000) %
高UpPTS干扰小
区占比 网管 %
max(0,(-E9)
*500) %
保持性 CS掉话 TD语音业务无线掉话率 网管 %
max(0,(-
E10)*2000) %
max(0,(-
E10)*2000)
完整性 CS通话质量
VP业务上行误
块率 网管 %
max(0,-E11)
*2000 % max(0,-E11)*2000*50%
+max(0,-
E12)*5000*50%
语音业务上行误
块率 网管 %
max(0,-
E12*5000 %