电子政务审计中的评估方法
一、电子政务的基本概念
(一)电子政务概念。电子政务的概念有很多种,有人将电子政务定义为一些具体的政务活动,如从网上获得工作职位信息,申请社会保险费以及交纳各种税收等。另外一些人则将电子政务定义得更为宽泛,认为电子政务是政府为公众提供服务的自动化过程。加特纳小组(The Gartner Group,著名的计算机科学研究机构)2002年将电子政务定义为:旨在提高政府服务水平、公众参与意识以及优化政务过程,通过互联网以及信息传输技术所进行的内外部公共部门关系的转换。美国国会、欧盟委员会、联合国以及最高审计机关国际组织的定义都与之类似。从字面上来看,大部分电子政务的定义都把其特点与作用联系起来。
(二)电子政务特点。首先,与传统的电话、传真、邮件相比,互联网已成为政府提供电子政务服务的主要方式。其次,公众的需要成为电子政务建设的重要因素,为了达到这个目标,政府机构应该根据客户(公众、公共服务的使用者、公司以及其他政府机构)的真实需要来建设电子政务系统,而不是按照传统的思维如考虑如何简单、速度更快或者根据他们自认为公众需要什么来建设。除此之外,电子政务的其他特点还包括实时处理、无纸化环境、自动化过程、前后台整合以及对信息技术的依赖等。
(三)电子政务的作用。(1)有利于政府提供更好的服务。通过政府服务门户,可以使客户在任何时间任何地点公平有效地获得所需要的服务和信息,非常方便。另外在时间的节省、服务的质量、可持续性、信息的可靠性以及服务方式的选择方面,电子政务系统都具有不可比拟的优势。(2)有利于提高政府工作的效率。虽然没有足够多的数据证明电子政务的确为政府提高了效率、节约了成本,但政府在开展电子政务建设方面仍然很有动力。根据Mechling和Vincent在2001年的报告,客户的自助服务、可靠性的增加、更少的人工干预以及数据库共享等因素能够大量减少交易成本,提高生产率,并增加安全性。(3)有利于在政府和公众之间建立良好的关系。在电子政务下,公众对政府决策过程的参与、政府活动和支出信息的增加使得政府透明度的增加等,都能帮助建立这种良好关系。(4)其他社会效益。除此之外,电子政务的发展还能间接地促进经济发展。比如说中小企业与政府打交道的成本降低,电子政务通过互联网提高对游客的吸引力等,都能促进企业以及地区经济的发展。
(四)电子政务的参与者。电子政务的参与者包括政府、公众和企业等。政府和公众的关系简称G2C,政府与企业的关系简称G2B,政府与政府之间的关系简称G2G。这些参与者的动机各有不同,但都有一个共同的目标,那就是在电子政务活动中给予或获得高效、可靠、高质量的服务。
(五)电子政务发展阶段。虽然国与国之间或政府各领域之间电子政务的发展程度不同,但都一个共同的目标,即利用信息技术,将政府从一个有着等级制度、提供有限服务的政府转变为着眼公众,能够24小时提供自动化服务的政府。因此,我们不仅可以通过部门来划分政府,而且还可通过电子政务的发展水平和阶段来划分。常见的划分标准有加特纳小组在2000年提出的电子政务模型,把电子政务发展分成四个阶段:存在、交互、交易、转化。还有欧盟委员会2003年提出的四阶段:信息、单向交互、双向交互和交易。以及联合国经济与社会事务部提出的五阶段:出现、提高、交互、交易、网络化。这些模式相互之间存在类似之处,并且相互补充,我们在对这些模型进行分析的基础上,提出电子政务发展的五个发展阶段。
1.信息存在阶段,主要是有限的静态信息的消极存在,比如说将机构信息小册子转化为电子版等。
2.信息检索阶段,提供基本的信息检索服务,相关数据的链接等。信息由政府向公众单向流动。
3.有限的交互阶段,用户能够打印表格、填写并通过邮件或传真传回公共机构,这种服务能够省去打电话或亲自去政府办公室的麻烦。
4.电子交易阶段,公众可以通过这种双向的交互完成业务。比如说在线缴纳税费、在线咨询和注册登记以及参与在线政府拍卖等。
5.电子政务整合阶段,通过政府与客户之间的单点接触以及政府机构透明度的增加,重新定义政府提供的公共服务。用另外一句话来说,就是要消除部门间的隔阂,将以部门为中心转变为以客户为中心。
二、评估方法
(一)评估的必要性。机构为了完成目标,应该弄清所处的现实情况以及与目标有关的内外部影响因素。评估能够帮助管理者弄清所选择的方向是否与其行为一致,是否需要改变实现目标的方法。评估还能够帮助管理者控制项目完成的进程。因此,主管电子政务建设的管理者需要像其他项目一样,衡量电子政务项目的结果、影响和收益,从而判断政府的支持和财务支出是否值得。评估应该在合适的时间实施,以便于决策者们进行决策。
(二)评估方法的种类。评估显然是非常重要的,但更重要的是要建立一套公众、公司和政府自己都能够普遍接受的衡量效益的指标体系和标准。政府机构能够用这套标准衡量所有的项目,从而能够在各自领域内尽其所能地管理好所用的资源。评估可以分为总体评估和具体应用评估。总体评估从总体上或中央政府层面衡量电子政务项目的进展和结果,可以分为五种:发展阶段的划分、基准点、背离战略目标报告、对中央政府的责任、政府项目评估等。具体应用评估衡量的是某个应用的结果,评估指标有5个,主要是客户满意度和渠道使用率等,其他的指标如生产率、投资成本和回报也可以衡量,但在电子政务项目中很少使用。这就是我们所说的电子政务评估的10个要素。
(三)评估模型。电子政务的评估模型(如下图所示),是由Dias提出的。从模型图中我们可以看到,电子政务的特点包括电子通讯渠道、公众需要、实时处理、无纸化环境、自动化过程、前后台整合、对信息技术的依赖等;电子政务的作用包括更好的服务、更高的效率、政府与社会之间良好的关系等;电子政务的参与者包括政府、公众、企业等;电子政务的五个发展阶段:信息存在阶段、信息检索阶段、有限交互阶段、电子交易阶段和电子政务整合阶段;以及电子政务的评估方法,包括总体评估方法和具体项目评估方法等。电子政务模型可以作为对电子政务项目进行效益审计的起点。
电子政务评估模型示意图
三、评估案例
这里以巴西审计法院TCU审计组在2005年8月至11月完成的电子政务审计为例来说明电子政务审计的评估模型。此次审计中审计组应用了10个电子政务评估要素中的2个,即项目评估和客户满意度评估,其他8个还有待于发展完善,以完善整个电子政务的评估模型。
(一)评估模型。
此次审计的目标是从公众的角度来衡量巴西电子公共服务提供的水平,而巴西电子政务项目的目标正是“通过电子技术手段扩大并提高公共服务和信息的质量”,因此审计评估模型将“更好的服务”上作为电子政务的作用,并以政府对公众的服务(G2C)作为相关的参与者背景。由于信息存在和信息检索阶段对于提供电子公共服务没有什么参考意义,因此审计把有限交互和电子交易阶段作为选择电子政务服务的标准。在电子政务评估方法的选择上,审计组选择了总体评估中的项目评估方法,这是因为项目评估方法不仅具有综合性,而且提供了不同的分析方法和评估标准,放弃了阶段划分、责任、战略目标等方法,因为这些方法与审计重点关系不大,放弃了基准点方法,因为基准点方法更适合于电子政务发展的后几个阶段。在项目评估方法中,审计组把效益、质量以及制度性联系作为审计的度量指标。由于审计的重点在于从公众角度评估政府通过互联网开展服务的能力,评估方法最好选择数据来源于公众的方法,如民意测验等。其他评估具体电子政务应用的方法,如评估渠道使用率、生产率、客户满意度、成本节省以及投资回报等,提供服务的政府机构可能比接受服务的公众更感兴趣。审计中采用的电子政务客户满意度指标,根据Dias在2005年提出的客户满意度评估模型,包括网络门户识别的容易程度、在线服务识别的容易程度、可获得性、有用性、可用性、可靠性、个人资料隐私和信息安全、便利性、响应率、合时性。
(二)审计策略。
为了开展电子政务效益审计,在选择所要审计的电子公共服务时,有必要将审计范围限制在已经实际开展过电子政务服务的部门。因此,应先向联邦公共管理部门了解电子政务服务的整体情况。在调查了解的45个部门中,教育部、社会福利部、卫生部、劳动和就业部被选为审计的重点范围,因为这些部门在提供公共服务、促进巴西人民生活水平提高方面发挥了重要作用。虽然这些部门在各自领域内有所不同,但他们的社会目标都是相同的,都致力于公平对待每一个受益人,尤其是当通过互联网提供电子政务服务的时候更是如此。就像在传统的大众传媒所看到的那样,所有的人都被当作“匿名”的观众而已。因此,不同领域内服务的选择就不是审计结果分析的限定因素,而是进一步加强了这种结果。
在这种情况下,审计组决定在每一个社会领域选择一项电子政务服务来进行审计,这项电子政务服务应直接与政府目标相关,在管理者优先考虑的范围内,并在演化阶段中划分为电子交易阶段。选定的电子政务服务包括教育部的公共域门户服务、社会福利部的疾病保险、带薪产假和死亡批准服务、劳动和就业部的国家初次就业项目。尽管2005年的所得税申报减免对于社会公众来说是一项负担而不是收益,但是此项服务涉及到少数弱势社会阶层,根据巴西电子政务项目电子技术委员会主任的建议,这项电子政务服务仍然包括在审计范围内。
(三)数据采集方法。
审计中还采用了很多专门的数据采集方法,其中既有定量的方法如问卷调查,又有定性的方法如文档检查、分析和质量控制技术方法、访谈、启发式评估和界面测试以及焦点小组等。
1.文档检查。文档检查法除了能够了解项目和电子公共服务的相关背景之外,还按照所选择的效率、质量和制度性联系等指标来评估电子政务项目。应用此方法的难点在于不同部门出台的规定和法律的信息分割,以及缺乏项目相关文档的统一的地点或电子入口。
2.分析和质量控制方法。传统项目评估中所采用的分析和质量控制方法在了解项目背景以及评估电子政务项目和所选择的服务的时候发挥了很重要的作用。这些控制方法包括利益相关人分析、SWOT分析、风险表、计划和发现矩阵。利益相关人分析则在审计中确定作为信息来源的主要参与者的时候发挥作用。SWOT分析 和风险表能够分别确定项目的优势和弱势,以及项目的风险,从而确定评估的重点。计划和发现矩阵能够组织项目和所选择的公共服务的评估计划的有关信息和结果。最后专家小组验证所采用的方法。运用这些技术和工具支持审计发现并不难。
3.访谈。访谈除了能够深入了解项目及其电子公共服务的背景之外,还能根据效率、质量及制度性联系等指标来评估电子政务项目,除此之外,还可以通过具体应用的满意度评估的10个指标来衡量,这些指标包括网络门户识别的容易程度、在线服务识别的容易程度、可获得性、有用性、可用性、可靠性、个人资料隐私和信息安全、便利性、响应率、合时性等。访谈由项目管理人员、技术委员会主任和电子公共服务的管理人员共同参与。访谈也可以用来收集定量的数据。访谈的难点在于对结果的分析,而不是开展访谈的具体过程。
4.启发式评估 和界面测试。除了能够在较小范围内提供联邦电子政务项目评估的相关数据之外,对电子公共服务网络门户的启发式评估和界面测试还能了解这些服务的相关背景,并且还能通过以上提到的满意度评估模型的10个衡量指标来进行评估。使用这种技术的难点在于项目文件中给联邦公共管理部门网络门户管理人员提供的建议不够清晰和具体。另外主观方面评估所采用的自动化工具还很有限。审计中对电子政务服务网站进行启发式评估,最大的用处在于分析项目文档中提出的,确保电子公共服务更加方便快捷的建议是否得到遵循。
5.焦点小组。焦点小组方法既适用于网络门户和电子公共服务的管理者,又适用于项目技术委员会主任,以便听取不同的观点,从而采用其他的方法确认或改变所观察到的情况。要等所有人都到齐才开始计划访谈是不现实的。另外,在每个焦点小组中应确定三位成员记录笔记,这些笔记能够记载当时说了些什么,从而能够减少只有一位人员参与可能产生的理解错误。
如果技术委员会有一位成员说话很罗嗦,而且级别比较高,这将使得主持人不得不努力去引导成员间的讨论,使得下级能够在上级之前讲出他们的观点。在有网络门户和电子公共服务管理人员参加的焦点小组,情况正好相反。参与者很乐意自由地表达意见,并利用机会充分地交换彼此间的经验,没有任何保留。他们中的一些人还计划在焦点小组会议后,继续与其他小组成员开展讨论。
6.问卷调查。问卷调查方法既适用于网络门户和电子公共服务的管理者,又适用于他们的用户,从而能够搜集不同方面的观点。与其他方法如调查者与被调查者之间进行直接联系相比,问卷调查方法需要进行预先测试,以便尽可能地减少因为问题理解错误所造成的调查问卷填写错误。在准备问卷调查和分析调查结果的时候,需要依靠专家的支持。在审计过程中进行这种在线问卷调查是没有问题的,因为技术基础设施支持,并且管理者们都不反对通过在线满意度投票来评估自己的服务。他们中有人甚至还建议门户的所有交易服务都应包括在调查范围内。由于项目主任提供的个人记录已经过时,要联系联邦管理部的门户管理人员,并通过邮件给他们发送问卷调查的链接还有些困难。在调查问卷的设计上,由于注册的管理人员数量并不多,因此没有必要将发给他们的调查问卷进行细分,而给电子公共服务的使用者所发送的调查问卷就需要细分。
这种没有事先确定样本数量的在线调查,缺点是不能像传统调查那样统计回应率,因为不能确定有多少人本来能够回答问卷,却没能回答问卷。在此次审计中,根据计算样本量的公式,我们认为在每个电子政务服务中,只要收集超过384份调查问卷,就足以代表与所调查的服务相关的人群。在带薪产假、死亡抚恤和公共域服务的例子中,由于填写的调查问卷不足(少于384份),审计组就没有对这些服务所搜集到的数据进行分析。除了我们上面所说的服务之外,其他服务的用户(4505人)非常乐意填写在线问卷调查,并利用这个机会与管理人员进行沟通,提出表扬或批评,并给予建议。在所有的回应者中,有20%(905人)提出了建议和意见,有51%(2301人)提供了参与电话访问的个人资料。很多在线调查的回应者表达了参与电话访问的意愿,但审计时间的限制使得没法再进行访问。
综上所述,分析和质量控制方法能够应用于所有社会项目的评估,涵盖所有的审计发现。访谈、焦点小组和问卷调查也几乎能用于所有的审计发现,而文档检查、启发式评估(包括界面测试)等在特定领域更加适用。
资料来源:最高审计机关国际组织IT审
计委员会《into IT》杂志
编 译:审计署审计科研所 李俊
校 对:审计署审计科研所 崔孟修
主题词:审计 电子政务 评估 方法
报:署领导。
送:各省、自治区、直辖市审计厅(局)及科研所,南京审计学院,署机关各单位,各特派员办事处,各派出审计局。
发:本所所领导、各处,存档。 共印180份
编辑:罗伟芳 审核:崔振龙 签发:刘英来
SWOT分析法又称为态势分析法,它是由旧金山大学的管理学教授于20世纪80年代初提出来的,是一种能够较客观而准确地分析和研究一个单位现实情况的方法。SWOT四个英文字母分别代表:优势(Strength)、劣势(Weakness)、机会(Opportunity)、威胁(Threat)。
启发式评估(Heuristic Evaluation)是让评估人员评估用户界面以及判断这些界面是否符合已经确立的可用性(Usability)规则,以发现界面设计中的可用性问题,并把它们作为界面再设计过程中所重视问题的可用性方法。
PAGE
PAGE 2