首先要选择适当的评价指标,初步构建出评价指标体系。构建评价指标体系的过程中,关键要明确评价的基本要素,这些基本要素要能够反映网络数据库的基本特征,并且能够量化表达。由于网络数据库本身的影响因素较多,各因素之间也存在较为复杂的关系,若对所有影响因素进行调查和评价,在实际工作中会有很大难度,而且从本文评价目的来看也没有必要,因此本文从以下几个方面来完成网络数据库评价指标的选择和评价指标体系的构建。
1. 描述功能:评价指标体系应该能够从收录文献内容、数据库功能和用户使用情况等全方位描述网络数据库建设现状;
2. 评价功能:评价功能是评价指标体系最基本的功能,不仅能够对一个网络数据库做出整体上的描述,而且能够对每个结构层做出比较评价,进而构成一个科学全面的总体评价;
3. 指导功能:评价指标体系的指导功能主要体现在对网络数据库未来发展方向的引导上,能够反映网络数据库建设的未来发展趋势,指标选择上应该符合网络数据库发展策略。利用评价指标体系对网络数据库进行评价,可以比较出各层次的优劣,有利于改进和完善网络数据库的建设。
建立网络数据库评价指标体系,除了评价指标体系普遍遵循的原则,还需要考虑网络数据库自身的特殊性,综合起来大致如下:
1. 全面性与共性相结合:在建立网络数据库指标体系时,首先要考虑这些指标是否全面,能否完整地反映网络数据库的各种内容、功能和特点,即强调对资源的整体评估。同时,也要考虑这些指标的共性,个别网络数据库因特殊需要设立而其他网络数据库根本不需要设立的内容和功能不属于共性指标,不能列入指标体系中。
2. 定性与定量分析相结合:将反映网络数据库基本特点的定性指标进行定量化、规范化处理,既可以使评价具有客观性,便于数学模型的处理,又可以弥补单纯定量或者定性评价方法上的不足,避免数据本身可能存在的缺陷。
3. 系统性与层次性相结合:指标体系的组成应是一个多层次结构,能反映出网络数据库各方面的特征,同时要能反映出各要素间的相互联系。指标的选择应从整体上把握评价目标的协调程度,以保证评价的全面性和可信度。
4. 动态性与静态性相结合:评价网络数据库指标既是目标又是过程,因此,评价指标应反映出评价目标的动态性特点。各指标对时间和空间的变化具有一定敏感度,但在一定时期内,指标体系应保持相对稳定性。
5. 可比性与可操作性相结合:评价的基础和目的就是相互比较,因此设置评价指标要尽量保证横向及纵向的可比性。指标获取应尽可能客观便利,计算方法应尽量简单科学。
6. 不相容性:每个指标都要有明确的含义和目标导向,避免出现模糊含义的指标,同时指标选择与层次划分要符合逻辑思维。即指标的概念要明确,明确规定所有统计界限、所有指标的实质含义和指标的计量单位;数据要准确,应考虑有利于取得准确数据。
7. 多角度性:许多指标体系是从某一个角度建立起来的,但我们发现,从单一角度建立的指标体系固然有一定的合理性,能够比较单纯地反映某一方面的内容,但是在完整性上有所缺失,因此,本文在建立网络数据库指标体系时,充分考虑到多角度性,从多个方面建立多个评价指标。
8. 实用性:建立的指标体系是否实用可行,是不容忽视的问题。一般说目标分解越细,评估也越精确;但条目过细过繁,不仅给评价的实施带来困难,而且容易出现主次难分,评价重点被弱化的问题,影响评价工作的执行效率和质量。
9. 侧重收录资源内容及用户使用功能:网络数据库建立的目的,就是为网络用户提供有价值的信息资源。因此,指标选取侧重于收录信息资源状况及如何获取收录的信息资源。
一个合理科学的评价指标体系需要考虑到相关领域,融合相关领域专家的意见和建议。同时,为了尽可能地减少人为因素的干扰,各项指标的权重需要科学的、逻辑的、精确的计算。在这两个前提和要求下,本课题最终确定了采用网上特尔菲法与指数标度改造的层次分析法相结合来确定网络数据库的评价指标体系。
1. 网上特尔菲法
特尔菲法的名称来源于古希腊神话。特尔菲(Delphi)是古希腊传说中的一个地名。当地有一座阿波罗神殿,是众神聚会占卜未来的地方。人们把特尔菲看作是能够预卜未来的神谕之地,特尔菲法由此得名。特尔菲法的含义就是通过卓越人物来洞察和预见未来。作为一种专家调查法,特尔菲法是在专家个人判断法和专家会议调查法的基础上发展起来的一种直观判断和预测方法。
特尔菲法最早出现在20世纪50年代末期,用于军事战略决策。1964年,美国兰德公司赫尔默(Helmer)和戈登(Gordon)首次将特尔菲法应用于科技预测,此后,特尔菲法迅速在美国和许多其他国家广泛应用。特尔菲法除了用于科技预测外,还广泛用于政策制定、经营预测、方案评估等方面。发展到现在,特尔菲法在信息分析研究中,特别是在预测中占有重要的地位。据1975年联合国教育研究所对几种主要的预测方法的使用情况所做的调查中,专家预测法(以特尔菲法为主)的使用率占被使用预测方法总数的24.2%。
特尔菲法有如下三个主要特点:
(1)匿名性:特尔菲法不像专家会议调查法那样把专家集中起来发表意见,而是采取匿名的发函调查的形式。受邀专家之间互不见面,亦不联系,它克服了专家会议调查法易受权威影响,易受会议潮流、气氛影响和其他心理影响的缺点。专家们可以不受任何干扰独立地对调查表所提问题发表自己的意见,不必做出解释,甚至不必申述理由,而且有充分的时间思考和进行调查研究、查阅资料。匿名性保证了专家意见的充分性和可靠性。
(2)反馈性:由于特尔菲法采用匿名形式,专家之间互不接触,受邀各专家都分别独立地就调查表所提问题发表自己的意见,仅靠一轮调查,专家意见往往比较分散,不易做出结论,而且各专家的意见也容易有某种局限性。为了使受邀的专家们能够了解每一轮咨询的汇总情况和其他专家的意见,组织者要对每一轮咨询的结果进行整理、分析、综合,并在下一轮咨询中匿名反馈给每个受邀专家,以便专家们根据新的调查表进一步的发表意见。经典的特尔菲法一般要经过四轮咨询。反馈是特尔菲法的核心。在每一轮反馈中,每个专家都可以参考别人的意见,冷静地分析其是否有道理,并在没有任何压力的情况下进一步发表自己的意见。多次反馈保证了专家意见的充分性和最终结论的正确性、可靠性。
(3)统计性:在应用特尔菲法进行信息分析研究时,对研究课题的评价或预测(例如,对研究对象的各项指标及其相对重要性的评价,或是对研究对象的实现时间、条件和手段的估计,等等)不是由信息分析研究人员做出的,也不是由个别专家给出的,而是由一批有关的专家给出的。由此,对诸多专家的回答必须进行统计学处理。所以,应用特尔菲法所得的结果带有统计学的特征,往往以概率的形式出现,它既反映了专家意见的集中程度,又可反映专家意见的离散程度。
为了便于对应答专家意见的统计处理,对调查表的设计中多采用表格化、符号化、数字化。特尔菲法的统计性特点有利于将一般定性问题用定量化方法处理,并以定量结果表述 。
本文在实施特尔菲法的过程中,充分运用了计算机网络时代特点,建立了专门网站(http://irm.nju.edu.cn/question),用于发布专家调查表,为专家分配了账号密码,直接在网上填写调查表,并能在线动态显示相关统计数字,具有以下优点:
(1)经典的特尔菲法应该包括四轮调查,本文由于事先已做了大量分析及调研,并将调研成果体现到第一轮调查表中,因而实际采用的是减轮特尔菲法,将专家调查缩短为三轮。
(2)采用电子文档形式,将设计好的调查表直接做成网页,免去了数百份调查表的打印、邮寄分发和回收,大大节约了时间和成本。特尔菲法中比较耗时的环节就是调查表的分发和回收,加之专家有时不能准时寄回反馈内容,调查周期就会被不断拉长。采用网上调查,直接以电子邮件的形式告知专家调查表网址、用户名、密码和填写要求,专家随时可以填写。
(3)在网站设计中也考虑到调查的内容比较多,个别专家可能无法一次填完,设计网页时,把专家每次填写的内容进行暂存,以备下次接着填写,直到全部完成之后,点击“完成”按钮确认提交即可。
(4)采用网上调查,可以实现后台管理,专家在前台打分,后台可以在线显示专家的打分情况,专家填写过程中出现任何问题都可以及时发现、纠正、解决。
(5)数据统计处理快捷方便:采用网上填写调查表,可以在后台自动运行程序,实现对调查结果的统计处理,自动反馈发布统计结果,节省了时间和人力,最大限度地提高了调查效率。
特尔菲法是以定性为主要方法的一个代表,其进行预测的基本特征是属于直观性预测,这既是优点又是其弱点,因为直观的判断难免不严密,往往缺少严格的推理论证,受人的主观因素波动影响也较大。因此在确定各项指标的权重时,我们通过特尔菲法得出数据,对其进行处理、计算,最终运用层次分析法得出各项指标权重,并通过一致性检验。
2. 层次分析法
层次分析法(Analytic Hierarchy Process,简称AHP法)是美国著名运筹学家萨蒂(Thomas L. Saaty)在20世纪70年代提出的一种定性与定量完美结合的半定量方法。于1982年传入我国,由于AHP在解决多目标决策问题方面具有比其他方法简便实用的特点,因而被广泛采用。特别适合处理社会经济系统中难以完全定量的复杂问题。
AHP的基本思路是:首先找出解决问题涉及的主要因素,将这些因素按其关联、隶属关系构成递阶层次模型,通过对各层次中各因素的两两比较的方式确定诸因素的相对重要性,然后进行综合判断,确定评价对象相对重要性的总排序。
AHP的基本步骤:(1)将问题概念化,找出研究对象所涉及的主要因素;(2)分析各因素的关联、隶属关系,构造系统的递阶层次结构;(3)对同一层次的各个因素关于上一层次中某一准则的重要性进行两两比较,构造判断矩阵;(4)由判断矩阵计算被比较因素对上一层次该准则的相对权重,并进行一致性检验;(5)计算各层次因素相对于最高层次,即系统目标的组合权重,进行层次总排序,并进行一致性检验 。
3. 标度系统
标度是将人们的定性分析转化为定量分析的桥梁,使用层次分析法关键的第一步,就是如何选择合适的标度系统来构造因素之间的判断矩阵。因为标度系统决定了判断矩阵的量化数值,不同的标度系统所构造的判断矩阵一致性不同,标度系统本身的优劣直接影响着判断矩阵构造,影响到权重计算及排序的结果。标度系统选择得不合理,将直接导致最终决策的失败。
传统层次分析法运用1—9的比例标度来建立判断矩阵,存在着较大主观性的缺点。广西大学吕跃进教授做了许多该方面的研究,从标度运算封闭性、构造一致判断矩阵的能力、标度值与重要性程度等级的对应方式和排序方法的协调、重要性量化、思维判断一致性与矩阵一致性关系等各个方面来考察标度系统(包括1—9标度、3标度、9/9—9/1标度、指数标度等),得出的结论是:指数标度系统具有良好数学结构,是唯一满足全部指标要求、与实际排序相符的优秀标度 。因此,本次研究在层次分析法应用中,舍弃了1-9标度系统,采用更科学合理的指数标度系统a n (n=0—8,a=1.316)来建立判断矩阵。