演练评估准备工作包括:制定评估方案;组建评估组,确定评估组组长、评估组成员,招募、培训和分配评估员,明确对评估小组的要求;开发评估员手册、应急演练评估表等评估文件;开预备会等。它是广义的演练计划和准备过程的一个组成部分,也是确保应急演练评估顺利完成的第一步。
为提高应急演练的工作质量,应编制应急演练评估方案,为应急演练评估工作确立连贯的行动程序和指南。
制定应急演练评估方案之前,应做好应急演练评估的需求分析,初步确定评估工作的内容、程序、拟采取的方法以及为了有效观察演练所需要的工具、主要技术和人员等。应急演练评估需求分析应依据演练计划、演练方案等文件进行。
评估方案应以演练方案为主要依据,由预定的评估组组长负责组织制定。评估方案也是编制评估手册的重要依据,通常评估方案的内容也是评估手册的主要内容。
应急演练评估方案通常包括以下要素:
(1)演练信息:应急演练目的和目标、情景描述,应急行动与应对措施简介等。
(2)评估内容:依据演练目标,通常包括应急演练的指挥、决策和执行,信息沟通与媒体应对,以及演练组织行为等方面内容。
(3)评估标准:应依据我国突发事件处置相关法律法规、国内外处置突发事件的标准流程和工作程序、应急预案确定的要素和措施以及具体的演练方案建立评估标准。评估标准要具有科学性、可操作性、目的性和指导性。
(4)评估程序:为保证评估结果的准确性,针对评估过程做出的程序性规定。
(5)评估员:确定评估员组织结构与职责,明确评估员位置。评估员负责制定评估工作方案。
(6)附件:应急演练评估要用到的相关表格及相关工具、联络方式等。
主要是组建评估组,确立评估组组长与评估员,明确各自的工作任务与责任,并征召、培训、分配评估员。这是为评估工作提供组织与人员保障。
为了对演练进行更好的评估,应急演练要组建评估组。评估组负责设计应急演练评估计划,观察并记录演练情况,编写应急演练评估报告等。应急演练评估组可由上级部门组织,也可由演练组织者自行设置,还可邀请第三方专家或机构负责组织。评估组设组长1人,成员若干人。一般情况下,每3~4名参演者至少安排1名评估员。针对规模较大和参演者较多或多地点的演练,可设多个评估小组,评估组长可下设评估小组组长。评估组的组织结构图如图2-1所示。
图2-1 评估组的组织结构图
一个评估组的大小规模主要由以下几个因素确定:第一,演练的类型;第二,演练的目的;第三,演练的规模和复杂性。
在小规模的演练中,由于参与的组织和人数少,需要展示的目标和观察的位置数量有限,评估组的规模可以较小,包括1个评估组组长和一定数量的评估员即可,评估员直接向评估组长汇报。但在规模较大的演练中,参与的组织和人数多,需要展示的目标多,通常会需要一个规模较大的评估队伍,需要设置评估队伍负责人和多名评估小组组长。由评估队伍的负责人指导评估组组长和评估员完成应急演练评估任务。只有拥有足够规模的评估组,才能对演练目标的实现情况、参演组织和个人的表现做出全面评估。
评估工具包括用于记录的笔记本电脑、录音笔、摄像机,便于沟通和联系的通信设备(电话、对讲机等)。评估文件包括应急演练评估表、评估员手册、演练手册等。
评估组组长是演练评估工作的关键角色。首先,评估组组长应该是应急管理评估专家,熟悉应急预案、政策、程序和目标,熟悉突发事件指挥系统以及应急决策制定过程,熟知与演练相关的部门间的沟通协调方式方法。其次,评估组组长要具备管理能力,既能督查评估员在应急演练评估中的表现,又能掌控整个评估过程。最后,评估组组长要具备一定的分析技能,能够对演练目标进行充分而精确的分析。其职责是:
(1)组建和管理评估小组;
(2)对评估小组成员进行培训;
(3)领导和组织应急演练评估工作。
评估员是评估组成员,可来自演练组织内部或外部。如果是带有考核性质的应急演练评估工作,与演练组织单位或参演者有直接利害关系的人员不宜参加应急演练评估工作。参演地区领导也可以评估员的身份对应急演练过程进行评估。
(1)经过专门的应急演练评估培训,熟悉应急演练评估方式和方法,具有相关专业知识;
(2)熟悉国家有关应急管理的方针、政策和法律、法规,掌握国家应急响应标准和相关规定要求,具有突发事件的应急处置经验;
(3)具有敏锐的洞察力,并有诚实、客观、公正和专注的工作态度;
(4)了解应急演练活动的实施过程并熟悉演练活动文件的内容;
(5)服从评估工作安排并能够对本人的评估结论负责。
总的来讲,评估员的职责主要包括:第一,要理解演练的概念和熟悉场景;第二,要收集信息;第三,要观察参演者的讨论、决策与行动;第四,要参加热反馈和事后评估会议;第五,要分析演练行动,撰写演练后的评估报告。在演练的不同阶段,评估员的任务是不同的。
(1)演练前的任务。
●学习相关的应急政策、预案和程序;
●审核应急演练评估表(评估指南)和评估员手册;
●审核并熟悉演练场景、目标以及有关资料;
●熟悉应急演练评估表和与自己的职责相关的其他材料;
●参加演练前的指导和培训;
●参加演练评估员情况介绍会。
(2)演练期间的任务。
●对照有关预案、政策、程序和实践来监测、记录参演者的表现;
●使用应急演练评估表确认演练目标是否实现;
●重点记录应急演练评估表和演练计划所规定的关键任务;
●参加热反馈会议。
(3)演练后的任务。
●协助评估组组长统计分析评估数据;
●使用数据,确认演练的目标和计划是否得到有效实现;
●使用数据,总结归纳出演练中的成功之处和待改进之处,找寻根本原因,并提出改正建议和措施;
●根据统计分析结果和演练结束后的总结会内容、参演者反馈表等,撰写评估总结报告。
评估员的经验和专业知识是其进行评估最重要的工具。富有经验的评估员通常使用下列技巧来进行有效评估:
●使用应急演练评估表来确认演练目标是否得以实现;
●对观察到的重要行动(包括行动时间)进行详细记录;
●如果某一领域指派了多名评估员,则需要合理分工,以确保参演者的活动都能够得到详细记录和评估,没有遗漏;
●靠近参演者中的决策者;
●重点放在关键活动上。
选定评估组组长以后,就需要招募、分配和培训评估员,由评估组组长或评估工作负责人负责此项工作。主要工作为:决定需要招募评估员的数量;确定评估员必须拥有的专业能力;对评估员在演练中的角色、位置等进行分配;确定演练前评估员必须接受的培训和指导。
招募评估员时需要确定:评估员的数量和类型、评估员需要具备的技能的类型和评估员应具备的特质。原则上,招募的评估员应该主要由突发事件管理机构人员、应急处置机构的人员、国家或者地方相关机构的人员、具有应急管理经验的专家或教师等担任。被招募的评估员应该具备相关观察领域的工作经验和专门的技能。例如:指挥和控制、消防、紧急医疗救助、卫生防疫等领域的评估员都要有相应专业能力。
经常组织演练的单位应该考虑做一个长期规划,建立和发展一支受过训练的评估员队伍,这支队伍中的评估员可以根据需要参加应急演练评估。
应该根据评估员具有的专长、技能和经验将其分配到不同的演练功能领域。例如:当演练中涉及动物疫情时,具有畜牧防疫技能的农业专家就可以作为评估员分配到这个区域,这样他们可以准确观察参演者随着灾情发展所采取的防治措施;当演练涉及危险化学品的处置时,拥有危险材料专业知识的评估员可分配到这个区域,这样他们就能够观察排除污染的处置情况和个人保护装备的使用情况。评估员的分配方案应该在演练之前完成,并传达给每一位评估员。如果应急演练的观察点很多、观察内容很多、项目很多,就需要对不同的评估员进行合理分工。分配到每一个演练功能组的评估员的数量主要由将要被评估的目标数量、所要完成的任务数量等决定。
由于评估员将评估参演者的表现以及演练的整个流程,需要了解演练的规模、目标、评估标准,熟悉应急预案和实施程序,所以在演练前,评估员应接受培训。通过培训,确保评估员了解要收集的关键数据,以及如何使用数据促进评估。这将有助于他们仔细观察和准确记录演练者的行动,为其履行职责做好充分准备。评估员在每次演练前都要接受培训;培训必须至少在演练开始的前一天进行,必须涉及演练的所有方面,每个评估员都需要参加培训。具体来说,培训应包括以下内容:
●评估员应该了解和熟知的事项:在参加应急演练评估前,评估员应该熟知演练的目的、目标、日程、范围和限制,演练的场景描述、时间次序和场景信息清单,参演者的基本情况和组织结构,演练组织者和参演者的互动方式,评估员的角色及职责分工,评估的标准和程序,应急演练评估表和《评估员手册》的使用方法,有关表格的填写方法,数据分析方法,等等。
●评估员应该掌握的观察技巧:观察什么———评估员在演练展开时应如何捕捉参演者的讨论、决定、行动信息。记录什么———对演练中发生的重要问题如何做好准确的记录,比如,启动应急响应的时间,参演者的表现,关键决定,偏离政策、计划和程序的情况,重大行动的时间等。
●评估员应该避免的错误:明确告知评估员在演练中容易犯的错误,以避免在演练中出现类似情况,对评估员起到提示和警示的作用。这些错误表现为:一是只关注小组或组织机构的领导者;二是干预演练的讨论或行动;三是由于“疲劳”或负责心不够,脱离评估岗位;四是有些评估员对所有行动都给予积极评价,过于宽容;五是把所有活动都评为中等,不愿作出任何选择决定,出现过于“中庸”的错误;六是因过去对某个人或某个行动的印象,影响到评估员评估时对这个人或这个行动的评价;七是不管参演者表现如何,自己的工作就是挑错,过于挑剔;八是以自己不够客观的态度、看法而影响其他评估员的观点;九是对演练某些方面的理解、预期或偏好影响了自己作出客观评判。
(1)评估员需要有时间参加演练前培训、演练中的实施、演练后的热反馈、演练总结会、事后研讨会等。
(2)评估员要按演练计划和时间表规定的时间至少提前30分钟到演练地点报到。到达时要签到。
应急演练评估需要开发的文件有多种,主要包括评估员手册、评估表(评估指南)、参演人员反馈表等。
评估员手册是帮助应急演练评估员充分了解自己在演练实施和评估中要发挥的作用和职责的演练资料包。其核心内容包括:
(1)演练文件,包括应急演练背景情况、初始场景等;
(2)相关的预案和规范文件,包括突发事件应急预案、标准化操作程序等;
(3)评估材料,包括指挥部职责、组织结构图、任务分配表、参演者座次表等;
(4)应急演练评估表;
(5)活动安排表,包括时间表等。
应急演练评估表为评估员提供了在演练过程中观察、收集数据和捕捉表现结果的统一的标准化工具,能够为应急演练评估提供指导方针和标准流程,还能为收集数据提供记录的空间,是评估员观察演练的指南(因此也被称为“演练评估指南”),也是每个评估员的参考资料。简单桌面演练的评估表会较为简单,而对于复杂的演练,评估表会很详细。评估表主要提供给每位应急演练评估员使用,每位评估员都需要有与各自任务区相应的评估表。应急演练评估主要针对应急演练评估表所列的演练目标与关键任务执行情况进行评估。
应急演练需要设计个性化的评估表,可以根据具体演练的预案、政策和程序要求制定专门表格,但必须以演练目标为指导,既要有是否达到某项要求的判断,也要有对参演者行为的描述性记录。
●为评估员提供了预期参演者将可能表现的行为的细节,简化了数据收集程序,使评估员能更好地为演练作准备。
●帮助评估员始终针对与特定的核心能力相关的演练目标进行评估,并确定演练的目标是否实现。
●给予评估员具体指导,包括在演练过程中收集哪些数据,如何记录数据,如何分析数据,有助于评估员记录演练活动。
●用于演练之后的数据分析和热反馈、评估员总结会、评估报告研讨会。
●呈现经评估的结果,便于在评估报告中提出可付诸实施的改进建议,为评估报告的撰写提供支持。
●使评估员能够审查演练计划要素内容的可行性、可靠性。
演练结束时,把所有填写过的应急演练评估表和任何支持性记录递交给评估组组长。
完整的应急演练评估表(评估指南)的内容可能包括演练目标,演练场景概述,演练场景信息清单,参演者及其位置;评估员组织结构与职责,评估员位置,评估方法,评估项目(内容),评价标准,相关记录项,与应急演练评估相关的问题、工具和通信方式等。
应急演练评估表是为具体的组织机构开发的,不能转用于任何其他机构。由于每个辖区、组织机构或实体有独特的和各不相同的目标和关键任务需要检验和/或验证,所以每个机构都需要撰写专门针对自己的预案、程序和政策的应急演练评估表。
因为评估员将使用评估表来找出演练中的优缺点以及如何针对有关目标做出改进,评估表的设计是否全面、合理、科学,关系着评估质量的好坏,所以评估表在设计时要注意:
●根据演练目标来设计评估点;
●评估点能够确定是否成功实现了有关目标;
●一般不超过20个评估点,但复杂的应急演练评估点会多一些;
●不要设计评估员无法回答的问题;
●问题要简单,避免烦琐;
●对每个目标、每种能力或每一个评估对象通常单独使用一张表格。
评估表分为针对应急演练活动的观察评估表和针对演练组织的演练组织活动评估表两类。
根据参演者所演练的不同的能力和活动,演练活动的观察评估表又可分为不同的类型,如评估指挥决策评估表、组织协调评估表、信息管理评估表、媒体沟通评估表等。当然根据需要和评估实际情况也可以合为一个总的评估表。使用何种类型的评估表主要取决于演练的目标要求。
根据应急演练目标的不同,可以采用选择项法、定性分析法(主观分析法)、定量评分法等多种等级评价方法进行评估。
第一种:选择项法。
为了保证评估内容最终结论的客观性,尽量避免评估过程中评估员主观判断自由度过大,可以在评估时采用“是否”“能否”等较为客观的选择判断标准来确定评估结果。选择项法的演练评估表、演练组织评估表如表2-1、表2-2所示。
表2-1 演练评估表示例(选择项法)
表2-2 演练组织评估表示例(选择项法)
第二种:定性评价法。
也叫主观评价法,主要是从评估的目标和原则出发,考虑评估指标的充分性、可行性、稳定性、必要性以及指标与评估方法的协同性等因素,主观确定评估内容及评估结果的过程。常常使用“优、良、中、差”“满意、不满意”等标准对评估内容进行评价。定性评价法的演练组织评估表如表2-3所示。
表2-3 演练组织评估表示例(定性评价法)
第三种:定量评分法。
为便于应急演练评估操作,可采用十分制或五分制来评分。定量评分法的演练组织评估表如表2-4所示。
表2-4 演练组织评估表示例(定量评分法)
一般情况下,应急演练结束后,评估组会对评估表进行定量统计分析,与所有参演者在现场热反馈中对演练过程中的优劣之处所进行的反思结合起来,实现评估意见和定量分析相结合,共同为撰写评估报告与提出改进措施提供依据。
此外,有条件时,还可以采用专业评估软件等工具。
评估表的编制有多种思路,这里介绍一种以“能力—目标—任务”为核心的评估表开发思路。
应急演练评估表的结构是为了便于捕捉与演练组织者提出的评估要求相关的信息。每个应急演练评估表都有以下评估要求:
●核心能力:是实现特定的任务领域需要的各个关键能力要素。例如“危机沟通能力”就是一种核心能力。为了评估能力和差距,每项核心能力应包括若干能力目标。
●能力目标:是每项核心能力表现的范围,表明参演者力图实现的准确的能力指标,是核心能力的具体表现。例如,“危机沟通能力”的具体能力目标就可能包括“成功地组织一场新闻发布会”“有效应对谣言”“成功地策划和组织一次媒体专访”等。能力目标一般使用定量或定性的书面表述。
●关键任务:是完成一项能力目标要求的各个要素,说明能力目标将如何实现。例如,“成功地组织一场新闻发布会”的关键任务就包括“策划发布会”“准备发布会”“实施发布会”等。关键任务一般包括完成能力目标要求的活动、资源和责任。能力目标和关键任务要根据演练的相关预案、政策和程序确定。
●表现评级:是表现相对于目标水平的总结性描述。表现评级包括目标评级和核心能力评级。表现评级指的是演练参加人员相对于每个能力目标的表现;核心能力评级指的是相对于核心能力的总体表现。
●记录观察:在每份应急演练评估表中,评估员提供目标评级、观察笔记和对目标评级的解释,以及最终的核心能力评级。为了高效地填写应急演练评估表,评估员应把观察的注意力放在应急演练评估表列出的能力目标和关键任务上。应急演练评估表只要求评估员客观地记录任务的完成情况,重点不在于对演练效果打分,也不是提出建议。
●给予评级:根据观察,评估员对应急演练评估表列出的每项能力目标给出目标评级,然后综合考虑核心能力的所有目标评级后,对核心能力给出一个总体评级。评级表包括四级:完成没有挑战(A),完成有些挑战(B),完成有较大挑战(C),未能完成(D)。应急演练评估表包括了每项评级的定义。
以上内容的具体实现,参见第三章的“第三节 演练评价工具”。
以下分步指导将帮助应急演练评估表的开发。
第一步:明确原则。
●参考演练计划会议中演练组织者对核心能力和评估范围展开的讨论。
●确保确定的组织机构能力目标和相关的关键任务在演练中得到充分检验。
第二步:调查研究。
●阅读当前突发事件评估报告中提出的能力差距。
●查阅过去及当前的评估报告,根据共同的主题和形势,获取要演练和验证的能力目标和关键任务。
●研究适用的政策、计划、方案,识别要演练和评估的任何组织机构的能力目标和相关关键任务。
第三步:编制评估表。
●选择评估表类型。根据任务领域和能力,选择适当的应急演练评估表。
●确定表头信息。填写应急演练评估表顶部的基本信息,包括演练名称和日期、观察的组织机构/辖区,以及地点。
●确定演练目标。确认并表述与能力提升目的相一致的演练目标。
●确定核心能力。应急演练评估表的核心能力描述提供了具体的能力目标。
●确定能力目标。为每个参演的组织机构确定演练的能力目标,以定量或定性的表述形式撰写。
●确定关键任务。根据政策、预案和程序制定关键任务。
这里需要注意的是:
●应急演练评估表可以用于桌面演练中记录关键决策点,或者在实战演练中记录开展的行动。
●演练的范围和目的决定了相关的演练目标和要评估的关键任务的数量和范围。
●对于应急演练评估表的组织机构能力目标和相关关键任务,要做出必要的注释。
由于不同的评估步骤对评估任务和工作要求各有差异,所以使用的评估工具也呈现出不同的特点(见表2-5)。
表2-5 评估工具的使用
关于评估员记录表参见第三章的“第二节 演练记录工具”。关于参演者反馈表参见第三章的“第四节 演练反馈工具”。
应急演练前要召开演练组织者情况介绍会和评估员预备会,用来核实评估员的角色、职责和分配,确保评估员理解提供给他们的信息里列出的所有事项;阐明变动情况(如果有),如应急演练事件的变动、评估员的重新分配等;使评估员熟悉演练地点的地理情况和相应机构等,明确自己的观察位置。
介绍会要给评估员提供询问的机会和时间,提出的问题需要得到解答,信息要得到澄清,保证评估员对角色和职责完全理解,进一步促使评估员了解演练流程,明确评估任务,掌握评估方法,从而有效地完成评估任务。