下载掌阅APP，畅读海量书库
立即打开
网络信息内容安全的监管范围随着互联网的发展，产生了较明显的变化。早期网络信息内容安全强调信息内容的隐秘性、完整性和可用性等安全属性。
随着网络技术的进化和网络空间的拓展，内容安全发展为特定的指称，在我国可以认为网络信息内容安全中的“内容”是指在网络空间以文字、图片、符号、音频、视频等形式存在，表达一定意义的内容信息，其安全性则强调内容背后传达的思想价值观是否与主流价值观相符。
总体而言，目前网络中存在的风险因素有内容低俗化、网络暴力、虚假信息传播、网络恐怖主义、网络文化入侵、网络意识形态安全、知识产权风险等。
内容低俗化、网络暴力、虚假信息传播在网络中属于常见的显性问题，内容低俗化风险是指为迎合部分受众的低级趣味和庸俗需求，在网络上制作传播以渲染色情暴力为显著特征的不良倾向内容，这类内容通常夸张搞怪、感官刺激重。内容低俗化的另一表现形式是所有的网络议题都以泛娱乐化的内容呈现，消解了事物本身的严肃性。网络暴力风险是指一定数量的网民针对特定社会对象，对其进行言语攻击或发表侮辱性和煽动性的言论，通常还采用谩骂、恐吓、群体攻击、人肉搜索等违法行为，对被攻击对象造成精神上的伤害。虚假信息传播风险是指网上散布的没有事实根据、与事实不符的信息，造成的线上及线下公共秩序混乱的危害，表现形式有故意捏造无根据的信息在网络发布，组织、指使他人在网络上转发虚假信息，传播谣言、恐慌言论等。
网络恐怖主义、网络文化入侵和网络意识形态的风险属于政治安全范畴，通常有隐性、不易察觉的特征。网络恐怖主义借由先进的网络技术，在暗处传播恐怖主义信息，招募并培训恐怖组织的成员，筹集资金用于策划和实施恐怖袭击活动。网络文化入侵表现为网络的快餐文化消解了价值多元化的现实文化体系。网络意识形态风险是指部分西方媒体借助网络平台大肆宣扬西方政治制度，抹黑中国形象，丑化社会主义制度，否定与歪曲中国社会的发展进程和成就，同时利用多元价值观做幌子，实则宣扬拜金主义、消费主义、享乐主义和个人主义，冲击我国社会主义核心价值观，由此可能导致我国主流意识形态、话语权的削弱或丧失的潜在危机。
以上常见的网络信息内容安全风险对应着网络信息内容的使用者，而一些内容创作者还面临着知识产权风险，即其拥有的网络信息资源知识产权被侵权，比如，网络作品被抄袭，网络作品无授权被转载等。还有一些侵权人跟风销售无知识产权的内容作品，在被追究责任时，反把侵权责任推卸到网络平台身上。
经过对以上风险的类型及表现的分析，可以得出这样的结论：从国家安全角度来考察，网络信息内容可能涉及政治安全、经济安全、社会安全、文化安全等诸多安全领域，因此成为一个重要的安全监管领域。
我国网络信息内容安全监管中的“监管”概念有狭义和广义之分。狭义的监管可以理解为政府监管，而随着网络信息内容的类型越来越丰富，对其监管的概念界定可作广义理解，包括监督、管理、调控等含义，本质上可以理解为“网络信息内容安全治理”。目前，网络信息内容安全治理的模式主要有三种，同时，以整体性治理为目标的整体智治模式也在兴起。
互联网中的不良内容给社会和个人都造成了严重的困难和烦恼，发达国家对于网络内容的管制以政府为主体，主要采取了5种管理办法。第一是对网络内容国内提供者的管制。第二是对网络内容国际提供者的管制，即运用世界性国际规约进行管制，以及用国际私法来协调当事国之间的有关问题。第三是对使用者的管制。第四是对经营者的管制。第五是对互联网服务提供者的管制。
在很长一段时间，我国的互联网内容监管以政府监管部门为主，以行业、民间组织为辅。在互联网内容监管以政府为主体的时期，国务院机构的设置分别在1998年、2003年、2008年进行了大规模的调整和改革。在这些变革中，互联网内容监管主体也发生了变化，表现出精简规模（如裁撤国务院信息化工作领导小组等临时协调机构）、提高重要部门的行政级别（如国家市场监督管理局升格为国家市场监督管理总局）、合并职能接近的主体等趋势。
工信部、公安部、国家版权局、全国“扫黄打非”办等部门都曾是网络内容监管的主体。2011年，国家互联网信息办公室成立，成为我国网络信息内容的专门管理协调机构。在机构改革的演化变革中，政府对互联网内容监管日益专业化，监管主体的层级、分工都日益清晰成熟，将向兼顾更多利益相关方的方向转变。
网络通信技术的成熟实现了网络空间中人与人之间的即时沟通，并逐渐形成以新媒体为载体的网络空间社会。网络空间主体角色也随着网络空间技术的成熟和网络空间社会的发展而逐渐分化和明晰。角色分化根据网络空间参与者的目的、性质、特点的不同，可分为政府、网络媒体、意见领袖、社会组织和普通网民这五种类型。
多元主体包含了普通网民、意见领袖、企业平台、民间组织、行业协会、政府部门等实体，简而概括为“政府—社会—平台—用户”四位一体的主体构成结构。多元主体治理模式是拥有相对独立和相对平等的关系的多元主体建立关系并实现功能互补的互动，最后通过信息资源优化配置和行动能力整合互补，达到网络空间共治和自治的协同效果，是垂直型管理模式向扁平化合作模式的转变。
多元共治的监管模式还可以细分为两种小的类型：网络领导组织（net-work lead organization, NLO）和网络行政组织（network administrative organiza-tion, NAO）。NLO由多元主体内某一领导组织承担关键责任，其他组织仅是网络成员，治理通过内部的单一组织成员（内部代理人）实现，其他成员的责任和行为都将通过这个代理人传递，组织与组织间几乎没有直接的互动。NAO需要建立一个独立的行政部门专门进行网络管理。这个行政组织（称为网络管理者）尽力激励网络成员组织实现网络目标，并且承担网络成本（通常有资金支持），该网络管理者在网络的合作与维护中起核心作用。
在实践中，NAO的类型可能效率更高，因为一个普遍的假设是，由于网络是协作安排，因此暗示等级和控制的治理是不适当的
，只有让所有网络成员在平等的基础上参与，参与者才会致力于网络的目标。
多元主体共治监管模式还应注意的是监管主体的数量问题，根据一项研究显示：如果一项管理任务涉及一个主要政府机构和超过六家的主要公司，它可能会失败。
因此，主体参与数量少于6到8个，组织将有效。
网络自治模式可以认为是网络多元共治模式的一种特殊表现形式，在网络多元共治中主体包含政府、普通网民、意见领袖、企业平台、民间组织、行业协会等，而自治模式强调的是离开政府的强力监管后，与网络信息内容生产制作传播息息相关的平台，以及平台和行业协会构成的治理主体发挥的自我督导功能。国外比较知名的网络监管行业组织有美国联邦通信委员会（FCC）、英国网络观察基金会（IWF）。美国FCC主要负责制定章程和规则，互联网服务提供商和内容提供商则根据相关规则加强自律和自治，接受或反对来自政府的内容审查。英国IWF是一个政府主导成立的行业自律组织，由来自政界、业界和学界的人士组成，负责将网络巡查发现的和来自社会举报的有害信息和网站资料提供给网络服务商。由IWF指导社会各界制定并落实《行业规则》、鼓励网络服务商和社会公众在自愿基础上采纳网络内容分级和过滤系统、设置举报热线和黑名单管理、开展网络安全教育和普法宣传等，以净化网络环境。
我国在网络内容管控的自律机制建设方面，由中国互联网协会等行业协会及一些网站先后发布了《全国青少年网络文明公约》《中国互联网行业自律公约》《互联网新闻信息服务自律公约》《互联网站禁止传播淫秽、色情等不良信息自律规范》《文明上网自律公约》《博客服务自律公约》《中国互联网协会关于抵制非法网络公关行为的自律公约》《互联网搜索引擎服务自律公约》《互联网终端安全服务自律公约》等行业规定。除了中国互联网协会，相关的行业自律组织还有网络科普联盟、反垃圾邮件工作委员会等等。
在网络自治模式中，平台所起的作用非常重要。平台内部的信息内容规制结构在国家立法之外，绝大多数平台几乎都建立了系统内部的规则体系，即俗称的“网规”，这被认为是低信息成本下实施法律、满足治理要求的一种方式。
从实践来看，平台“发现”违法信息的主要路径可以分为三类，分别为：（1）主管机关的通知；（2）平台的自主监控；（3）用户的举报投诉。发现违法信息后，平台的处理方式按照由轻到重为：屏蔽相关信息（其他人无法查看）、停止信息传输（即俗称的删帖）、一段时间内或永久的停止发言（禁言），以及暂停或永久性关闭用户的账号（封停）。在救济层面，当用户发布的信息被认定为违法信息并被处理后，大多数平台均设定了申诉复核机制。
尽管对于平台职责的认定有国际通用的避风港原则，即网络服务提供者为服务对象提供网络自动接入、自动存储、信息存储空间、搜索或者链接的服务中，在接到权利人的通知书后及时删除侵权链接或者内容的则不承担赔偿责任的制度。但由于平台上的违法信息对社会影响较大，其应尽的监管等法律责任并不能被豁免。
除去常规的治理模式，随着系统论的发展以及人工智能技术的进步，有学者提出了整体智治的治理模式。该模式是在整体性治理理论的基础上，向智慧治理的进阶。
所谓整体性治理，就是综合运用协调、互动、共享等多种方式，打破传统的职能部门各自为政的局面，进而整合优化治理主客体、治理层级和治理功能，促使公共服务供给主体紧密合作，从而实现为公众提供无缝隙服务的治理目标。
整体性治理强调协调不同层级、不同职能的部门间的关系和利益；勾连上下级政府间的纵向合作，不同职能部门之间的横向合作以及政府部门与社会组织之间的内外合作，从而打造一个整体政府。
在技术进步的年代，智慧治理理念的提出缘于整体性理论的可能发展趋势。大数据治理是智慧治理的逻辑核心，在“全样本”的支持下，决策者可以依靠对海量数据信息的分析与计算，洞悉不同变量之间的相关关系，进而让“数据驱动的决策”具有预测功能。智慧治理中的整体性逻辑推崇治理主体间的互动、沟通与协同，动态性治理的逻辑要求最大限度地激发主体能动性。
以信息技术为中介连接的整体性与智慧性融合治理，从总体上可对我国网络信息内容生态环境特征及其隐藏的风险因素作出趋势分析与预防研判，而不是局限于对某类平台、某类主题等网络信息内容安全风险事件发生后的应对处置。区别于政府监管模式、多元共治模式和网络自治模式的大量人力资源投入，整体智治更加重视提升所有治理参与主体的合力、治理资源配置能力、信息技术的中介连接能力和治理行动与目标的规划能力等。
在整体智治的理论框架构建中突出信息技术的作用，不仅可以提高内容安全风险识别与治理的效能，还可以对安全风险演化动态作出趋势性预防，实现动态治理的功效。
目前，青少年已逐渐成为网络文化重要的消费主体和网络文化的生产者、传播者。《2020年全国未成年人互联网使用情况研究报告》显示，未成年网民达1.83亿、未成年人互联网普及率达94.9%，我国未成年网民日益呈现低龄化的趋势。未成年人的很多学习、生活和社会交往活动是通过网络进行的，因此保护未成年人网络使用权益，就是保护未成年人合法权益，但如何遏制网络不良信息对未成年人的影响，是全世界面临的难题。许多国家在法律上明确各类不良信息的概念和认定标准，并对传播不良信息构成违法的主体进行严格法律制裁。
青少年模式的内涵有两种指向，第一种是制度层面，我国高度重视涉及未成年人的互联网内容建设，用政策和法令督促网络内容供应平台开发并实施能促进未成年人全面发展的优质应用和优质服务，并鼓励其推出更多适合未成年人需要、有益于未成年人健康成长的内容和参与方式。第二种是技术层面，青少年模式也可称为“青少年防沉迷系统”。尤其在视频直播领域，“青少年模式”是经过严格内容遴选、适合未成年人观看使用的有益方式，每日20时至22时是网络直播下青少年模式规制的重要时段，未成年人使用直播间“连麦PK”的次数不会超过2次，没有“PK惩罚”使用权限，而且22时，网络平台还会对“青少年模式”下的各项服务强制下线，强制未成年人的账号开启常规模式。在政策推动下，各短视频平台相继推出保护措施。如快手上线“家长控制模式”、抖音推出“青少年模式”、火山小视频上线“未成年人管理工具”等。2019年3月28日，抖音、快手、火山小视频等短视频平台试点上线青少年防沉迷系统。
青少年的模式功能通常在首页显著位置呈现，便于青少年查找和家长监督。每个平台的青少年模式的监管细节也有少许不同。在抖音上，用户可以自定义触发时间锁的时间长度，当青少年模式开启后，无法开启直播，无法进行充值、打赏、提现等行为；在推荐流中只出现经过审核的教育类和知识类视频内容，并引入博物馆、老字号等传统文化内容。而在快手平台上，当青少年模式开启后，每天使用时长不超过40分钟，晚上10点至次日早晨6点无法使用。青少年内容池中则精选快手课堂教育、音乐、书法、绘画、手工等教学视频内容入库。《关于规范网络直播打赏加强未成年人保护的意见》中要求，网站平台应在现有“青少年模式”基础上，进一步优化产品模式和内容呈现方式，持续增加适合未成年人的直播内容供给。
IP属地显示模式是我国独创的利用技术进行内容监管的新模式。国家互联网信息办公室在2021年10月26日颁布了《互联网用户账号名称信息管理规定（征求意见稿）》，其中规定互联网用户账号服务平台应当以显著方式，在互联网用户账号信息页面展示账号IP地址属地信息。境内互联网用户账号IP地址属地信息需标注到省（区、市），境外账号IP地址属地信息需标注到国家（地区）。正式定稿的《互联网用户账号信息管理规定》于2022年8月1日起施行，相比于之前的征求意见稿，保留了IP地址属地显示信息的条款，但去掉了IP归属地标识的细节规定。该项法规促使网络平台将用户IP属地公示等措施逐步提上日程。截止到2022年9月，几大主流社交、短视频平台都上线了用户账号IP属地展示功能，如微博、抖音、小红书、微信公众平台、视频号、bilibili（以下简称B站）、知乎等平台已公告称将显示IP属地。IP属地的显示会根据用户最近一次发文或发评时对应的IP属地来判定所属地区，将在用户个人主页、信息发布页等位置展示IP属地，在境内展示到省（区、市），境外展示到国家（地区），不会展示用户精确地理位置。目前，几大平台均暂不支持手动关闭该项功能。显示IP属地的内容监管模式可以在某种程度上验证网络平台上用户传播内容的真实性、可靠性，防止在国内外热点事件中，个别用户存在的冒充当事人、恶意造谣、蹭流量等不良行为，能较好地维护真实有序的网络内容生态环境。
需要关注的是，IP属地显示不等于调用用户的位置信息，前者是接入互联网时被分配的IP地址，互联网通信协议决定了信息接收方必须知道这个IP地址，也因此可以通过IP地址知道属地，这个过程并不需要用户授权和打开手机敏感权限；后者则靠GPS定位或基站定位，属于敏感权限，获得该权限需要取得用户明确授权。IP属地不等于IP地址，公开的IP属地信息仅展示为省（自治区、直辖市）或国家（地区）。单从境内账号展示的地域信息维度来看，某一省级地域内的用户数量庞大，难以直接通过该信息识别到或关联到特定的自然人。因此，IP属地显示的监管模式不涉及侵犯用户的隐私权。