2024年6月，国家互联网信息办公室联合公安部、文化和旅游部、国家广播电视总局公布了《网络暴力信息治理规定》（下文简称《规定》），即将于8月1日起施行。
《规定》全文共七章，包括总则、一般规定、预防预警、信息和账号处置、保护机制、监督管理和法律责任、附则等章节，其目的是为了治理网络暴力信息，营造良好的网络生态，保障公民的合法权益，以及维护社会公共利益。
图1 《网络暴力信息治理规定》整体框架结构
一总则
总则章节在开篇首先明确了法律依据，援引了《网络安全法》、《个人信息保护法》、《治安管理处罚法》和《互联网信息服务管理办法》等相关法律法规。同时，它确立了《规定》的核心目的——即治理网络暴力信息，保护公民的合法权益，维护社会公共利益，并指出其适用范围覆盖中国境内的网络暴力信息治理活动。
该章节着重提出了治理网络暴力的基本原则，包括源头防范、防控结合、标本兼治和协同共治。这些原则不仅强调了从源头上解决问题的重要性，也突出了跨部门合作和全社会共同参与的必要性，由此凸显出了全面、系统且多角度的治理策略。此外，它还明确了国家和地方网信部门的领导职责，以及公安、文化和旅游、广播电视等部门在监督管理网络暴力信息中的职能，旨在构建一个高效、协调的治理体系。
总则为《规定》的贯彻实施奠定了基础，提供了遵循的准则和行动的框架。通过确立治理原则和明晰各部门职责，它不仅界定了网络暴力信息治理的法律基础和应用范围，还为后续的治理行动提供了清晰的指导方针和实施步骤。这有助于推动构建一个更加健康、有序的网络空间，确保公民权利不受网络暴力的侵犯，进而促进社会的和谐与稳定。法律的明确性和权威性也反映了国家对网络环境治理的坚定意志和积极作为。
二、一般规定
该章节在整部法规中起着基石的作用，确立了网络信息服务提供者和用户在网络空间的行为准则与责任框架。一般规定倡导所有网络参与者，包括服务提供者和用户，都应恪守社会主义核心价值观，遵守法律法规，尊重社会公德与伦理道德，共同营造积极健康、充满正能量的网络文化环境。它强调了维护网络生态健康的重要性，要求所有参与者在信息发布和交流中严格自律，遵循法律与道德规范。
这一章节不仅为网络暴力信息治理提供了行动指南，而且明确了网络信息服务提供者和用户的责任。其目的在于有效预防和减少网络暴力行为，保护公民的合法权益，并维护网络空间的公共秩序与社会稳定。作为推动网络环境健康发展、促进网络文明进步的重要法律支撑，这些条文对于提升社会整体的网络素养和法治意识具有深远意义。
网络安全从业者应特别关注网络信息服务提供者在网络暴力信息治理中承担的核心责任。具体而言，从业者必须构建和完善网络暴力信息的治理体系，包括但不限于用户注册、账号管理、个人信息保护以及信息发布审核等关键环节。尤为重要的是，网络信息服务提供者在提供信息发布和即时通讯服务时，必须依法对用户进行真实身份信息认证，这是预防网络暴力、保障网络交流秩序的基础性措施。
同时，网络安全从业者也应关注到条文中对网络信息服务提供者提出的具体要求，包括定期发布网络暴力信息治理公告，并将相关工作情况纳入网络信息内容生态治理工作的年度报告中。这不仅要求从业者在日常运营中贯彻这些原则，还要求他们在透明度和公众沟通方面做出积极努力，确保网络治理工作的公开性和有效性。这些措施将增强网络社区成员的安全感和信任感，促进网络环境的和谐与稳定，为构建一个更加健康、有序的网络空间提供坚实保障。
三、预防预警
该章节是构建网络暴力防控体系的关键环节。它要求网络信息服务提供者在国家相关部门的指导下，对网络暴力信息进行细致分类，并建立特征库与案例样本库。它着重提出了运用人工智能、大数据等现代技术，配合人工审核，以提升对网络暴力信息的识别和监测能力。对网络安全从业者而言，这不仅是对技术发展和应用的重视，也是对法规和标准深入理解的要求，确保技术应用与法规要求的一致性。
通过这些预防预警措施，网络信息服务提供者可以提前发现并警示网络暴力信息风险，有效降低网络暴力事件的发生率，保护用户的合法权益。这不仅增强了网络环境的安全性，也将为构建一个更健康、文明的网络空间打下基础。网络安全从业者遵循这些规定，不仅是履行法律责任的需要，更是提升专业素养、强化社会责任感的重要体现，对推动整个行业的健康发展具有积极影响。
网络安全从业者需要特别关注建立和完善网络暴力信息预警模型的工作。这一模型需要综合考量事件类别、目标主体、参与人数、信息内容等因素，以实现对网络暴力风险的及时识别和预警。同时，从业者也应关注对异常账号采取的措施，包括但不限于真实身份信息的动态核验、弹窗提示、违规行为的警示以及流量的限制等，这些都是预防网络暴力发生不可或缺的重要手段。通过这些综合措施，可以进一步提高网络环境的防护能力，保障网络空间的清朗和用户的安全。
四、信息和账号处置
该章节为网络信息服务提供者指明了在面对网络暴力违法信息或不良信息时的具体应对策略。它要求服务提供者一旦发现此类信息，必须立即采取措施，包括停止传输、删除、屏蔽或断开链接等，并需保存相关记录，同时向有关部门报告。特别是对于涉嫌违法犯罪的内容，服务提供者有责任及时向公安机关报案，并提供必要的线索，配合进行侦查、调查和处置工作。
此外，该章节还着重强调了处置过程中的透明度和用户权益的保护。网络信息服务提供者在处置信息和账号时，应向用户明确告知处置的原因和依据，确保用户的知情权和申诉权得到保障。这种做法有助于提升用户对网络服务平台的信任度，促进网络空间的和谐与稳定。网络安全从业者在执行处置措施时，应兼顾用户权益，平衡网络治理与用户权利的关系，以实现网络环境的长期健康发展。
相关条文为网络信息服务提供者提供了清晰的操作指南，确保网络暴力信息能够被及时有效地控制和处理。这不仅减少了网络暴力对个人和社会的负面影响，也有助于维护网络环境的秩序和安全。网络安全从业者遵循这些规定，不仅是履行社会责任、保护用户权益的重要体现，更是提升网络安全管理水平、构建健康网络生态的必要条件。
网络安全从业者应特别关注网络信息服务提供者在处置网络暴力信息时的责任和程序。首先，从业者必须具备快速识别和响应网络暴力信息的能力，包括对信息内容的实时监控和分析；其次，从业者需要熟悉相关的法律法规，确保在处置过程中严格遵守法律要求，合理运用技术手段保护用户隐私和数据安全。此外，从业者还应加强对用户账号的管理，对于违规账号采取相应的限制或处置措施，如限制功能或列入黑名单等，以维护网络环境的秩序和用户的合法权益。
五、保护机制
该章节致力于构建一个全面的网络暴力防护体系，以及加强用户权益的保护。其核心内容要求网络信息服务提供者开发网络暴力信息防护功能，使用户能够屏蔽特定用户、控制个人信息的可见范围，以及禁止未授权的转载或评论。同时，该章节还要求服务提供者完善私信规则，引入智能屏蔽和自定义屏蔽词等功能，从而增强用户自我保护的能力，有效抵御网络暴力。
该章节还强调了网络信息服务提供者在用户面临网络暴力信息风险时的积极干预责任。一旦发现风险，要求服务提供者立即通过显著方式提示用户，并提供可采取的防护措施。这种做法不仅提升了用户对网络暴力的认识和防范意识，而且为用户的合法权益提供了坚实的法律支撑。网络安全从业者在执行这些规定时，必须综合考虑用户需求和体验，确保保护机制既严格又具有人性化，以促进网络环境的和谐与用户的积极参与。
保护机制的建立，不仅强化了网络信息服务提供者在预防和应对网络暴力中的责任，而且提升了用户自我保护的能力，减轻了网络暴力对个人心理健康和社会秩序的潜在负面影响。这些机制通过提供额外的关注和保护，尤其为未成年人、老年人和残疾人等易受伤害的群体，构筑了一道防线。
网络安全从业者在此框架下需要重点关注技术层面的实现，确保保护机制的有效性和用户友好性。这涉及到开发和维护高效的内容识别系统，快速识别和过滤网络暴力信息，以及构建用户信用管理体系，对涉网络暴力违法违规的用户账号进行信用记录，并依法依约采取降低信用等级或列入黑名单等措施。此外，从业者还应提供及时的网络暴力信息风险提示和防护指导，帮助用户提高防范能力，确保网络环境的安全与和谐。
六、监督管理和法律责任
该章节为网络暴力信息治理工作确立了坚实的法律监督框架和明确的责任追究机制，增强了网络信息服务提供者履行治理责任的自觉性。它通过规定法律责任，提高了违法成本，有效威慑潜在的违法行为，促进构建规范有序的网络环境，保护公民合法权益，推动网络空间的健康发展。
监督管理和法律责任明确了网信部门与公安、文化和旅游、广播电视等相关部门在监督检查网络信息服务提供者治理网络暴力信息情况中的职责，要求这些部门依法进行监督，并确保服务提供者积极配合监督检查。同时，它还着重强调了建立健全信息共享、会商通报、取证调证、案件督办等工作机制的重要性，以实现对网络暴力信息的协同治理。此外，它规定了对违规行为的处罚措施，如警告、通报批评、责令限期改正以及罚款等，为网络暴力信息治理提供了具体的执法手段，以确保法律规定得到有效执行。
对于网络安全从业者来说，这意味着他们需要加强对法规的学习和理解，确保行为和服务合规，避免违规受罚，从而提升整个行业的法治水平和专业标准。从业者应特别关注监督检查的配合义务，积极参与信息共享和协同治理机制的建立与执行。他们必须深入了解和遵守相关法律法规，确保在监督检查中提供必要的支持与配合，并通过跨部门合作，提高网络暴力信息治理的效率和效果。此外，从业者还应密切关注法律责任的具体内容，包括对违规行为的处罚措施，并探索通过技术手段和流程设计来预防违规行为，确保网络环境的安全与和谐。
七、附则
本章节作为整部法规的附则部分，为整部法规提供了明确的法律界定和适用范围，以确保《规定》能够准确执行，同时避免对合法言论自由的不当限制。当中提到的网络暴力信息的定义，有助于统一不同从业者和执法机构对网络暴力的认识和判断标准，减少执行过程中的主观性和随意性。这对于提升网络治理的专业性和公正性具有重要作用。
网络安全从业者需要重点关注网络暴力信息的具体定义和排除适用的情况。了解这些定义有助于从业者在实际工作中更准确地识别和处理网络暴力信息。同时，从业者还应注意到，规定中提到的依法检举揭发和舆论监督的合法性，这为网络安全从业者在处理信息时提供了法律依据，将确保他们在执行职责时不会误伤合法言论。
综上所述，《网络暴力信息治理规定》既是一套明确的行动指南也是一份法律责任的清单。它要求从业者在识别、预防和处置网络暴力信息方面采取积极措施，同时确保技术手段与法律规范相结合，以维护网络环境的秩序和用户的合法权益。这一规定强化了网络安全从业者在网络治理中的责任，提升了网络服务的安全性和专业性，促进了网络文明的健康发展，对构建清朗的网络空间具有深远的影响。
附：
网络暴力信息治理规定
国家互联网信息办公室
中华人民共和国公安部
中华人民共和国文化和旅游部
国家广播电视总局
令
第17号
《网络暴力信息治理规定》已经2023年12月25日国家互联网信息办公室2023年第28次室务会会议审议通过，并经公安部、文化和旅游部、国家广播电视总局同意，现予公布，自2024年8月1日起施行。
国家互联网信息办公室主任 庄荣文
公安部部长 王小洪
文化和旅游部部长 孙业礼
国家广播电视总局局长 曹淑敏
2024年6月12日
网络暴力信息治理规定
第一章 总 则
第一条 为了治理网络暴力信息，营造良好网络生态，保障公民合法权益，维护社会公共利益，根据《中华人民共和国网络安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国治安管理处罚法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。
第二条 中华人民共和国境内的网络暴力信息治理活动，适用本规定。
第三条 网络暴力信息治理坚持源头防范、防控结合、标本兼治、协同共治的原则。
第四条 国家网信部门负责统筹协调全国网络暴力信息治理和相关监督管理工作。国务院公安、文化和旅游、广播电视等有关部门依据各自职责开展网络暴力信息的监督管理工作。
地方网信部门负责统筹协调本行政区域内网络暴力信息治理和相关监督管理工作。地方公安、文化和旅游、广播电视等有关部门依据各自职责开展本行政区域内网络暴力信息的监督管理工作。
第五条 鼓励网络相关行业组织加强行业自律，开展网络暴力信息治理普法宣传，督促指导网络信息服务提供者加强网络暴力信息治理并接受社会监督，为遭受网络暴力信息侵害的用户提供帮扶救助等支持。
第二章 一般规定
第六条 网络信息服务提供者和用户应当坚持社会主义核心价值观，遵守法律法规，尊重社会公德和伦理道德，促进形成积极健康、向上向善的网络文化，维护良好网络生态。
第七条 网络信息服务提供者应当履行网络信息内容管理主体责任，建立完善网络暴力信息治理机制，健全用户注册、账号管理、个人信息保护、信息发布审核、监测预警、识别处置等制度。
第八条 网络信息服务提供者为用户提供信息发布、即时通讯等服务的，应当依法对用户进行真实身份信息认证。用户不提供真实身份信息的，网络信息服务提供者不得为其提供相关服务。
网络信息服务提供者应当加强用户账号信息管理，为遭受网络暴力信息侵害的相关主体提供账号信息认证协助，防范和制止假冒、仿冒、恶意关联相关主体进行违规注册或者发布信息。
第九条 网络信息服务提供者应当制定和公开管理规则、平台公约，与用户签订服务协议，明确网络暴力信息治理相关权利义务，并依法依约履行治理责任。
第十条 任何组织和个人不得制作、复制、发布、传播涉网络暴力违法信息，应当防范和抵制制作、复制、发布、传播涉网络暴力不良信息。
任何组织和个人不得利用网络暴力事件实施蹭炒热度、推广引流等营销炒作行为，不得通过批量注册或者操纵用户账号等形式组织制作、复制、发布、传播网络暴力信息。
明知他人从事涉网络暴力信息违法犯罪活动的，任何组织和个人不得为其提供数据、技术、流量、资金等支持和协助。
第十一条 网络信息服务提供者应当定期发布网络暴力信息治理公告，并将相关工作情况列入网络信息内容生态治理工作年度报告。
第三章 预防预警
第十二条 网络信息服务提供者应当在国家网信部门和国务院有关部门指导下细化网络暴力信息分类标准规则，建立健全网络暴力信息特征库和典型案例样本库，采用人工智能、大数据等技术手段和人工审核相结合的方式加强对网络暴力信息的识别监测。
第十三条 网络信息服务提供者应当建立健全网络暴力信息预警模型，综合事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等因素，及时发现预警网络暴力信息风险。
网络信息服务提供者发现存在网络暴力信息风险的，应当及时回应社会关切，引导用户文明互动、理性表达，并对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施；发现相关信息内容浏览、搜索、评论、举报量显著增长等情形的，还应当及时向有关部门报告。
第十四条 网络信息服务提供者应当建立健全用户账号信用管理体系，将涉网络暴力信息违法违规情形记入用户信用记录，依法依约降低账号信用等级或者列入黑名单，并据以限制账号功能或者停止提供相关服务。
第四章 信息和账号处置
第十五条 网络信息服务提供者发现涉网络暴力违法信息的，或者在其服务的醒目位置、易引起用户关注的重点环节发现涉网络暴力不良信息的，应当立即停止传输，采取删除、屏蔽、断开链接等处置措施，保存有关记录，向有关部门报告。发现涉嫌违法犯罪的，应当及时向公安机关报案，并提供相关线索，依法配合开展侦查、调查和处置等工作。
第十六条 互联网新闻信息服务提供者应当坚持正确政治方向、舆论导向、价值取向，加强网络暴力信息治理的公益宣传。
互联网新闻信息服务提供者不得通过夸大事实、过度渲染、片面报道等方式采编发布、转载涉网络暴力新闻信息。对互联网新闻信息提供跟帖评论服务的，应当实行先审后发。
互联网新闻信息服务提供者采编发布、转载涉网络暴力新闻信息不真实或者不公正的，应当立即公开更正，消除影响。
第十七条 网络信息服务提供者应当加强网络视听节目、网络表演等服务内容的管理，发现含有网络暴力信息的网络视听节目、网络表演等服务的，应当及时删除信息或者停止提供相关服务；应当加强对网络直播、短视频等服务的内容审核，及时阻断含有网络暴力信息的网络直播，处置含有网络暴力信息的短视频。
第十八条 网络信息服务提供者应当加强对跟帖评论信息内容的管理，对以评论、回复、留言、弹幕、点赞等方式制作、复制、发布、传播网络暴力信息的，应当及时采取删除、屏蔽、关闭评论、停止提供相关服务等处置措施。
第十九条 网络信息服务提供者应当加强对网络论坛社区和网络群组的管理，禁止用户在版块、词条、超话、群组等环节制作、复制、发布、传播网络暴力信息，禁止以匿名投稿、隔空喊话等方式创建含有网络暴力信息的论坛社区和群组账号。
网络论坛社区、网络群组的建立者和管理者应当履行管理责任，发现用户制作、复制、发布、传播网络暴力信息的，应当依法依约采取限制发言、移出群组等管理措施。
第二十条 公众账号生产运营者应当建立健全发布推广、互动评论等全过程信息内容安全审核机制，发现账号跟帖评论等环节存在网络暴力信息的，应当及时采取举报、处置等措施。
第二十一条 对违反本规定第十条的用户，网络信息服务提供者应当依法依约采取警示、删除信息、限制账号功能、关闭账号等处置措施，并保存相关记录；对组织、煽动、多次发布网络暴力信息的，网络信息服务提供者还应当依法依约采取列入黑名单、禁止重新注册等处置措施。
对借网络暴力事件实施营销炒作等行为的，除前款规定外，还应当依法依约采取清理订阅关注账号、暂停营利权限等处置措施。
第二十二条 对组织、煽动制作、复制、发布、传播网络暴力信息的网络信息内容多渠道分发服务机构，网络信息服务提供者应当依法依约对该机构及其管理的账号采取警示、暂停营利权限、限制提供服务、入驻清退等处置措施。
第五章 保护机制
第二十三条 网络信息服务提供者应当建立健全网络暴力信息防护功能，提供便利用户设置屏蔽陌生用户或者特定用户、本人发布信息可见范围、禁止转载或者评论本人发布信息等网络暴力信息防护选项。
网络信息服务提供者应当完善私信规则，提供便利用户设置仅接收好友私信或者拒绝接收所有私信等网络暴力信息防护选项，鼓励提供智能屏蔽私信或者自定义私信屏蔽词等功能。
第二十四条 网络信息服务提供者发现用户面临网络暴力信息风险的，应当及时通过显著方式提示用户，告知用户可以采取的防护措施。
网络信息服务提供者发现网络暴力信息风险涉及以下情形的，还应当为用户提供网络暴力信息防护指导和保护救助服务，协助启动防护措施，并向网信、公安等有关部门报告：
（一）网络暴力信息侵害未成年人、老年人、残疾人等用户合法权益的；
（二）网络暴力信息侵犯用户个人隐私的；
（三）若不及时采取措施，可能造成用户人身、财产损害等严重后果的其他情形。
第二十五条 网络信息服务提供者发现、处置网络暴力信息的，应当及时保存信息内容、浏览评论转发数量等数据。网络信息服务提供者应当向用户提供网络暴力信息快捷取证等功能，依法依约为用户维权提供便利。
公安、网信等有关部门依法调取证据的，网络信息服务提供者应当及时提供必要的技术支持和协助。
第二十六条 网络信息服务提供者应当自觉接受社会监督，优化投诉、举报程序，在服务显著位置设置专门的网络暴力信息快捷投诉、举报入口，公布处理流程，及时受理、处理公众投诉、举报并反馈处理结果。
网络信息服务提供者应当结合投诉、举报内容以及相关证明材料及时研判。对属于网络暴力信息的投诉、举报，应当依法处理并反馈结果；对因证明材料不充分难以准确判断的，应当及时告知用户补充证明材料；对不属于网络暴力信息的投诉、举报，应当按照其他类型投诉、举报的受理要求予以处理并反馈结果。
第二十七条 网络信息服务提供者应当优先处理涉未成年人网络暴力信息的投诉、举报。发现涉及侵害未成年人用户合法权益的网络暴力信息风险的，应当按照法律法规和本规定要求及时采取措施，提供相应保护救助服务，并向有关部门报告。
网络信息服务提供者应当设置便利未成年人及其监护人行使通知删除网络暴力信息权利的功能、渠道，接到相关通知后，应当及时采取删除、屏蔽、断开链接等必要的措施，防止信息扩散。
第六章 监督管理和法律责任
第二十八条 网信部门会同公安、文化和旅游、广播电视等有关部门依法对网络信息服务提供者的网络暴力信息治理情况进行监督检查。
网络信息服务提供者对网信部门和有关部门依法实施的监督检查应当予以配合。
第二十九条 网信部门会同公安、文化和旅游、广播电视等有关部门建立健全信息共享、会商通报、取证调证、案件督办等工作机制，协同治理网络暴力信息。
公安机关对于网信、文化和旅游、广播电视等部门移送的涉网络暴力信息违法犯罪线索，应当及时进行审查，并对符合立案条件的及时立案侦查、调查。
第三十条 违反本规定的，依照《中华人民共和国网络安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国治安管理处罚法》、《互联网信息服务管理办法》等法律、行政法规的规定予以处罚。
法律、行政法规没有规定的，由网信、公安、文化和旅游、广播电视等有关部门依据职责给予警告、通报批评，责令限期改正，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有严重后果的，并处十万元以上二十万元以下罚款。
对组织、煽动制作、复制、发布、传播网络暴力信息或者利用网络暴力事件实施恶意营销炒作等行为的组织和个人，应当依法从重处罚。
第三十一条 违反本规定，给他人造成损害的，依法承担民事责任；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
第七章 附 则
第三十二条 本规定所称网络暴力信息，是指通过网络以文本、图像、音频、视频等形式对个人集中发布的，含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私，以及影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息。
第三十三条 依法通过网络检举、揭发他人违法犯罪，或者依法实施舆论监督的，不适用本规定。
第三十四条 本规定自2024年8月1日起施行。
评论