信息通信技术的发展与互联网生态的繁荣，以开放的精神和空前的自由深刻地改变着人与人之间的信息沟通与交流，在结构性地变革信息的生成与传播方式的同时，也导致了诸如暴力言论等网络失范行为在网络中的蔓延。近年来，“网课爆破”“粉色头发”等网络暴力事件在公共舆论中不断发酵，引发了社会广泛关注。
我国目前已基本构建起较为完善的法律体系以规范公共网络空间的信息传播，针对不同程度的权利侵害行为，配置了涉及多个部门法的规范体系。但《民法典》《刑法》《治安管理处罚法》《未成年人保护法》《妇女权益保障法》《英雄烈士保护法》等立法，以及最高人民法院、最高人民检察院关于诽谤、侵犯个人信息、侵害人身权益等相关司法解释中对网络暴力的相关规定，整体上存在保护针对性不足、惩罚力度轻微、打击及预防有效性不够等缺憾。
网络暴力的蔓延滋长已引起社会各界的强烈不安，中央网信办2022年11月2日颁发了《关于切实加强网络暴力治理的通知》，针对网络暴力的特殊形成机理与作用路径，在建立健全网暴预警预防机制、强化网暴当事人保护、严防网暴信息传播扩散等方面作出要求。在探索网络治理现代化的进程中，需要认识到网络暴力问题的解决，不能依赖“集中统一管控”的传统模式，而是要明确实现网络暴力的治理的全新路径，构建长效治理制度。其中，事前技术预警及事中技术干预机制具有实现治理成本最小化、治理精确化以及当事人保护最大化的独特优势，符合《关于切实加强网络暴力治理的通知》的规范要求。
大量案例表明，对网络暴力干预的阶段越靠后，暴力行为依托于网络技术传播、叠加、积聚的指数递增后果就越恶劣，治理难度与成本就越高，甚至难以遏制恶性事件的发生。通过引入词法分析、文本观点提取、文本相似度判断、情绪解析等技术，构建网暴技术识别模型，在网络暴力行为的生成阶段进行智能化的风险标注与追踪，能够在显著降低人工审核甄别成本的同时，及时发现网暴倾向性、苗头性问题，从而在阶段上和手段上，形成对“治理成本-治理效果”妥善的平衡协调。
网络暴力行为的发生，一般会经过一个从量变到质变的过程，在加强网络暴力治理的同时，要尽可能规避预先人工审核、无差别删帖等强干预措施对用户言论自由等权益的不当侵犯。在做好细化涉网暴内容分类标准的基础上，依托智能模型对网络中自然语言的强大理解能力，实现技术模型对网暴行为性质认定的标准统一性、过程客观性和结果准确性。此外，还应实现根据不同信息内容，沿着网络传播链条，形成提醒劝阻、信息折叠、过滤清理等差异化、渐进式的干预功能，在网暴传播链向纵深发展前起到精准干预的效果。同时，要明确智能技术在阻断决策中的辅助性定位，与人工识别相结合，避免全部自动化决策而形成另一种机械性干预暴力。
应该特别强调的是，当事人保护主义是网络空间法治化建设的基本要求，也是对网络暴力予以阻断的核心价值。对风险管理而言，应采取渐进式的手段，以平衡自由与秩序的关系，但对当事人保护而言，则要提升技术预防的效果强度，要持续完善紧急防护功能，确保一键防护的周全性。在触发机制上，要综合分析持续时长、参与人数、信息内容、发送频次、扩散范围等因素，不断优化技术模型的识别有效性和阶段适当性，既要避免过分延迟，无法发挥系统预警作用，也要防止过犹不及，避免对风险的过度反应。在实践中逐渐形成一套完备的网络暴力信息分类标准及分类处置机制。同时，记录暴力信息的完整传播链条，为可能的后续司法裁判提供事实依据，完成从事前预防、事中干预到事后追责的全链条治理。
“上医治未病”，阻断网暴信息传播，有效预防可能形成的现实危害后果，要以当事人保护为核心。通过加强技术性预防与干预，实现对网络暴力的源头治理，需要转换治理理念，同时考量并平衡自由与秩序，完成从被动应对到主动维护、从事后追责到事前防范、从静态监管到动态管控的治理转型。
