四川法治报全媒体记者 李欣璐
近日,《喜羊羊与灰太狼》新作《破界山海诀》陷入舆论争议。剧中美羊羊身陷坠落险境时,未优先求生避险,反而下意识娇羞护裙,配合刻意的仰拍角度与裙底特写镜头,引发网友热议。事后制作方回应称,不存在主观刻意设置不当指向,并对相关镜头进行优化调整。这场围绕动画细节的争议,直指当下少儿内容创作最关键的问题:面对孩童,创作应当守住怎样的分寸与边界。
去年某地一名6岁男孩,模仿短视频里的"高空挑战"动作,从阳台翻出,幸好被邻居及时发现。事后家长哭着说,孩子看的根本不是正经动画,是AI生成的"刺激视频"! 未成年人分辨能力弱,看到什么学什么,这些毒动画轻则造成心理阴影,孩子胆小、失眠、焦虑;重则扭曲三观,养成暴戾任性的性格,甚至引发意外伤害。
近期,中央网信办启动“清朗·未成年人网络保护”专项行动,第一阶段即明确将“编造毒动画,利用AI技术恶搞经典动画形象,刻意放大暴力恐怖元素”列为重点整治问题。这类披着软萌外衣的“毒动画”,正在多个平台隐秘流转,而其法律定性、责任划分和治理路径,仍有诸多问题亟待厘清。记者就此采访了四川君合律师事务所律师陈蕾冰、四川发现律师事务所律师代瑶,逐一拆解五大核心法律问题。
问题一:内容性质如何认定?可爱画风能否成为“挡箭牌”?
记者调查发现,毒动画多从外网搬运,在原发布平台明确标注“R-17G”“儿童不宜观看”,但在国内平台却以萌宠、早教面貌出现,吸引大量未成年人。
近日,快手按照“清朗·未成年人网络保护”专项行动部署,持续对含有不良内容的“毒动画”开展专项治理。清理到账号:世***好(ID:2501***5719)以动画切片、二次创作等形式,发布含有暴力、血腥等危害未成年人身心健康的不良动画作品。平台已下架相关违规内容并对账号采取永久封禁处置。
对此,四川君合律师所律师陈蕾冰给出了清晰的法律判断:“这类动画内容无论画风如何低幼,只要含有宣扬暴力、恐怖等危害未成年人身心健康的信息,其制作、传播行为就已经触碰了法律红线。”
这一判断有明确的法律依据。2024年1月1日起施行的《未成年人网络保护条例》第二十二条规定,任何组织和个人不得制作、复制、发布、传播含有宣扬暴力、邪教、迷信、恐怖主义等危害未成年人身心健康内容的网络信息。2026年3月1日起施行的《可能影响未成年人身心健康的网络信息分类办法》,进一步将此类内容划入“不良信息”范畴,并要求平台不得利用算法向未成年人推送。
这意味着,可爱画风非但不能豁免,反而因为其伪装性加重了对未成年人的误导和侵害风险。无论套上何种外衣,只要内容核心含有法律禁止的暴力恐怖元素,就构成违法信息。
问题二:平台审核屡屡“漏放”,能否以技术原因免责?
记者调查发现,部分平台无需注册登录即可搜索观看限制级动画,未成年人模式形同虚设。更隐蔽的是,上传者通过在视频开头拼接英语学习、画画临摹等内容,并在评论区置顶指定时间戳,从而绕过审核。机审算法对卡通化暴力难以精准捕捉,人工审核覆盖率有限,平台往往以“技术限制”或“用户上传”为由解释此类内容的存在。
然而,法律并未给平台留下推责空间。陈蕾冰说道,平台不应以技术原因或用户上传等理由放松审核监管。四川发现律师事务所律师代瑶分析道,算法治理的难点在于穿透“算法黑箱”、审查算法价值取向,但难点不能成为堵点。她建议,将“未成年人模式”从用户选项变为默认底线,在源头将不良内容排除出未成年人视野;同时建立关键词审核和隔离机制,切断擦边内容与未成年人兴趣标签之间的关联。
从法律责任看,《网络安全法》第四十七条规定,网络运营者应当加强对用户发布信息的管理,发现法律、行政法规禁止发布或者传输的信息的,应当立即停止传输,采取消除等处置措施,防止信息扩散。平台若未履行信息内容管理主体责任,将面临罚款、责令暂停相关业务乃至吊销许可证等行政处罚。
问题三:算法“投喂”毒动画,平台应当承担什么责任?
在调查中,大量未成年人并非主动搜索到毒动画,而是被算法推进了“温柔陷阱”。有孩子留言说:“第一次看到时还以为是某个温馨和谐治愈的早教动画片”“自从看过一个限制级动画后,便接连刷到类似的暴力血腥视频”。
“毒动画吸引未成年人,源于算法精准‘投喂’与青春期猎奇心理的多重叠加。”陈蕾冰分析说。这一“投喂”行为,直接违反了《可能影响未成年人身心健康的网络信息分类办法》中关于平台不得向未成年人推送可能影响其身心健康网络信息的规定。此外,毒动画精准“投喂”还涉嫌违反《未成年人网络保护条例》《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》等关于未成年人保护、算法治理和网络信息内容管理的规定。平台作为网络服务提供者,应依法履行内容审核、算法治理和未成年人保护义务,及时删除、屏蔽违法有害内容,优化推荐机制,避免向未成年人精准推送暴力、恐怖等有害信息。对明知或应知违法内容仍放任传播、利用算法放大传播的,可能依法承担相应行政责任,情节严重的还可能面临更严厉的监管处罚。
代瑶进一步说道,AI技术大幅降低了制作门槛,使毒动画可批量生成并沿算法精准投放,形成灰色链条。此类动画还可能侵犯原动画作品著作权人的改编权、信息网络传播权,以及可能侵犯相关权利人的名誉权、肖像权(若涉及真人形象)或构成不正当竞争。此次专项行动第二阶段明确要求,指导平台优化算法推荐服务机制,不得设置诱导网络沉迷、过度消费等算法模型。陈蕾冰则建议对疑似未成年人账号采取更高标准的隔离措施。如果平台明知算法正在向未成年人推送违法不良信息而不作技术干预,其法律风险将不仅限于行政处罚,还可能触及民事侵权乃至刑事责任边界。
问题四:私域社群、群文件传播,群主和管理员能否免责?
除公开平台外,私域社群已成为毒动画资源的隐蔽传播渠道。调查中,有上传者在评论区贴出二维码引流至通讯群组,群文件中存有更为高清完整的限制级动画,群成员中不乏“10后”未成年人。
在此类封闭空间内传播违法信息,法律责任并不会因“私域”而消失。陈蕾冰说道,根据《互联网群组信息服务管理规定》,群组建立者、管理者应当履行群组管理责任,规范群组网络行为和信息发布。在群组内传播含有宣扬暴力等违法内容的信息,群主和管理员若未履行制止、报告等管理责任,可能需承担相应的法律责任。若情节严重造成严重后果,甚至可能面临治安管理处罚乃至刑事追责。
问题五:造成现实伤害后,如何追责与救济?
毒动画的危害早已不止于屏幕之内。有律师在社交平台上披露,其代理的案件中,一名年仅10岁的孩子正是在《T* M*》等血腥动画的持续影响下采取了极端行为。对此,代瑶分析道,这会削弱孩子对善恶的判断力,甚至在无意识中欣赏暴力、忽视伤害。
一旦酿成现实伤害,追责链条如何锁定?代瑶说道,从民事法律角度,若能证明毒动画的传播与未成年人损害后果之间存在因果关系,内容上传者、网络平台均可能依据《民法典》侵权责任编承担赔偿责任。网络服务提供者知道或者应当知道用户利用其网络服务侵害他人民事权益,未采取必要措施的,与该用户承担连带责任。而从行政和刑事角度,制作传播违法信息本身就是追责起点,造成严重后果则将进一步升格处罚力度。
标本兼治,需要法律长出“牙齿”
眼下,“清朗·未成年人网络保护”专项行动正以两步走模式推进:先抓住暑期关键节点集中整治,再转向长效规范,压实平台主体责任。陈蕾冰认为,这种先治标后治本的模式,既回应了紧迫需求,也为常态化监管奠定了基础。
但面对不断变换伪装手法、在公开平台与私域社群之间窜流的毒动画,法律的牙齿还需要更锋利。多位法律界人士呼吁,公众在刷到此类不良信息时不应简单滑走,而应积极向平台反馈,用每一次举报推动改变。治理“毒动画”需要形成共治格局,用法治利剑斩断伸向孩子的黑手,让每一次点击都不再成为伤害的开端。
