谨防人工智能带回“邪教视频”

中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 奥特曼怀孕、可爱山羊挖出眼球吃掉、小猪佩奇殴打骷髅……记者注意到，近期一些人工智能制作的“邪教视频”在未成年人中广泛传播。有些动画看似卡通风格，实则充满了踩脚、高处坠落等血腥暴力内容。 “邪教视频”就像隐藏在网络中的癌症，对未成年人的身心健康构成严重威胁，必须引起警惕。近年来，有关部门通过封杀非法账号、下架非法应用、处罚传播有害信息的平台，对“邪教视频”乱象进行了有效治理。越来越成熟的AI技术让视频制作变得更加便捷和精细。然而，在在一些犯罪分子手中，技术的发展在一定程度上让“邪教视频”死灰复燃。利用生成式人工智能，制作者可以生成他们想要的图像，而无需掌握太多的动画制作技术。为了博取关注、赚取流量，一些不法分子想制作一些不精致的内容，加入血腥暴力、血腥、低俗等元素，然后贴上“识字”、“识形”的标签，欺骗未成年人和家长。在一些社交平台和短视频平台上，有教如何设置关键词让AI生成“邪教视频”，试图将其打造成“异常链”。 “邪教视频”是针对未成年人思想、价值观的“毒药”，危害极大。有些视频利用“可爱画面”与“残酷内容”的强烈对比来吸引点击，满足极少数人不健康的心理需求。它们也可以是有趣和激励的ng。如果孩子被模仿，将会造成不可挽回的后果。一些人工智能生成的“邪教视频”诋毁历史人物言行，污名化中华优秀传统文化，让未成年人产生扭曲的历史观和文化理解。应对“邪教视频”死灰复燃，各方必须共同筑牢防线。监管部门要加大执法力度，严厉打击制作、传播“邪教”内容和销售相关产品的行为，切断利益链条。网络平台要承担主体责任，优化内容审核机制，立即下架“有毒”内容制作教程，堵塞投放路径。同时，要落实“家校学习链接”，加强对孩子的陪伴、帮助、教育和引导，提高孩子的认知能力。人工智能技术应该是促进成长的工具，而不是创造有害价值的帮凶，我们不会允许“邪教视频”死灰复燃，污染未成年人的成长环境。相关各方要完善优质内容供给，丰富未成年人网络空间，为未成年人营造健康、安全、积极向上的网络环境，让未成年人在透明的网络环境中汲取成长力量。 （本报评论员王楚然、农冠斌）