YouTube 上 AI 生成的儿童惊悚视频泛滥，平台监管面临挑战
作者：灵犀软件园时间：2025-05-06 10:17:45
本站 5 月 5 日消息，YouTube 作为全球最大的视频分享平台，如今面临着一个棘手的问题：如何在提供丰富娱乐内容的同时，确保儿童免受不当内容的伤害。近期，《连线》杂志的一篇最新调查报道揭露了一个令人不安的趋势，引发了公众对 YouTube 儿童内容安全性的担忧。
据报道，一些以儿童为目标受众的 YouTube 频道正在利用当下便捷易得的人工智能技术生成令人不安的视频内容。这些频道，例如“Go Cat”，表面看起来充满了吸引孩子的可爱角色和欢乐氛围，但实际上却隐藏着令人毛骨悚然的情节。这些视频以孩子们熟悉的卡通形象如小黄人、托马斯小火车等为基础，通过 AI 技术进行重新创作，将其改造成带有恐怖元素的形象，甚至出现了小黄人被核废料溶解变成下水道蠕虫怪物、可爱的猫咪目睹父母被枪杀等令人毛骨悚然的画面。
据本站了解，尽管 YouTube 声称所有内容都必须遵守其社区准则，其中包括禁止向儿童展示不当内容，但实际执行情况却并不乐观。随着 AI 视频生成技术的飞速发展，即使某个频道被封禁或被取消广告收益，其背后的创作者也能轻松地创建新的频道并继续上传类似的视频。此外，这些视频虽然获得了大量观看次数，但评论区中却存在大量可疑的机器人评论，这表明这些视频的受欢迎程度可能被人为夸大，而这也可能是这些频道能够不断重生的原因之一。
面对这一问题，专家建议家长们应更加积极地参与到孩子的媒体消费过程中，确保他们观看的内容是适合其年龄的。同时，当遇到明显不适宜的视频时，应充分利用举报工具，以便平台能够及时审查并采取措施。
相关文章
-
YouTube 上 AI 生成的儿童惊悚视频泛滥，平台监管面临挑战本站 5 月 5 日消息，YouTube 作为全球最大的视频分享平台，如今面临着一个棘手的问题：如何在提供丰富娱乐内容的同时，确保儿童免受不当内容的伤害。近期，《连线》杂志的一篇最新调查报道揭露了一个
-
京东京造推出灵犀鲜矿净水器：净矿双水技术、陶式 RO 膜，1699 元起（国补后 1359.2 元起）
本站 5 月 5 日消息，京东京造现已上架一款灵犀鲜矿净水器，主打“净矿双水技术、陶式 RO 膜”，可选 1000G 1200G 版本，本站整理价格信息如下：1000G版本：1699元，国补后13
-
“智驾”不流行了，多家车企调整宣传话术
本站 5 月 5 日消息，小米近期调整了 SU7 新车定购页面中的措辞，将“智驾”更名为“辅助驾驶”。其中小米 SU7 标准版搭载的 Xiaomi Pilot Pro 由“小米智驾 Pro”更名为“小
-
徕卡迎来成立百年纪念，推出限定黑漆纪念款 M11 相机售 10695 美元
本站 5 月 5 日消息，徕卡公司迎来成立 100 周年纪念，本周徕卡在美国纽约正式推出了相应百年纪念款M11 黑漆相机，该机将在全球六大市场销售，每个市场限定 100 台，不同市场销售的机型机顶刻有
-
上汽通用别克君越 / 君威车型官方改装件迎来 5 月限时折扣：电吸门、投影仪、流光底盘...
本站 5 月 5 日消息，上汽通用别克品牌宣布旗下君越 君威两款车型的官方改装件迎来5月限时折扣价，在5月31日前用户可以使用优惠价格购买相应改装产品，涉及静逸电吸门、静悦悬停桌板、静享巨幕投影等
-
反盗版运动涉嫌使用盗版字体，美国电影协会遭“双标”质疑
本站 5 月 4 日消息，21 世纪初，美国电影协会（MPAA）开启了 "You wouldn t steal a car " 系列反盗版宣传活动，并在 2004 年至 2008 年期间大规模播放宣传片