AI时代，未成年人保护也要更“智能 ”(新媒视点)

互联网和数字技术的发展
，为未成年人拓宽视野 、发展自我提供了广阔的空间，同时也带来了风险与挑战 。网络空间中的未成年人保护 ，是网络空间治理的重点问题
。把好这道关
，数字时代未成年人身心健康才有保障。

随着人工智能技术快速发展，未成年人在网络空间的发展和保护面临各种新型问题 。不知不觉间 ，基于生成式人工智能的各种服务
，已经进入未成年人生活的方方面面
。

但是，与未成年人从网络平台等公开渠道获取信息内容不同 ，AI工具与未成年人的互动处于私密状态
，一旦出现不良乃至有害内容，比如对于行为和价值观的不良引导 ，无论是家长还是监管机关
，都很难及时发现，也就难以评估未成年人使用人工智能工具产生的影响和风险。因此 ，针对聊天陪伴型的AI工具，无法简单沿用原有针对网络公开渠道的保护模式
，需要探索针对人工智能的新型治理模式 。

此外，未成年人作为“互联网原住民
” ，在运用人工智能进行开发和创作方面也十分活跃
，如设计
、生成各种智能体并对外传播
。

但这个过程中，也出现了未成年人自制的智能体内容低俗、擦边的问题。由此可见 ，未成年人在受到不良生态影响的情况下
，还可能运用人工智能技术，成为不良内容的制作者和传播者 。这意味着 ，除了把未成年人作为保护对象 、防止他们接触不良内容
，还需重视正向培育和引导。建设健康安全的网络生态，促进未成年人数字素养的提升才是治本之措
。

人工智能的发展 ，还让网络上的不良信息更容易变换形态
，逃避监管。

经过长期治理，目前主要平台上已有大批违法
、有害内容得到有效清理 。但还有不少对未成年人可能产生负面影响和不良引导的内容 ，在不断“改头换面”，以不同的样貌现身
，污染整体内容生态
。比如，倡导厌学逃学倾向、展现校园欺凌行为 ，利用“网红儿童 ”形象炫富 、恶搞
、不正当营销
，以及使用人工智能技术批量生成的谣言类、擦边类 、误导类内容。针对新型内容，有必要紧密追踪其特征和趋势 ，通过“清朗”行动等专项措施展开精准打击 。

另外
，还有一种现象值得重视，那就是未成年人在网络空间主动实施对于他人的侵害
。这在未成年人参与“饭圈
”追星的领域尤为明显。从一言不合就“开盒”“挂人 ” ，到有组织地集中实施人身攻击、施行网络暴力
，未成年人一方面是网络侵害乱象的受害人，另一方面也受到负面氛围影响 ，可能成为侵权行为的实施者 。可见
，未成年人运用人工智能等技术的能力不断提升，也是一把“双刃剑
” ，既促进他们快速学习
、成长，也放大了他们侵害他人的能力
。

因此
，人工智能时代，针对未成年人的保护和治理机制面临全新挑战。只有积极进行创新转型 ，才能有效回应新时代和新技术的需求 。

具体而言
，在人工智能模型和应用的开发过程中，需要在数据训练、模型优化 、应用场景
、服务运营各个环节都嵌入未成年人保护的理念 ，并进行技术和组织层面的合规设计
，做好事前、事中的防范和保护
。对于未成年人的保护模式，应当探索从隔离 、控制的手段 ，转向积极培育和建设安全生态
，在防范侵害的同时，积极进行正向引导和影响 ，特别是借助人工智能等技术能力
，为未成年人呈现与营造健康积极
、向上向善的内容和环境。

(作者：刘晓春中国社会科学院大学互联网法治研究中心主任)