英国互联网监督基金会于10月4日发布的最新统计报告显示，过去12个月该机构确认并协助下架的AI生成儿童性侵害内容数量较上一统计周期激增超过四倍。报告同时指出，生成式AI工具的普及与犯罪地下市场的结合，使得此类内容的制作、分发门槛大幅降低，呼吁各国立法机构将AI性化儿童侵害内容纳入专门法律框架。

[核心摘要]

  • 报告统计周期为2025年7月至2026年6月，期间确认并下架的AI生成儿童性侵害内容较上一周期增长超过四倍。
  • 报告指出此类内容主要由开源图像生成模型、定制化LoRA与低门槛桌面端工具组合生成。
  • 犯罪地下市场已将AI生成儿童性侵害内容列为独立商品类别，并形成完整制作、分发、洗钱链路。
  • 报告呼吁各国立法机构将AI生成儿童性侵害内容明确列为独立罪名，而非简单归入现行"儿童性侵害内容"条款。
  • 多家AI公司（包括Stability AI、Midjourney、Runway等）已承诺部署更严格的生成内容过滤机制。

[事件详情]

  • 统计范围：报告覆盖英国境内及部分英语国家互联网服务提供商提交的链接，覆盖样本超过50万条URL。
  • 增长原因：报告将增长归因于三大因素——开源图像生成模型能力提升、定制化LoRA训练数据共享、犯罪地下市场规模化运营。
  • 法律现状：英国现行《性侵害内容相关法律》对"真实儿童"与"AI生成模拟"两类内容使用不同条款，引发部分案件定罪困难。
  • 行业反馈：多家AI公司在报告发布后承诺部署更严格的生成内容过滤机制，并加强用户行为审计。
  • 国际合作：报告呼吁建立跨国数据库，共享AI生成儿童性侵害内容的哈希指纹与生成工具特征。

[全景透视]

第一，生成式AI的负面外溢效应已从理论担忧转为实际数据冲击。 过去两年各界对生成式AI可能被滥用的讨论多停留在"潜在风险"层面。本次报告以四倍以上同比增长的实测数据，证实了AI技术被滥用的速度与规模已超出多数立法者与企业的预期。AI安全治理不能仅停留在"原则性"声明，需要形成可执行的技术与法律工具。

第二，开源模型的"双重用途"困境在儿童保护场景尤为突出。 Stable Diffusion等开源图像生成模型的权重公开发布后，研究者难以限制其被用于制作儿童性侵害内容。学术界与产业界已尝试通过内容过滤、模型水印、训练数据审计等技术手段缓解，但目前的技术方案在对抗性攻击下仍存在明显漏洞。

第三，犯罪地下市场的"AI化"升级速度超出传统执法节奏。 报告指出犯罪分子通过加密货币、匿名网络、跨境托管等手段形成完整产业链，单一国家执法难以应对。需要国际刑警组织、欧洲刑警组织、各国网络犯罪部门建立常态化信息共享与联合执法机制。

第四，立法层面的"真实与模拟"二元区分已难以适应AI时代。 现行法律以"是否涉及真实儿童"作为核心区分标准，但AI生成的模拟图像对儿童造成的心理伤害、对社会信任的破坏程度并不亚于真实内容。报告呼吁立法将"AI生成模拟"与"真实儿童"统一纳入最严格的儿童保护框架。

第五，AI企业需要在产品设计阶段前置考虑儿童保护。 报告呼吁AI企业在模型训练阶段、数据过滤阶段、内容生成阶段、用户使用阶段均嵌入儿童保护机制，而非仅在事后被动响应。Stability AI等公司承诺的"前置过滤"机制是否能在工程层面落地，仍需要未来12个月的实际案例检验。

[多方观点比对]

  • 英国互联网监督基金会首席执行官：表示这是"AI技术被滥用的最令人担忧的场景之一"，呼吁各国立法机构立即行动。
  • 英国内政大臣：在议会发言中承诺将推动立法，将AI生成儿童性侵害内容明确列为独立罪名。
  • Stability AI慈善基金会发布公开声明称已加强生成内容过滤机制，但承认"完全阻断几乎不可能"。
  • 联合国儿童基金会代表：在声明中呼吁各国建立跨国数据库，共享AI生成儿童性侵害内容的哈希指纹。
  • 数字权利倡导组织：在接受媒体采访时警告不应以儿童保护为名扩大监控范围，强调技术解决方案与人权保障并重。
  • 美国全国失踪与被剥削儿童中心：表示美国正与英国、加拿大、澳大利亚同行合作，推动建立北美与海外市场共享机制。