《纽约时报》近日报道，AI生成的儿童性剥削内容（CSAM）在互联网上迅速蔓延，其逼真程度已难以与真实影像区分，引发多方担忧。研究数据显示，此类内容从2024年上半年的2个激增至2025年上半年的1286个视频，报告数量也由全年6.7万份飙升至半年内48.5万份。

互联网观察基金会（IWF）警告称，这些内容多通过暗网传播，且部分系利用真实儿童照片训练生成，给执法带来极大挑战。IWF临时首席执行官形容此为“一场真正的海啸”。