AI儿童书籍，身体恐怖版

# 摘要 网络安全研究员Michal Zalewski（网名lcamtuf）在其Substack博客上发表了一篇题为《AI儿童书籍，身体恐怖版》的文章，对当前AI生成儿童读物内容的质量与安全性提出了尖锐批评。 文章指出，随着AI图像生成技术的普及，平台上涌现出大量由AI创作的"儿童书籍"，但其中许多作品包含令人不适甚至恐怖的内容。作者通过实际案例展示了AI在绘制儿童插画时频繁出现的严重问题——图像中的人物（包括看似可爱的卡通动物和儿童形象）往往会出现畸形、扭曲、肢体错位等"身体恐怖"现象，呈现出诡异甚至令人毛骨悚然的视觉效果。 Zalewski认为，这一现象反映出几个深层问题：首先，AI图像生成模型在训练数据筛选、内容审核方面存在明显缺陷；其次，平台对AI生成内容的监管不力，导致这些低质量甚至有害的内容能够轻易传播；最后，部分内容创作者利用AI批量炮制儿童读物，追逐流量而完全忽视内容质量与儿童身心健康。 文章呼吁相关平台加强审核机制，并提醒家长在为孩子选购书籍时保持警惕。这一现象也再次引发业界对AI生成内容安全边界的广泛讨论。

# 摘要

网络安全研究员Michal Zalewski（网名lcamtuf）在其Substack博客上发表了一篇题为《AI儿童书籍，身体恐怖版》的文章，对当前AI生成儿童读物内容的质量与安全性提出了尖锐批评。

文章指出，随着AI图像生成技术的普及，平台上涌现出大量由AI创作的"儿童书籍"，但其中许多作品包含令人不适甚至恐怖的内容。作者通过实际案例展示了AI在绘制儿童插画时频繁出现的严重问题——图像中的人物（包括看似可爱的卡通动物和儿童形象）往往会出现畸形、扭曲、肢体错位等"身体恐怖"现象，呈现出诡异甚至令人毛骨悚然的视觉效果。

Zalewski认为，这一现象反映出几个深层问题：首先，AI图像生成模型在训练数据筛选、内容审核方面存在明显缺陷；其次，平台对AI生成内容的监管不力，导致这些低质量甚至有害的内容能够轻易传播；最后，部分内容创作者利用AI批量炮制儿童读物，追逐流量而完全忽视内容质量与儿童身心健康。

文章呼吁相关平台加强审核机制，并提醒家长在为孩子选购书籍时保持警惕。这一现象也再次引发业界对AI生成内容安全边界的广泛讨论。