英国机构呼吁禁止“AI 生成儿童裸体图片”的深伪应用：开发者应担法律责任

4 月 28 日消息，英国儿童专员今日呼吁政府，禁止能够制作儿童裸体或性别图像的 AI 深度伪造应用程序。其指出，这些“裸体化”应用程序已经非常普遍，以至于许多女孩选择不再在社交媒体上分享照片。

儿童专员瑞秋・德・苏扎表示：“孩子们告诉我，他们对这种技术的存在感到恐惧，甚至对它的可获取性感到害怕，更别提它可能被用来操控他们了。他们担心任何人都可能利用这些定制应用，通过智能手机制造裸露图像，不论是陌生人、同学，还是朋友。”

德・苏扎强调，这些裸体化 AI 应用程序广泛存在于主流平台上，包括最大的搜索引擎和应用商店。而且这些工具主要针对女孩和年轻女性，许多工具甚至只对女性身体有效。她还指出，年轻人正在呼吁（政府）采取行动，遏制这种技术的滥用。

因此，德・苏扎呼吁政府全面禁止使用 AI 生成性别深度伪造图像的应用程序。她还希望政府能够为生成式 AI 应用的开发者设定法律责任，以识别产品对儿童的潜在风险，并建立有效机制，清除网络上的儿童性虐待材料。

据《卫报》报道，英国政府已经采取措施，通过引入新的刑事罪行来严惩制作或传播性别深度伪造图像的行为。此外，英国还计划将未经同意拍摄亲密照片或视频列为刑事犯罪。当前，儿童专员更加关注这种技术对年轻人造成的伤害，指出深度伪造虐待与自杀倾向和创伤后应激障碍（注：即 PTSD）之间的关联。

该内容转自IT之家