Hugging Face平台上的开源图像编辑模型被用于生成非自愿性私密图像。一项调查报告评估了该平台上最热门的9个图像编辑模型,其中7个模型在接收到直接脱衣提示词后输出了性化深度伪造图像。这些模型几乎缺乏基本防护,无需使用复杂绕过技巧即可生成违规图像。
展开完整正文(3 段)
研究人员在该平台上构建了用于追踪用户生成请求的Spaces空间,该空间未实际输出图像。在七天的测试期内,该空间收到超过1000次图像和提示词请求。统计显示,73%的请求具有性暗示性质,其中83%试图对图像中人物进行脱衣处理,受害者中95%为女性。接近7%的性化请求将目标指向儿童。
被测试的大多数Spaces空间实际被用于制作非自愿性私密图像,且用户大规模用于此类用途。该平台在平台层面尚未实施任何有效的安全保障手段。