TheVerge_AI2026年7月28日 12:0755 分钟前
Hugging Face被滥用于制作深度伪造的裸照，涉及妇女儿童
AI 摘要
- AI Forensics报告揭露Hugging Face托管的开源模型被广泛用于制作非自愿深度伪造裸照
- 排名前9的图像编辑模型中，有7个可被直接用于此类恶意用途
- Hugging Face目前对模型滥用缺乏有效的预防和管控措施
为什么重要
AI内容安全问题从理论讨论进入现实案例阶段，将加速平台治理和监管立法。
- 排名前9的图像编辑模型中，有7个可被直接用于此类恶意用途
- Hugging Face目前对模型滥用缺乏有效的预防和管控措施
AI Pulse 编辑解读
开源不等于免责，Hugging Face需要尽快建立有效的内容安全机制。
风险与不确定性
开源模型缺乏使用限制，恶意滥用可能导致更严格的AI监管，影响正常开发。
影响对象
开发者企业研究者普通用户
来源与透明度
本文由 AI Pulse 编辑部基于公开来源整理，摘要可能使用 AI 辅助生成，并经过人工检查标题、来源和关键信息一致性。
原始来源：TheVerge_AI。发布时间：2026年7月28日 12:07。如果你发现事实错误或来源失效，欢迎通过联系页面提交纠错。