TheVerge_AI

AI 驱动的交友诈骗已来：警惕假美女

• 安全研究员发现名为 Dora 的欺诈交友应用，用 AI 生成的美女信息诱导用户。
• AI 换脸与语音技术被用于包装虚假人设实施诈骗。
• 警示 AI 正被滥用为社交诈骗工具。

1 个月前访问原文链接

HackerNews

AI 正在瓦解我们赖以信任的基础

• 文章指出 AI 生成的逼真内容正在侵蚀人际与信息信任
• 深度伪造、合成文本让"眼见为实"的默认假设失效
• 呼吁重建数字时代的信任验证机制

1 个月前访问原文链接

TheVerge_AI

苹果开发iPhone照片来源验证功能，对抗AI深度伪造

• 苹果在iOS 27 beta 5中加入Apple Reference Image系统代码
• 该功能可在拍摄时嵌入来源元数据，帮助用户证明照片由真实iPhone相机拍摄
• 这是苹果应对AI深度伪造泛滥的重要举措

2 个月前访问原文链接

TheVerge_AI

上线仅一天：谷歌地球AI图像工具因深度伪造风险火速下线

• 谷歌在地球应用中推出AI卫星图像编辑功能，允许用户通过文本提示修改卫星图像
• 用户迅速利用该功能生成虚假灾难场景和政治敏感内容，引发巨大争议
• 谷歌在舆论压力下仅一天即关闭该功能并致歉

2 个月前访问原文链接

HackerNews

当诈骗遇上AI：从笨拙脚本到深度伪造，骗局进化史触目惊心

• R Street Institute发布研究报告，分析AI技术如何被用于升级诈骗手段
• 深度伪造语音和视频、AI生成的钓鱼邮件使诈骗成功率大幅提升
• 呼吁建立AI安全标准和反诈技术体系应对新一代AI赋能犯罪

3 个月前访问原文链接

TheVerge_AI

Meta关停Instagram AI换脸功能：深度伪造恐惧成真

• The Verge报道Meta已关停本周刚推出的AI图片生成功能，该功能可基于公开账号内容生成AI图片
• 功能原设定为无需账号所有者许可即可将其内容用于AI创作
• 此举在社交媒体引发对AI深度伪造和隐私侵犯的广泛担忧

3 个月前访问原文链接