AI技术引发深度伪造裸照问题

摘要: 有线报告发现了一个“裸机”照片的网站,并发布了显示用户上传的提要。它们包括年轻女孩的照片和似乎是陌生人拍摄的图像。

AI技术引发深度伪造裸照问题

AI技术引发深度伪造裸照问题

随着AI技术生成图像的普及,一些网站开始提供数字化去除照片中人物衣服的服务。其中一个网站展示了用户上传的照片,展示了这些应用程序的使用方式:两个看似用户上传的照片流,显示了用户想要“裸化”对象的图片。

这些图片流展示了一些令人震惊的受害者。有些照片显示了明显是儿童的女孩。其他照片展示了成年人,并标有说明,表明她们是女性朋友或陌生女性。该网站的首页不会向未登录的访客展示任何虚假的裸体图片。

那些想要制作和保存深度伪造裸照的人需要使用加密货币钱包登录该网站。目前没有列出价格,但在一个关联的YouTube页面发布的2022年视频中,该网站允许用户购买积分来创建深度伪造裸照,起价为5美元5积分。《WIRED》是通过一个关于NFT市场OpenSea的Reddit帖子了解到该网站的,该帖子链接到了YouTube页面。在《WIRED》联系YouTube后,该平台表示已终止了该频道;Reddit告诉《WIRED》该用户已被封禁。

《WIRED》为了保护仍在其图片流上的女性和女孩,没有公开该网站的名称,该网站仍然在线。该网站的IP地址于2022年2月上线,属于互联网安全和基础设施提供商Cloudflare。在被问及其参与情况时,该公司发言人杰基·达顿指出了提供网站IP地址(Cloudflare提供)和托管其内容(Cloudflare不提供)之间的区别。

《WIRED》已通知帮助向执法部门报告儿童被剥削案件的全国失踪与被虐儿童中心,告知该网站的存在。

像OpenAI和Stability AI这样的AI开发者表示,他们的图像生成器用于商业和艺术用途,并设有防范措施以防止有害内容。但是,现在开源的AI图像生成技术相当强大,制作色情内容是其中最受欢迎的用例之一。随着图像生成技术变得更加普遍,非自愿的深度伪造裸照问题,主要针对女性,变得更加普遍和严重。本月早些时候,《WIRED》报道称,两名佛罗里达州的青少年因涉嫌未经同意制作和分享中学同学的AI生成裸照而被捕,这似乎是这类案件的首例。

乔治·华盛顿大学法学院教授玛丽·安妮·弗兰克斯研究了非自愿裸露图像问题,她表示,深度裸照网站凸显了一个令人沮丧的现实:涉及未经同意制作的女性和未成年人的AI生成裸照事件远比公众目前所知的要多。少数公开案例之所以曝光,仅因为这些图片在社区内共享,有人听说后才发出警报。

非自愿图片

《WIRED》审查的网站有两个页面,分别显示了用户提交的照片。一个标记为“首页”,另一个标记为“探索”。其中一些照片清楚地展示了18岁以下的女孩。

一张图片展示了一个头发上别着花的小女孩站在树旁。另一张是一个看起来是中学或高中教室里的女孩。这张照片似乎是由一位同学悄悄拍摄的,标题写着“色情”。

© 版权声明

相关文章

暂无评论

暂无评论...
TAB栏自定义颜色

背景颜色

文字颜色