logo
繁体
繁体

一个情欲聊天平台泄露了大量数据,人们使用AI的阴暗面暴露无异

本文刊发在404 media,作者萨姆·科尔,她是《性如何改变互联网》和《互联网如何改变性》的作者。

一个名为Secret Desires的情欲角色扮演聊天机器人和AI图像生成平台,日前将数百万张用户上传的照片暴露在可访问状态。数据库中包含近200万张照片和视频,其中包括大量几乎没有上网痕迹的普通人照片。

这些暴露的数据,揭示了有多少人使用带有人脸替换功能的AI角色扮演应用程序,用于生成未经同意的性图像,受害者从世界顶级娱乐明星到普通女性皆有。这些数据中不仅包括用户上传的真实照片输入,还包含大量AI生成的输出图像,大多带有性内容,甚至极为露骨。

与那些“脱衣”类的应用不同,这些图像将人脸嵌入到AI生成的硬核色情视频中。

Secret Desires是一个基于浏览器的平台,类似于Character.ai或Meta的AI头像生成工具,能够根据用户提示生成个性化聊天机器人和图像。今年早些时候,Secret Desires推出了订阅服务,价格从每月7.99美元到19.99美元不等,并在服务中提供“人脸替换”功能,允许用户上传真实人物的照片,以生成色情AI图像和视频。

404 Media查看的这些上传内容,是这次遭到公开曝光的主要部分。从文件的日期来看,这些数据可能已经暴露数月之久。

在404 Media于周一联系Secret Desires公司,提醒其注意这些暴露的数据库并寻求评论约一小时后,这些文件变得无法访问。Secret Desires及其母公司Playhouse Media的首席执行官杰克·西蒙斯未回应有关这些数据库为何未加密、以及暴露时间有多长的问题。

这个平台将图片和视频的链接存储在未加密的微软Azure Blob容器中,任何人都能访问XML文件并浏览其中的图像链接及内容。其中一个名为“removed images”的容器中存有约93万张图片,很多是知名明星和外表非常年轻的女性;一个名为“faceswap”的容器中包含5万张照片;一个名为“live photos”的容器中则有22万段视频。

这些图片中有不少是重复内容、不同角度的同一个人,或者是文件名不同,但404 Media查看到的文件总数接近180万份。

在“removed images”和“faceswap”这两个数据集中,大部分是女性的真实照片,包括成人电影演员、社交媒体影响者、明星,以及一些明显不是公众人物的女性。

这些照片很多看起来是从女性的社交媒体上获取的,例如卧室里的自拍照、微笑的头像照等。

在“faceswap”容器中,记者发现了一张州议员公开演讲的照片,有女性多年前用翻盖手机或黑莓手机拍的镜中自拍,有来自Snapchat的截图,还有女性拿着大学毕业证的照片和一张年鉴照。有些文件名中甚至包括女性的全名。这些照片与被盗的成人电影制作者的视频截图、影视作品中的演员照片混在一起。

这些照片出现在这个容器中,意味着有人将这些人的照片上传到了Secret Desires平台,用于生成色情图像——因为这个平台本身就是以此为卖点,且曝光的内容大多数是色情图像。

在“faceswap”容器中的一些面孔,也出现在“live photos”容器中的生成视频里,这些视频几乎全是AI生成的硬核色情片段。在这些视频中,有不少内容呈现的是外貌极为年轻的角色正在发生性行为。

2025年初,Secret Desires下架了人脸替换功能。“faceswap”文件中最新的文件日期是2025年4月,这也与当时Reddit上的讨论相符,用户纷纷抱怨Secret Desires“取消了”人脸替换功能。

“Secret Desires取消人脸替换后我就退订了。有没有类似的网站?Secret Desires的图像生成效果真的很好,”一位用户在寻找替代平台的讨论帖中说。“我参加过人脸替换功能的内测,上传我老婆的照片后生成得很像,”另一人回应说。“真可惜他们取消了。”

在Secret Desires的Discord频道中,用户注意到到11月3日为止,平台仍在订阅服务中列出了“人脸替换”功能。但截至11月11日,这个功能已经不在订阅服务项目中。

Secret Desires目前仍宣传自己是一个“刺激聊天”平台,用户可以创建个性化的AI伴侣,并提供声音克隆功能,用户可上传某人说话的音频,来在语音聊天模式中克隆其声音。

在网站上,Secret Desires声称使用端对端加密保护用户通信:“你所有的通信——包括消息、语音通话和图像交换——在传输和静止状态下都采用行业领先的加密标准加密,确保只有你能访问你的对话。”

平台还称会安全存储数据:“你的数据存储在受保护的服务器上,采用严格的访问控制。我们使用先进的安全协议来防止未经授权的访问。”

从一些文件名中暴露的提示词可以看出,部分用户的“秘密欲望”是生成未成年女孩的图像:“17岁,高中三年级,精致细节,纯真面孔”等描述出现在多个提示中,还有一些提示中包含年轻女明星的名字。

我们从其他“AI女友”平台遭泄的数据中已知,这类内容在用户中颇受欢迎。Secret Desires在其使用条款中明文禁止生成未成年图像。

Secret Desires还在YouTube上投放广告,宣传平台能够生成现实中遇到的人的色情化版本。

“AI女孩永远不会说不,”一位AI生成的女性在一段YouTube短视频中说,“我可以看起来像你最喜欢的明星,健身房里的那个女孩,你梦中的动漫角色,或任何你幻想的对象?我可以为你做到一切。”

Secret Desires在YouTube上的广告大多强调放弃现实生活中的人际关系和约会应用,转而追求AI女友。“如果她能成为你想象中的一切呢?塑造她的外表、个性,打造专属于你的完美关系,”另一则广告说。许多广告描绘的用户是年轻、孤独的男性。

我们从多年来对人脸替换应用、AI伴侣平台和情欲角色扮演平台的研究中已经了解到,对这类工具的需求是真实存在的,也极容易被跟踪者和施害者用于制作前任、熟人,甚至陌生女性的色情图像。这些平台在社交媒体上随处可见,儿童也很容易接触到,并用它们制作同龄同学的儿童性虐待图像。

当人们在未获同意的情况下制作他人的色情深度伪造图像时,受害者往往遭受严重打击,包括职业受损、自信心崩溃,甚至人身安全受到威胁。由于Secret Desires公开暴露了这些数据,也严重失职于用户信息的管理,我们才能清晰地看到人们如何用生成式AI,对身边的女性进行性幻想,无论这些女性是否知情。

[yarpp]