据NBC新闻报道，马斯克的社交媒体应用X上，Grok的人工智能图像生成功能已仅向付费用户开放，在用户和监管机构掀起一波强烈反弹之后，似乎制作带有性化特征的深度伪造内容有所限制。

但在Grok的独立应用和网站上，用户仍然可以使用人工智能从图片中的人物身上移除衣物。

10:52:57周五凌晨，X上的Grok机器人此前一直在配合大量请求，把毫不知情的人置于性化场景或暴露服装中，随后开始用文字回复用户请求，“图像生成和编辑目前仅限付费订阅用户使用。你可以订阅以解锁这些功能”，并附有一个指向X高级账户购买页面的链接。

周五上午可以看到性化图像的数量似乎已大幅减少。Grok在X上似乎基本停止生成带有性化内容的、可识别个人的图像。

然而，在Grok的独立应用中，这个人工智能模型仍在配合请求，将未经同意的个人穿上暴露的服装，例如泳装和内衣。

NBC新闻在Grok的独立应用和网站上，要求它对一系列照片进行处理。这些照片中的人物穿着得体，并同意参与测试。

为海外华人提供有价值的信息与分析，更多内容和全文可在蓝天、电报、x查找causmoney，或直接谷歌搜索caus.com

在独立应用中，Grok配合请求，将原本全身着装的人改成穿着更暴露的泳装，并置于性化场景中。

目前尚不清楚这些调整的具体范围和参数。X和马斯克尚未就这些变化发表声明。周日，在相关变化发生之前、且舆论反弹不断升级之际，马斯克和X都重申，制作“非法内容”将导致永久封号，并表示X将在必要时与执法部门合作。

最近几天，xAI的Grok人工智能工具生成大量性感化、未经同意的图像，用户通过指令让系统为照片中的人物“脱衣”，其中大多是女性，而且并未征得当事人同意。

在Grok生成的大多数性化图像中，人物被换上了更暴露的服装，比如比基尼或内衣。NBC新闻看到的一些图像中，用户成功指示Grok为人物穿上透明或半透明的内衣，实际上让人物呈现裸露状态。

周日，马斯克其中一名孩子的母亲阿什莉·圣克莱尔开始就这一问题发声。此前，用户曾指示Grok对她的图像进行性化处理，其中还包括她未成年时的照片。

根据深度伪造研究人员吉纳维芙·欧所做的分析，X上的这一变化与一天前社交媒体平台的发展轨迹形成鲜明对比。就在前一天，Grok在X上发布的性化人工智能图像数量仍在上升。

分析显示，周三Grok在一小时内生成了7751张性化图像，高于周一每小时6659张的水平，增幅为16.4%。

欧是一名专门研究深度伪造和社交媒体的独立分析师。自12月31日起，她每天运行一个程序，在一个小时的时间段内下载Grok生成的所有图像回复。下载完成后，她使用一个用于检测不同形式裸露或暴露的程序对图像进行分析。

欧向NBC新闻提供了一段展示她工作过程的视频，以及一份记录了所分析Grok帖文的电子表格。

这些图像令许多旁观者、监督机构以及照片被篡改的人感到震惊，在变化发生前，X上持续出现了强烈反对声音。

监管机构和立法者也开始向X施加压力。

周四，英国首相基尔·斯塔默在英国广播电台网络“Greatest Hits Radio”上公开批评了X。

“这是可耻的，令人作呕，不能被容忍。”他说，“X必须管好这件事。”

斯塔默表示，媒体监管机构英国通信管理局“完全得到支持采取行动”，并称“所有选项”都在考虑之中。

英国通信监管机构英国通信管理局周一表示，已与X和xAI进行“紧急接触”，以评估是否履行了保护用户的法定义务，并将根据公司的回应迅速展开评估。爱尔兰监管机构、印度监管机构以及欧盟委员会也已就Grok相关的安全问题寻求信息。

美国方面的机构在表态上行动较慢，尚未明确表示将采取会对马斯克或X产生影响的措施。

美国司法部一名发言人对NBC新闻表示，该机构“高度重视人工智能生成的儿童性虐待材料（CSAM），并将积极起诉任何制作或持有这类材料的人”。

但发言人也表示，司法部更倾向于起诉那些索取CSAM的个人，而不是开发并拥有生成这些内容机器人的人。

这名发言人说：“我们将继续探索优化执法的方式，以保护儿童，并追究利用技术伤害最弱势群体的个人责任。”

一些美国议员已开始呼吁X更积极地对这些图像进行管理，并援引特朗普在2025年签署、并由第一夫人梅拉尼娅·特朗普大力宣传的Take It Down法案。

法案旨在将发布人工智能生成的、未经同意的色情图像定为犯罪，对个人施以罚款和监禁，并威胁对未采取行动的平台实施联邦贸易委员会执法。法案还包含一项条款，允许未经同意的性暗示图像的受害者要求社交媒体网站将内容删除，不过平台要到法案签署一年后的5月19日，才被要求必须建立这样的系统。

佛罗里达州共和党众议员玛丽亚·萨拉萨尔在一份声明中表示：“这正是TAKE IT DOWN法案要制止的滥用行为。法律写得非常清楚：制作、传播或继续在平台上保留这些图像都是非法的。”

她接着说：“即便平台距离完全遵守TAKE IT DOWN法案还有几个月时间，X也应该立刻处理这个问题，把所有这些内容下架。”

德克萨斯州共和党参议员特德·克鲁兹在X上发帖表示：“这些非法图像对受害者的隐私和尊严构成严重威胁。它们应该被删除，并且需要设置防护措施。”

他说：“这一事件很好地提醒我们，随着人工智能的发展，隐私和安全挑战将不断出现，我们应该积极应对这些威胁。”

俄勒冈州民主党参议员罗恩·怀登是《通信规范法》第230条的共同起草人之一。他在一份声明中表示，这项法律在平台进行一定内容管理的前提下，基本为社交媒体平台免除用户发布内容的法律责任，但他从未打算让这项法律保护公司自身聊天机器人的输出。

他说：“如果特朗普领导下的司法部不采取行动，各州必须出面追究X和马斯克的责任。”

包括马萨诸塞州、密苏里州、内布拉斯加州和纽约州在内的一些州总检察长办公室对NBC新闻表示，已经注意到Grok的情况并在持续关注，但并未表示已启动刑事调查。

佛罗里达州总检察长詹姆斯·乌思迈耶的发言人表示，办公室“目前正与X进行讨论，以确保为儿童设置保护措施，并防止平台被用于生成CSAM”。

还有一些人开始质疑，X的私人利益相关方或平台托管方是否能够采取行动。

包括谷歌Play商店和苹果App Store在内的应用商店，在托管X和xAI应用的服务条款中，似乎都禁止性感化的儿童图像和未经同意的图像。但这些应用仍然在商店中上架，相关发言人也未回应置评请求。