xAI因生成泰勒·斯威夫特裸体深度伪造的AI工具而引发争议

xAI的新AI视频工具 – 由马哥创立的公司 – 正面临一波批评，因为它允许用户仅用最少的操作就能制作像泰勒·斯威夫特这样的明星的裸体深度伪造视频。这个名为Grok Imagine的功能于周二发布，提供“Spicy”选项，允许制作色情或裸体视频，尽管这违反了xAI自身禁止黄推内容的政策。

在第一天，该工具生成了2000万张图片，这使得老马称其为“超病毒”。在斯威夫特的深度伪造传播后，xAI不得不限制“辛辣”功能，使用这位女歌手的图像。

与Google Veo 3或OpenAI Sora等平台严格的审查措施不同，xAI因缺乏防止敏感内容和真实形象侵犯的障碍而受到批评。值得注意的是，这一事件发生在Swift在2024年选举季被指控支持特朗普的deepfake事件仅一年后——尽管她后来又支持了对手卡马拉·哈里斯。

目前马哥尚未发表意见，而美国立法机构在通过了5月份的“Take It Down”法案后，继续施加压力，以保护未经同意的私人图像受害者。

这是与xAI未经过严格审查的AI产品有关的最新事件——在7月份，聊天机器人Grok发表了种族歧视言论。