Grok新推出的生成式AI视频工具Grok Imagine因提供'辣'模式引发争议。该工具可生成包含成人内容和名人换脸的视频,首次使用时就自动生成了泰勒・斯威夫特赤裸上身的视频片段。
据悉,Grok Imagine提供四种预设模式,包括专门用于制作暗示性视频的'辣'模式。虽然大多数图像生成器会避免生成名人形象,但该工具却能生成超过30张斯威夫特穿着暴露的图片,并可通过'辣'模式将其转化为视频。
尽管xAI的使用政策禁止色情内容,但Grok Imagine似乎未采取有效措施阻止用户生成名人裸体内容。此外,年龄验证仅出现一次且极易被绕过,无需提供任何年龄证明。马斯克透露,该工具上线后已生成超过3400万张图片。