据悉,埃隆・马斯克旗下xAI近日为Grok推出新图像编辑功能,允许X用户无需原作者同意即可编辑任何图像。马斯克本人使用该功能将演员本・阿弗莱克的AI梗图替换为自己的脸,引发“比基尼换装”热潮。
然而该功能被曝存在防护漏洞,部分用户生成涉及未成年人及政要的图片。xAI承认防护措施存在疏漏,正在紧急修复,并强调儿童性材料属于违法内容。Grok表示已审查用户交互记录,称此类事件为“个别案例”,正在持续改进屏蔽机制。
行业专家指出AI生图技术滥用问题日益严重,助长了深度伪造色情内容的传播。监管机构报告显示AI生成的儿童性虐待材料激增,法国和印度已启动相关调查。xAI技术人员表示团队正研究进一步收紧限制措施。