近期,一款名为Nightshade的AI艺术污染工具在发布后的5天内下载量达到了惊人的25万次。这款工具由芝加哥大学计算机科学研究人员Ben Zhao领导的专业团队开发,旨在对抗生成式AI对艺术家作品的未经许可的使用。
Nightshade工具的原理是在像素级别加入额外的数据,这些数据对人类和AI系统来说都难以简单辨别。然而,如果这些被添加了"毒素"的作品被用作训练AI模型,将会降低模型的分析能力,使其做出错误的判断。如果使用Nightshade处理的作品数量足够多,将对AI的训练造成一定的干扰。
Ben Zhao表示,开发Nightshade的目标是为艺术家提供一个反击的工具,提高未经许可使用内容进行训练的成本,迫使AI开发商向艺术家支付授权费用。此前,该团队还推出了一款名为Glaze的工具,可以在作品中加入隐藏的像素,防止其风格被机器学习算法复制。目前,他们正在开发结合Glaze和Nightshade的新工具,但还需要进行更多的测试才能推出。
然而,Nightshade的推出也引发了艺术界的不满。许多艺术家认为,生成式AI未经许可就使用他们的作品进行训练,侵犯了他们的版权。因此,Nightshade的出现被视为一种对艺术家权益的保护。
网友评论