研究显示为AI生成图像添加的数字水印可被轻易破解

发布时间：2023-10-07 13:01:05 所属栏目：外闻来源：

导读：Engadget 和 Wired 的报道揭示了一个马里兰大学的研究团队正在进行的关于 AI 生成内容中使用的 "数字水印" 技术可靠性的调查。他们发现在这项技术上存在漏洞，可以被轻松地攻破。

该校计算机科学教授 Soheil Feiz

Engadget 和 Wired 的报道揭示了一个马里兰大学的研究团队正在进行的关于 AI 生成内容中使用的 "数字水印" 技术可靠性的调查。他们发现在这项技术上存在漏洞，可以被轻松地攻破。

该校计算机科学教授 Soheil Feizi 面对 AI 生成图像的水印现状时直言不讳：“目前我们没有任何可靠的水印技术，我们破解了所有的水印。”

在测试过程中，研究人员可轻松避开现有的水印方法，并发现在非 AI 生成的图像上添加“假水印”更为容易。同时，该团队还开发出了一种“几乎无法”从图像中去除的水印技术，且不会完全损害图像的知识产权。

而在近日的加州大学圣巴巴拉分校和纽约的卡内基梅隆大学研究人员合作的开展的一项类似研究中，研究人员发现通过“模拟攻击”，AI 生成图像的水印可被轻易去除：通过破坏性的调整亮度、对比度或压缩乃至旋转图像来去除，或通过建设性的高斯模糊等技术来去除。

据报道，AI 生成数字水印将成为一场与黑客之间的竞争。这种水印尽管肉眼不可见，但可以打击滥用 AI 生成的内容。

亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI这七家公司都同意提高其系统的安全性和透明度，包括允许第三方专家对其模型进行审查。

在发给 TechRadar 的一份声明中，美国政府表示：“正在开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力，美国政府鼓励该行业坚持最高标准，以确保创新不会以牺牲美国人的权利和安全为代价，包括保护知识产权。这一立场将有助于推动人工智能技术的发展，并为美国经济带来巨大的机遇。”

（编辑：聊城站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!