海南省交通建设局网站首页,网络营销是什么行业,企业展示网站源码,北京城乡建设网站首页全球社交、科技巨头Meta#xff08;Facebook、Instagram等母公司#xff09;在官网宣布#xff0c;开源数字水印产品Stable Signature#xff0c;并公开论文。
据悉#xff0c;Stable Signature是由Meta和INRIA#xff08;法国国家信息与自动化研究所#xff09;联合开…全球社交、科技巨头MetaFacebook、Instagram等母公司在官网宣布开源数字水印产品Stable Signature并公开论文。
据悉Stable Signature是由Meta和INRIA法国国家信息与自动化研究所联合开发而成可将数字水印直接嵌入到AI自动生成的图片中防止其非法用途。
而数字水印也是目前增强生成式AI安全的重要手段之一微软、谷歌等科技巨头已经在产品中使用。
Stable Signature生成的数字水印不受裁剪、压缩、改变颜色等破坏性操作影响能追溯到图片的初始来源可应用于扩散、生成对抗网络等模型例如著名文生图开源项目Stable Diffusion。
开源地址https://github.com/facebookresearch/stable_signature
论文地址https://arxiv.org/abs/2303.15435
Stable Signature技术原理
Stable Signature的技术原理并不复杂开发人员用Alice训练了一个主生成模型并进行了微调以确定Bob给定的水印用于识别AI图片的版本、公司、用户、特征等属性。
Bob用于接收不同的扩散模型版本并生成图片并携带水印。而这些水印可以由Alice或第三方AI进行分析以查看图像是否由AI生成。 为了实现上述目标开发人员使用了两大步骤来完成。
1训练两个卷积神经网络。一种将图像和随机消息编码为水印图像另一种则从水印图像的增强版本中提取消息目的是使编码和提取的消息匹配。训练完成后只保留水印提取器。
2对生成模型的潜在解码器进行微调以生成包含固定签名的图像。在此微调过程中会对批量图像进行编码、解码和优化以最大限度地减少提取的消息与目标消息之间的差异并保持感知图像质量。
这种优化过程快速有效只需要小批量和很短的时间即可获得高质量的结果。 Stable Signature性能评估
在性能评估过程中开发人员发现Stable Signature不受裁剪、压缩、改变颜色等破坏性操作影响同时在被动检测方面有两大技术优势。
1可以控制并减少误报的情况误报是指我们将人类制作的图片误认为是AI生成的图片。鉴于在线共享的非AI生成图片的普遍性这一点至关重要。
例如最有效的现有检测方法可以发现大约50%的编辑过的生成图片但仍然产生大约1/100的误报率。 换句话说在一个每天收到10亿张图片的用户生成内容平台上为了仅检测到一半的生成图片大约有1000万张图片会被错误地标记。
而Stable Signature 可以实现10-10 的误报率可以设置为特定的期望值提供高精准图片检测。 2Stable Signature的水印方法允许用户追踪同一模型的不同版本的图片这种能力对于识别AI图片非常重要。
Meta表示Midjourney、Stable Difusion等文本生成图片生成式AI产品非常火爆已经被大量用户应用在各种业务场景。但也有很多人将其使用在非法用途例如通过Midjourney生成一张名人的合成照片然后用于新闻造谣。
通过Stable Signature将数字水印嵌入到AI图片中可极大避免此类事件的发生。
本文素材来源Meta官网如有侵权请联系删除
