今天，新智元的一篇文章刷屏，逼真到颤抖！Midjourney画出完美中国情侣，画师、演员、模特一键淘汰 。生成式AI生成的图片已经到了可以以假乱真的地步。 近期国外也有几个国家的领导人被AI模型恶意P图的新闻。

多模态大模型的推广，大大降低了普通民众生成图片的门槛，同时也带来了滥用的风险，AI确实可能生成需要和谐的内容，而且内容审核也是我们国家一个非常重要的需求。

基于当前的技术水平，需要设置多道防线，第一道就是能够AIGC的模型本身，第二道就是使用者的审核。通过在生成的音频、视频、图像中插入不影响内容本身的数字水印，让内容生成可溯源，反过来促使模型使用者自觉审核，是一个概率不小的措施。利用AI给爱情动作片女主换头为女星的新闻也不少见了。

不可察觉性和鲁棒性是数字水印最为重要的性能指标。其中，不可察觉性要求数字水印的嵌入尽可能小地对载体信息造成影响，在提高观感的同时使得嵌入操作更具隐蔽性；而鲁棒性则要求水印能够抵抗多种攻击，包括图像的缩放裁剪、视频的压缩转码等编辑操作。汉邦高科这类公司的数字水印技术成熟，可以找机会介入。