【AI合成图像真假难辨 政策监管势在必行】近日,美国特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥,但这些看似细节丰富的图片却与事实毫不相干,这些图片出自人工智能(AI)驱动的图像生成技术。专家们警告说,这些图片昭示出一个新现实:在重大新闻事件发生后,虚假图片和视频有可能充斥社交媒体,进一步混淆事实,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。(科技日报)
所有内容加上水印,以便更容易地进行下游识别,并在必要时进行干预。如果该行业不自愿这样做,立法者可以通过法规来执行这一规定。毫无道德的人当然不会遵守这些标准。不过,如果苹果、谷歌应用商店、亚马逊、谷歌、微软云服务和GitHub等主要网络门户通过禁止违规软件来执行这些规定,危害将会大大减少。
对人类生成的内容和人工智能生成的内容进行联合签名和水印处理,虽然不能防止一切形式的滥用,但可以提供一定程度的保护。任何安全措施都必须不断调整和完善,因为对手会找到将最新技术武器化的新方法。就像几十年来一直在与垃圾邮件、恶意软件和网络钓鱼等其他网络威胁进行斗争一样,我们应该为一场同样旷日持久的战斗做好准备,以抵制生成式人工智能各种形式的滥用行为。
金运激光:2023年2月13日金运激光(300220)新增“数字水印”概念。
入选理由是:公司与汉邦高科在2019年10月签署《共同利用数字水印技术研发IP衍生品知识产权保护技术的战略合作协议》。