AI图像内容安全新技术防止“生成式造假”
发布时间：2023-07-08 12:31:31 所属栏目：动态 来源：
导读：开年以来，多个图像生成软件在全球迅速蹿红，其作画逼真程度“技惊四座”。 由于多形式的人工智能 （AI）的应用（例如生成和伪造图像等），从事这种活动变得更加容易和安全，这使得担忧是适当的。
利用
利用
|
开年以来，多个图像生成软件在全球迅速蹿红，其作画逼真程度“技惊四座”。 由于多形式的人工智能 （AI）的应用（例如生成和伪造图像等），从事这种活动变得更加容易和安全，这使得担忧是适当的。 利用AI进行图像造假的行为，是AI可信化发展需要应对的重点问题。在近日召开的世界人工智能大会（WAIC 2023）上，中国信息通信研究院（简称中国信通院）围绕“多模态基础大模型的可信AI”主题举办了专项论坛。论坛上，合合信息发布的AI图像内容安全技术方案可精准定位截图篡改痕迹，对生成式图片进行智能判别，防止不法分子利用技术手段非法爬取图片上的信息。 特别是去年的人工智能大会上，国内的合合信息人工智能首次展示了“深度学习PS人脸识别的篡改原生应用检测”技术，今年，AI图像篡改检测“黑科技”持续优化升级，应用面也拓展至“截图篡改检测”。升级后的AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图，无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段，还是“擦除”“重打印”等方式，图像篡改检测技术均可“慧眼”识假。 该技术的主要难点在于，与证照篡改检测相比，截图的背景没有纹路和底色，整个截图没有光照差异，难以通过拍照时产生的成像差异进行篡改痕迹判断，现有的视觉模型通常难以充分发掘原始图像和篡改图像的细粒度差异特征。 为此，合合信息提出了一种基于HRNet的编码器－解码器结构的图像真实性鉴别模型，结合图像本身的信息，包括但不限于噪声、频谱等，从而捕捉到细粒度的视觉差异，达到高精度鉴别效果。我们认为，这一进程应该继续下去，直到所有国家都同意在这方面采取行动。我们希望，在今后几年里，这一进程将取得进一步发展。 （编辑：聊城站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
站长推荐
