关于东方通新闻中心眼见未必为实! 东方通深度伪造合成检测系统如何“一键打假”

眼见未必为实! 东方通深度伪造合成检测系统如何“一键打假”

2025年01月14日

近期,安全牛发布了《AI时代深度伪造和合成媒体的安全威胁与对策(2024版)》报告(以下简称“报告”),通过广泛的调研与案例分析,报告系统梳理了该领域的最新发展动态和核心问题,旨在为应对深度伪造和合成媒体的安全威胁提供全面洞见,并助力产业界和社会各界在AI技术的新时代构建更加安全、可信的信息生态。东方通受邀参与该报告编写,分享了深度伪造合成领域产品服务与典型实践案例。

深度伪造“侵入日常” 敲响安全警钟

由于AI合成技术的门槛不断降低,自制AI合成内容已屡见不鲜,然而,技术的广泛应用却引发了一系列令人担忧的乱象。从早期的粗制滥造、一眼即可识破的虚假内容,到如今以假乱真、令人难以分辨真伪的“深度伪造”作品,AI的发展无疑让虚假信息的制造传播进入了一个全新的时代。

近期,日喀则抗震救灾期间,一张 “戴着帽子的小男孩被压在废墟下” 的图片,被多个账号与日喀则地震关联发布,部分账号收获数万转评赞,众多网友在留言区关切孩子安危。这一情况引起了各级部门的高度重视。随后,公安机关网安部门迅速展开核查,发现该图片是别有用心之人利用灾情炮制的虚假信息,严重误导公众。

此类事件表明,AI 伪造技术已悄然侵入日常生活,这无疑为大众与相关部门敲响了警钟:随着人工智能技术的飞速发展,其被滥用的风险急剧上升。虚假信息不仅极易误导公众的判断,更有可能触碰法律红线,给社会的稳定与安全带来严重威胁 。

东方通在积极探索AI等新技术应用的过程中,提前布局安全内容检测领域的研究。在报告中,东方通详尽分析了当前深度伪造内容特点,并展示了相关研究成果,通过融合AI技术手段,东方通推出了深度伪造内容检测系统,能够对音视图文内容进行深度分析,提取特征并进行比对,从而准确判断内容是否经过篡改或伪造,为打击网络虚假信息提供了有力支持,此外,东方通分享了在媒体、教育及公共安全等数字生活众多场景中的应用探索,致力于守护信息安全。

洞察深度伪造内容危害 技术升级精准“狙击”

东方通安全团队调研总结发现,深度伪造内容仿真度高,普通用户肉眼难辨真伪,在社交媒体等平台极易快速传播,引发公众信任危机,并且潜在威胁巨大,不法分子借此实施欺诈、干扰司法,严重侵害公众权益。此外,深度伪造技术门槛低,应用范围广且真假界限模糊,法律界定与责任追究困难,给打击此类违法犯罪行为加大了难度。与此同时,随着深度伪造技术不断发展,伪造者为让伪造内容更逼真、更隐蔽,持续试图绕过现有检测识别技术。

面对这些复杂挑战,东方通积极开展关键技术研究,包括多模态深度伪造样本集构建及半自动标注技术、基于新型特征提取策略的伪造图像检测技术,以及基于时空联合物理线索的伪造视频检测技术等。通过这些技术研究,东方通力求为深度伪造内容检测筑牢数据基础、突破传统检测单一内容局限、提升内容检测精准性。


经过实践探索验证,东方通深度伪造合成检测系统凭借明显的技术优势,实现了显著的应用效果。在内容安全检测方面,借助大数据、语义及深度学习等 AI 技术,支持22大类、2000小类的应用识别以及41类主流互联网协议识别,对违法违规内容进行高效精准检测,全方位守护互联网内容安全;同时,系统配备专用深伪检测设备,具备PS合成检测、通用深度伪造检测、特定人物伪造检测和伪造溯源等功能,能全面检测识别各类深度伪造合成内容,为用户提供可靠服务。


网络信息安全领域,守护的防线绝非一劳永逸,需要凭借持续的钻研与探索来稳固。随着技术的不断进步和应用场景的日益丰富,东方通安全团队,将加强对技术、对抗手段的研究分析,不断推出更加先进、更加智能的解决方案,共同应对网络安全的挑战,共建共享清朗网络空间。

联系我们
销售支持
在线咨询 填写需求
技术支持
提交问题 智能客服
400-650-7088
填写需求
提交问题
版权所有 © 东方通 保留一切权利 京ICP备14015050号 京公网安备11010802035782号
中间件
基础类中间件
数据类中间件
云计算类中间件
网络信息安全
信息安全
网络安全
安全服务
智慧应急
智慧应急
城市安全
行业数字化
数字新基建底座
行业数字化转型
服务与支持
服务与支持
资料中心
Kubernetes 服务
生态体系
东方通软件学堂
培训资料
生态合作
生态适配
关于东方通
集团介绍
子公司介绍
新闻中心
投资者关系
荣 誉
发展历程
人才招聘
联系我们