11月14日**16日,第二十七届中国国际高新技术成果交易会在深圳国际会展中心举办。本届高交会以“科技赋能产业,融合共创未来”为主题,汇聚来自全球100多个国家和地区的5000多家知名企业及国际组织参展,5000余项代表全球科技前沿的新产品、新技术、新成果集中展示,推动全球前沿成果加速落地。DeepCensor入选第二十七届中国国际高新技术成果交易会全国产教融合与科教融汇典型案例。


实验室自主研发的多模态大模型安全检测系统(DeepCensor)产品应邀参展。来自政府机构、行业企业和科研院所的代表在展位前详细咨询产品在生成式人工智能安全检测、内容合规审查及风险治理等方面的关键核心技术和应用场景,对其在人工智能安全治理中的关键支撑作用和推广应用前景给予了高度关注和积极评价。



在本届高交会同期举办的“第二届产教融合与科教融汇论坛”中,《DeepCensor:多模态大模型安全治理技术创新与实践》还成功入选《全国产教融合与科教融汇典型案例》,成为产教协同育人、科教协同创新的重要示范案例,充分体现了河南科技大学在“人工智能+教育”领域科技成果转化,新质生产力培育、拔尖创新人才培养等方面的示范带动作用。

依托河南省网络空间安全应用国际联合实验室和河南省智能制造大数据发展创新实验室,张志勇教授团队面向国家新一代人工智能发展战略和网络强国、数字中国、制造强国等重大部署,聚焦新一代人工智能与多模态大模型在数据投毒、对抗攻击、模型窃取、后门攻击、提示注入、越狱攻击等方面的本体安全风险,以及AIGC衍生的深度伪造内容安全与社会治理挑战,提出并构建了涵盖“大模型本体安全—生成式内容安全”的多模态安全体系架构。在此基础上,团队自主研发了多模态大模型安全检测系统(DeepCensor),集成无差别数据投毒检测、思维链迁移对抗攻击检测、无数据模型窃取识别、动态视觉后门检测、提示注入攻防博弈、中文越狱检测及深度伪造图像、视频检测与溯源等核心功能,具备检测识别准确率高、底层架构兼容性强、可广泛适配多类大模型等显著优势。相关关键核心技术成果已发表在 IEEE TDSC、ACM TOPS、Cybersecurity 等国际**期刊,获得多项发明专利授权,并参与制定《网络安全技术 生成式人工智能服务安全基本要求》(GB/T 45654-2025)、《信息技术 大数据 数据资源规划》(GB/T 42450-2023)等国家标准。目前,该系统V1.0和V2.0版本已完成计算机软件著作权登记,并通过河南省电子信息产品质量检验技术研究院(河南省软件测评中心)的第三方鉴定测试,在算法性能、系统稳定性和工程适配性等方面表现优异,具备良好的产业化和成果转化基础。相关成果已在国内人工智能与大数据领域头部企业中推广应用,有效破解了企业垂直行业大模型产品在安全监测、风险预警与合规治理方面的难题,显著降低了模型安全运维成本,取得了显著的经济效益和社会效益。
