2025年6月22日,HAUST-HNU大模型与安全联合研究团队第27期组会在线召开。本次组会主题是后门攻击和深度伪造检测。会议由河南师范大学荆军昌副教授主持。
河南科技大学2024级硕士研究生付宇汇报了《Poison Ink: Robust and Invisible Backdoor Attack》。针对现有后门攻击方法在隐蔽性和鲁棒性方面的局限,论文提出了一种名为“毒墨水”的新型后门攻击方法。该方法通过利用图像结构作为触发模式的载体,将毒药信息嵌入图像的边缘结构中,同时借助深度注入网络将触发模式以不可见的方式隐藏在图像中。实验结果表明,“毒墨水”在隐蔽性、鲁棒性、通用性和灵活性方面均优于现有方法,并且对多种先进的防御技术表现出较强的抵抗力。该研究为后门攻击的隐蔽性和鲁棒性提升提供了新的思路和方法。
河南科技大学2024级硕士研究生袁梦颖汇报了题为《DeepFake Detection Based on Discrepancies Between Faces and Their Context》的研究成果。该研究创新性地提出利用人脸区域与周边上下文之间的不一致性作为检测伪造内容的关键依据。研究指出,当前主流的面部操纵技术(如DeepFake)通常仅对人脸内部区域进行修改,而保持头发、耳朵、颈部等上下文区域不变,这些未改变的区域实际上蕴含着重要的身份特征信息。该方法的创新性在于通过对比分析被篡改的人脸核心区域与未受影响的周边上下文之间的差异,构建了全新的检测范式。与传统检测技术依赖特定伪造手段产生的伪影不同,基于语义不一致性的检测思路具有显著优势;即使未来伪造技术能够生成毫无人工痕迹的逼真图像,该方法依然保持有效性;同时展现出对不同篡改技术的良好泛化能力,并能与传统检测方法形成互补,进一步提升检测准确率。实验结果表明,在多种攻击场景下,该防御方案相较于当前**先进的检测方法,展现出更优异的检测效能和更强的鲁棒性。
在交流环节,与会成员主要针对文献的研究思路、创新点及不明之处展开了热烈的讨论,为下一阶段课题研究提供了新思路。
(图文/付宇、袁梦颖 审核/权高原)