2023年12月17日，河南科技大学—河南师范大学大模型与安全联合研究团队首次组会在线召开。本次会议旨在双方单位共同分享在大模型与安全对抗防御领域最新的研究成果，增进团队成员之间的交流，共同探讨大模型与安全研究方向和发展前景。会议由双方单位负责人河南科技大学张志勇教授和河南师范大学荆军昌副教授共同主持。

河南科技大学22级研究生岳欣馨首先做了《大模型安全风险问题及基准评测现状》的汇报。她从”内生安全、幻觉问题、价值观对齐”等问题出发，详细阐述了当前大模型面临的威胁和挑战，介绍了目前通用大模型的各项能力基准评测结果，最后分享了中文LLM全景图。在交流环节，各位师生就大模型内生安全和价值观对齐等问题进行了深入细致的研讨，发表各自见解和观点，进一步加深了参会成员对大模型与一般深度学习模型关于内生安全问题差异性以及大模型价值观对齐问题的理解。

河南科技大学22级研究生方帅举做了《人工智能生成内容安全——深度伪造》的汇报。他从”人工智能生成内容”、”深度合成与伪造”、”图像生成技术”、”生成内容安全”等四个方面，介绍了深度伪造技术及其在大模型安全领域的影响。与会成员发表了各自看法，提出了独自见解，进行了深入讨论，对深度合成、深度伪造和生成式人工智能、AICG等概念、特征以及关键技术与方法加深了认知和理解。

此次组会的成功举行，不仅加深了全体成员对大模型与安全领域知识的理解，还促进了成员之间的交流和合作，为下一步研究工作明确了思路和方向。