新闻中心
新闻中心

当前位置:首页 / 新闻中心 / 实验室动态 / 正文

HAUST-HNU大模型与安全联合研究团队第34期组会召开

2025-10-20

       河南科技大学24级博士研究生潘俊艳关于《智能算法与具身智能的安全挑战、治理框架与未来展望》做汇报交流。从具身智能安全、智能算法安全、智能时代公共安全三大维度,深入剖析当前AI技术落地的安全风险,提出技术突破路径与治理框架,为构建“技术-治理-应用”协同的AI安全体系提供关键支撑。在具身智能安全层面,提出具身智能因物理交互特性面临“本体-交互-应用”三维风险及“L1-L5安全成熟度模型”明确主动安全演进路径;在智能算法安全层面,提出“TRC层级范式”,明确算法需实现“一元内生可信、二元应用可管、多元系统可控”,同时指出算法可信域量化、黑箱监测、系统风险相变点识别三大核心难题,并给出涵盖理论、技术、应用的七大研究方向;在智能时代公共安全层面,揭示AIGC滥用与AI犯罪的严峻态势,提出技术上构建“AIGC全流程检测体系”、治理上推动专项立法与跨国协作的解决方案,形成“技术防御-法律规制-公众科普”的立体化防护网络。

       在交流环节,与会成员对具身智能安全、智能算法安全、智能时代公共安全未来技术方向和潜在研究方向进行了深入学习交流,并指出未来研究工作中可借鉴的方向。


微信扫码分享