2025年8月5日-7日,第18届知识科学、工程和管理大会(The 18th International Conference on Knowledge Science, Engineering and Management,KSEM 2025)在中国澳门特别行政区举行。西安交通大学信息与通信工程学院2021级本科生陈柏旭,其论文“LVLM-FDA: Protecting Large Vision-language models via Fast Detection of Malicious Attempts”获本年度最佳学生论文奖(Best Student Paper Awards)。该工作系陈柏旭同学本科期间在信息与通信工程学院杨乐研究员指导下完成。


获奖论文聚焦当前多模态大模型输出内容存在的潜在安全问题,提出了一种名为LVLM-FDA的大模型内容安全防护方法。该方法构建了分离概率表征指标,并基于该指标对模型内部表征进行分离度分析,实现对大模型输出恶意企图的提前检测与拦截。该方法在获得更优防御性能的同时,大幅降低了防御开销,并保留了原始模型的通用性。
国际知识科学、工程和管理国际学术会议(KSEM)旨在为知识工程相关领域的研究人员提供一个学术交流、沟通的平台和契机。该会议已被列入中国计算机学会(CCF)推荐国际会议列表(C类,人工智能领域)。

当前陈柏旭同学已保送为信息与通信工程学院2025级硕士研究生,继续跟随杨乐研究员从事人工智能安全领域的研究。西安交通大学信息与通信工程学院始终以培养契合国家发展需求、顺应科技进步趋势的高素质人才为目标。学院坚守“立德树人”根本任务,着重培育学生在信息处理、信息安全、微波技术、通信工程等领域的扎实基础理论功底与科研创新能力。此次本科生陈柏旭同学的论文斩获佳绩,充分彰显了学院在本科生科研能力及综合应用能力培养方面取得的显著成效。