近日，我院智能安全实验室的论文VeRe: Verification Guided Synthesis for Repairing Deep Neural Networks被软件工程领域顶级会议第46届IEEE/ACM International Conference on Software Engineering(ICSE 2024，CCF A类)录用，会议将在2024年4月14日至20日于葡萄牙里斯本举行。这是我校首次以第一单位在ICSE上发表论文，文章的第一作者为23级硕博连读生马迦南，指导教师为王震教授。该研究的合作单位还有中国科学院软件研究所、浙江大学、英国曼彻斯特大学和中科南京软件技术研究院。
神经网络修复旨在通过修改模型的架构或参数来修复神经网络的“错误”。然而，由于神经网络的数据驱动特性，很难解释网络内部神经元与错误行为之间的关系，这使得进一步的修复变得具有挑战性。现有的一些工作通过分析梯度或因果效应来识别对错误负责的神经元，但它们的效果在很大程度上依赖于可用的“错误”样本质量和在选择修复的层或神经元中使用的多种启发式方法。
这项工作利用形式化验证技术来解决这个问题，提出了一种名为VeRe的验证引导的神经网络修复框架，它基于线性松弛技术进行故障定位，以符号计算的方式计算神经元的修复重要性，进一步优化问题神经元的参数以修复网络的错误行为。该论文在各种修复任务上评估了VeRe，实验结果显示VeRe能够高效、有效地修复所有神经网络。相比于先前的研究工作，VeRe显著减少了对模型原始性能的损伤和可用数据的依赖。
据悉，IEEE/ACM International Conference on Software Engineering(ICSE)是由IEEE与ACM联合主办的软件工程领域顶级会议，已有40多年的历史。会议收录的论文聚焦于软件测试与分析、可靠性与安全性设计、自动化编程、人工智能等领域，被录用的稿件反映了计算机软件工程领域的前沿研究水平，在国际软件工程领域享有崇高的声誉，被中国计算机学会（CCF）认定为A类国际学术会议。
