文章摘要
【关 键 词】 EdgeNet、视觉分类、对抗鲁棒性、即插即用、深度学习
悉尼大学的研究人员在最近的AAAI 2024学术会议上提出了一种名为EdgeNet的新型网络，旨在提高深度神经网络（DNNs）在视觉分类任务中的对抗鲁棒性。
EdgeNet是一个轻量级、即插即用的侧支网络，能够无缝集成到现有的预训练深度网络中，如Vision Transformers（ViTs）。该网络通过处理从干净或嘈杂的图像中提取的边缘信息，生成鲁棒的特征，并将其注入到预训练且被冻结的骨干网络中，以提高网络的抵御对抗性攻击的能力。
EdgeNet的引入基于对先前研究的假设，即深度网络的脆弱性可能源于对不鲁棒特征的过度依赖。通过专注于边缘信息，EdgeNet能够提供与形状和前景相关的鲁棒特征，而不影响网络在清晰图像上的准确性。EdgeNet的架构包括零卷积和随机初始化的ViT block，这些设计有助于实现选择性特征提取和注入，同时保持骨干网络的信息流不受影响。
在训练EdgeNet时，除了分类头，预训练的ViT骨干网络被冻结，不进行更新。训练目标是简化的联合优化，通过调整准确性损失函数和鲁棒性损失函数的权重，实现在提升鲁棒性的同时保持准确性。实验结果显示，EdgeNet在ImageNet数据集上对抗性攻击和常见扰动的测试中表现出色，同时在清晰图像上保持了与先前SOTA方法相当的准确性。
EdgeNet的性能测试表明，它在分类性能、计算要求和鲁棒性之间取得了平衡的妥协。与基准模型相比，EdgeNet在保持合理计算效率的同时，实现了准确度和鲁棒性的显著提升。此外，EdgeNet在不同类别的SOTA方法中展现出了优异的性能，尤其是在抵御FGSM和PGD攻击方面。
总结来说，EdgeNet通过利用边缘信息提升了深度神经网络的鲁棒性，同时保持了对干净图像的高准确性。这一新方法的提出，不仅在对抗性攻击方面表现出色，还在自然对抗性示例、分布之外的数据和常见破坏情景中显示了广泛的适用性，成为视觉分类任务中多样挑战的全面解决方案。
原文和模型
【原文链接】 阅读原文 [ 1962字 | 8分钟 ]
【原文作者】 新智元
【摘要模型】 gpt-4
【摘要评分】 ★★★★☆
