论文标题：Fairness is essential for robustness: fair adversarial training by identifying and augmenting hard examples

期刊：Frontiers of Computer Science

作者：Ningping MOU , Xinli YUE , Lingchen ZHAO , Qian WANG

发表时间：16 Jan 2024

DOI： 10.1007/s11704-024-3587-1

微信链接：点击此处阅读微信文章

FCS“优秀青年计算机科学家论坛”于2019年启动，以尊重科学贡献、传播更多优秀成果为宗旨。论坛作者审视自己的研究领域，介绍研究方向和研究进展。本论坛所有文章均为特邀稿件。

本期“优秀青年计算机科学家论坛”推出武汉大学王骞教授团队的成果——基于困难样本识别与增强的公平对抗训练。

作者简介

王骞，武汉大学教授，长期从事网络空间安全领域研究，致力于推动人工智能系统安全、移动智能终端安全与隐私保护、应用密码学创新发展与应用落地。发表论文200余篇，包括 S&P、USENIX Sec.、CCS、NDSS、NSDI、MobiCom、ICML、NeurIPS、SIGIR等国际顶级会议。

引用格式：

Ningping MOU, Xinli YUE, Lingchen ZHAO, Qian WANG. Fairness is essential for robustness: fair adversarial training by identifying and augmenting hard examples. Front. Comput. Sci., 2025, 19(3): 193803

阅读原文：

文章精要

对抗训练被广泛认为是防御对抗攻击最有效的手段。然而，最近的研究表明，对抗训练在类别间的鲁棒性上存在较大差异，这可能引发两个潜在问题：1) 木桶短板效应，即最不鲁棒的类别可能被攻击者利用，成为一个严重的漏洞；2) 伦理问题，即某些群体受到的保护鲁棒性相对较低。尽管对抗训练存在这些问题，关于其解决办法的研究仍然处于初级阶段。在本文中，我们跳出目前表现最好的类别级解决方案的思路。通过研究类别鲁棒性与鲁棒模型对样本不确定性之间的关系，我们发现具有更大交叉熵值的困难样本能提供有关类别差异更为细致的信息。此外，我们还发现增加困难样本的多样性可以有效提高最不鲁棒类别的鲁棒性。基于上述发现，我们提出了公平对抗训练（FairAT）来缓解类别鲁棒性的差异。在基准数据集和对抗性攻击上进行的广泛实验表明，FairAT在整体鲁棒性和公平性方面均优于最先进的方法。

期刊简介

INTRODUCTION

Frontiers of Computer Science （FCS）是由教育部主管、高等教育出版社和北京航空航天大学共同主办，南京大学支持，SpringerNature 公司海外发行的英文学术期刊。本刊于 2007 年创刊，月刊，全球发行。主要刊登计算机科学领域具有创新性的综述论文、研究论文等。本刊主编为周志华教授，共同主编为熊璋教授。编委会及青年 AE 团队由国内外知名学者及优秀青年学者组成。本刊被 SCI、Ei、DBLP、INSPEC、SCOPUS 和中国科学引文数据库（CSCD）核心库等收录，为 CCF 推荐B类期刊；两次入选“中国科技期刊国际影响力提升计划”；入选“第4届中国国际化精品科技期刊”；两次入选“中国科技期刊卓越行动计划”（一期梯队、二期领军）。

中国学术前沿期刊网

http://journal.hep.com.cn