|
|
| Ozcan团队Light | 揭露病理基础模型安全隐患 |
|
导读
人工智能（AI）正快速渗透到数字病理学领域，通用基础模型在癌症检测、亚型分型等任务上展现出强大能力，让临床诊断如虎添翼。然而，这些看似无懈可击的AI系统也潜藏着严重的安全隐患——极易遭受对抗攻击。近日，加州大学洛杉矶分校（UCLA）Aydogan Ozcan教授团队提出了一种名为通用可迁移对抗扰动（Universal and Transferable Adversarial Perturbations, UTAP）的攻击框架，仅需一个经过优化的微观噪声图案，就能系统性地破坏多种病理学基础模型的特征表达能力，且该攻击对从未见过的外部模型也具有高度迁移性。这一发现敲响了AI临床安全应用的警钟，凸显出在光学显微镜与病理学AI部署中建立稳健防御机制的迫切需求。相关研究成果以"Universal and Transferable Attacks on Pathology Foundation Models Using Microscopic Perturbations"为题发表于《Light: Science & Applications》。
研究内容
通用基础模型的引入推动数字病理学进入新阶段，使AI在癌症检测、组织亚型分型、形态学评估等多种任务上取得显著进展，被视为未来智能病理诊断的重要支柱。然而，深度学习模型对输入扰动的脆弱性早已在自然图像领域得到广泛证实——一些人眼几乎察觉不到的微小噪声，便可能让模型给出截然错误的判断。
病理图像具有数据维度高、形态信息复杂、临床后果严重等特点，一旦基础模型遭受对抗攻击，可能导致误诊、漏诊等严重后果，直接危及患者安全。已有的对抗攻击方法大多依赖特定模型或特定数据集，难以推广；而临床场景下的攻击者可能并不掌握目标模型的内部结构与训练数据，这就需要研究人员主动发掘那些具有通用性、可迁移性的攻击模式，以"以攻促防"的方式深入理解病理学基础模型的安全边界。然而，如何构造一个真正跨数据集、跨模型有效的微观扰动，长期以来仍是计算病理学领域亟待解决的问题。
研究亮点
本研究提出了一种全新的对抗攻击框架——通用可迁移对抗扰动（UTAP），通过自适应优化过程迭代生成一个固定的微观噪声图案。当这一固定噪声叠加到任意病理图像（例如活检组织切片的显微图像）上时，便能通过最小化原始图像与扰动图像之间特征表示的相似度，系统性地瓦解基础模型的特征提取能力，从根本上动摇模型的表征基础。
研究团队从两个维度验证了UTAP的核心能力：通用性（universality）与迁移性（transferability）。在通用性方面，同一个优化得到的微观扰动可应用于不同的组织图像数据集，效果不依赖于训练数据来源；在迁移性方面，该扰动可在事先未接触的外部病理学基础模型上同样导致显著性能下降，表现出对黑盒模型的强大威胁。定量实验显示，将UTAP微观扰动施加于多种组织图像后，七款最先进的病理学基础模型的准确率均出现大幅下降。
UCLA的Aydogan Ozcan教授表示："我们将这项工作定位为道德黑客，通过研发和评测先进的攻击手段来唤起整个领域的安全意识。我们的目标，是为研究者提供构建、评估和迭代下一代鲁棒、安全的计算病理学与光学显微镜模型所必需的工具。"
研究进一步发现，常规防御策略——例如利用空间低通滤波压制高频对抗噪声——并不足以应对UTAP。自适应攻击者只需在扰动训练阶段将类似的滤波操作直接嵌入前向传播，便可系统性地绕过此类防御。
为保障病理学基础模型在临床环境中的安全可用性，研究团队进一步提出了一套"检测—溯源—复核"的闭环防护框架：首先由专用的攻击检测网络作为第一道防线；其次通过对物理组织切片进行规范化重新扫描，识别并隔离攻击来源；最终由回路中的人类专家评估形态学数据，剔除那些看似合理却实为幻觉的诊断输出，从而切实守护患者安全。
尤其值得关注的是，UTAP生成一个通用且可迁移的扰动图案仅需不到15分钟的训练时间，这意味着潜在攻击者构造威胁的成本极低，对数字病理与光学显微镜中AI系统的临床部署与安全性影响深远。因此，全面研究这类威胁、建立坚实的防御体系，对于病理基础模型的安全研发与落地具有刻不容缓的意义。
图1：通用可迁移对抗扰动攻击（UTAP）的训练与攻击评估流程。图片来源：UCLA Ozcan实验室。
总结与展望
本研究通过提出通用可迁移对抗扰动（UTAP）框架，首次系统性地揭示了病理学基础模型在面对微观尺度对抗攻击时的脆弱性，并证明该攻击具有跨数据集的通用性与跨模型的迁移性。研究进一步表明，依赖空间低通滤波等被动防御策略不足以应对自适应攻击，亟需更具前瞻性的防御机制。
研究团队提出的"检测—溯源—复核"闭环框架，将算法检测、物理切片重扫与人类专家判读有机结合，为病理AI系统在真实临床场景中的安全部署提供了一条切实可行的路径。展望未来，本研究所建立的攻击与防御方法不仅适用于病理学，还有望推广至其他基于光学显微成像的医学AI应用，例如细胞学、血液学和显微影像组学等，为构建可信、可靠的智能光学与生物医学影像系统提供坚实基础。（来源：LightScienceApplications微信公众号）
相关论文信息：https://doi.org/10.1038/s41377-026-02347-w
特别声明：本文转载仅仅是出于传播信息的需要，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，须保留本网站注明的“来源”，并自负版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜，请与我们接洽。
