近期，人工智能領域國際頂級學術期刊《IEEE Transactions on Pattern Analysis and Machine Intelligence》(簡稱IEEE TPAMI) 連續刊登了我院韋星星副教授作為第一作者的三項最新研究成果。IEEE TPAMI是人工智能領域公認的頂級期刊，在中國計算機學會（CCF）期刊會議推薦列表中為A類，是中科院一區TOP期刊，影響因子高達24.314。

這三篇TPAMI論文均圍繞智能感知技術的安全性評估展開研究，可在模型結構和參數均未知的條件下對基于深度學習的智能感知模型實施有效對抗攻擊，從而挖掘智能模型存在的安全漏洞，最終為在對抗環境下建立魯棒安全的智能感知技術提供評估指标，具有重要的理論意義和應用價值。三篇論文的具體信息如下：

1.Xingxing Wei, Songping Wang, and Huanqian Yan: Efficient Robustness Assessment via Adversarial Spatial-Temporal Focus on Videos, TPAMI, online publish, 1-15, 2023.3

論文鍊接：https://ieeexplore.ieee.org/document/10086664

該論文針對高維視頻數據帶來的視頻智能模型漏洞挖掘效率低下問題，提出使用多智能體強化學習框架同時在視頻數據空間維度和時間維度進行降維處理，從而在黑盒條件下對視頻智能模型的梯度進行高效準确的估計，最終實現對視頻智能模型的快速漏洞挖掘。相比現有最優方法，該方法可在漏洞挖掘準确率提高5%的情況下，時間複雜度降低10%。

圖1 基于多智能體協同交互的視頻對抗攻擊方法

2.Xingxing Wei, Ying Guo, and Jie Yu: Adversarial Sticker: A Stealthy Attack Method in the Physical World, TPAMI, (45)3, 2711-2725, 2023.3

論文鍊接：https://ieeexplore.ieee.org/document/9779913

該論文針對物理環境下面向目标檢測識别系統的漏洞挖掘手段操作複雜性高的問題，設計了基于敏感位置尋優的對抗補丁構造方法，通過與目标檢測識别系統進行少量交互，快速發現檢測識别系統對目标的敏感區域，通過遮擋的方式實施對抗攻擊，從而獲取目标檢測識别系統的非連續決策邊界，進而為漏洞修複提供指導。相比現有主流物理攻擊方法，本方法具有操作簡便，隐蔽性高等優點。

圖2 物理環境下基于敏感位置尋優的對抗補丁構造方法

3.Xingxing Wei, Ying Guo, Jie Yu, and Bo Zhang: Simultaneously Optimizing Perturbations and Positions for Black-Box Adversarial Patch Attacks, TPAMI, online publish, 1-13, 2022.12

論文鍊接：https://ieeexplore.ieee.org/document/9999043

該論文針對現有主流對抗補丁方法在進行模型漏洞挖掘時存在的準确性低問題，首次提出将對抗補丁的位置信息和内容信息進行聯合優化的思路，并通過強化學習的數學框架設計了黑盒對抗攻擊方法，從而提高對抗補丁面向目标檢測識别系統漏洞挖掘時的準确性。相比最優的對抗補丁方法，漏洞挖掘準确率提升了10%。

圖3 基于強化學習的高效對抗補丁構造方法