人工智能防御技术研究与启示

赵擎天, 李立伟, 陈鑫, 侯立志

Research and Enlightenment of Artificial Intelligence Defense Technology

Qingtian ZHAO, Liwei LI, Xin CHEN, Lizhi HOU

表2 “软打击”主要方法分析

Table 2 Analysis of the main methods of "soft strike"

方法 主要特点 存在问题 污染打击 伪装数据、欺骗样本以破坏学习数据的真实性，进而导致模型算法判断或决策出现偏差 数据获取难技术难度高 逆向打击 对捕获敌方的AI系统通过逆向分析，达到模型重建目的 后门打击 在AI模型中嵌入病毒，战时触发该漏洞，从而使AI系统失效 对抗打击 输入生成的对抗样本，迫使被打击的AI模型做出错误的响应