【五期邹昱夫】CCF-B(IEEE Access'19)Badnets: Evaluating backdooring attacks on deep neural networks

发布时间 2023-06-27 21:17:38作者: 方班隐私保护小组

"Gu, Tianyu, et al. "Badnets: Evaluating backdooring attacks on deep neural networks." IEEE Access 7 (2019): 47230-47244."

  本文提出了外包机器学习时选择值得信赖的提供商的重要性,以及确保神经网络模型安全地托管和从在线存储库下载的重要性。并展示了迁移学习场景也容易受到后门攻击,并提出了一种新的攻击策略,将后门神经元的输入权重和偏置乘以因子k ∈ [1,100]来加强攻击,进一步提高迁移学习攻击的效率。
  本文的优点在于讨论了现实场景下的后门攻击威胁来源,并指出了新的攻击应用场景-迁移学习。
  本文的缺点在于并没有对本文提出的攻击进行仔细的分析与论证,且就实验来看,其攻击的使用的超参数反而削弱了攻击效果。

2023年6月27日