【五期邹昱夫】CCF-B(RAID'18)Fine-Pruning: Defending Against Backdooring Attacks on Deep Neural Networks

发布时间 2023-06-27 20:52:16作者: 方班隐私保护小组

"Liu, Kang, Brendan Dolan-Gavitt, and Siddharth Garg. "Fine-pruning: Defending against backdooring attacks on deep neural networks." Research in Attacks, Intrusions, and Defenses: 21st International Symposium, RAID 2018, Heraklion, Crete, Greece, September 10-12, 2018, Proceedings 21. Springer International Publishing, 2018."

  本文提出将剪枝和微调结合的防御方法,消除模型中的后门。将剪枝防御和精细调整防御的益处相结合,剪枝防御移除后门神经元,并且微调恢复(或至少部分地恢复)由修剪引入的干净输入上的分类准确度的下降。
  本文的优点在于结合了两种防御方法的优点进行防御。
  本文的缺点在于微调并不总是有效,因为神经网络的后门节点在干净样本上触发不了。

2023年6月27日