蚁景网安实验室

本报告首先介绍了目前深度神经网络所遇到的安全问题——“对抗样本”，“数据投毒”，和“模型窃取”，以及它们各自的危害性，并重点介绍了这些危害的场景及演示例子，然后说明我们应该如何去定性分析深度神经网络的安全性——“可用性，鲁棒性，机密性，可控性，可鉴别性”，并举例说明了安全性的这些角度所对应的危害。接着介绍了“可用性”和“鲁棒性”具体的定量评测，借助了传统的DNN性能评测指标以及DEEPSEC系统，并对DEEPSEC系统评测相关的源代码进行了分析。

...全部展开