Attack ML Model

一、如何进行Attack

在该问题中，通常进攻目标的网络权重是固定的，此时改变的是输入x。

换位思考：将该x看作是神经网络，每次迭代调整x的权重。

问题：需要x改变尽可能的小，通常小于一个阈值（度量标准：L2、范数）

解决方法：在每次迭代的过程中，检查x的变动幅度，幅度大于阈值的话，拉伸回阈值范围内。