一、李进-广州大学-AI安全 1、信息系统安全三个属性:完整性、可用性、机密性 AI攻击主要考虑两方面工作:逃逸攻击、投毒攻击(数据中毒攻击)。...
参考链接:https://www.jianshu.com/p/22c50ded4cf7[https://www.jianshu.com/p/22...
【总结】 当数值过大或者过小时会导致数值问题; 常发生在深度模型中,因为其会对n个数累乘。 合理的权重初始值和激活函数的选取可以提升数值稳定性。...
https://blog.csdn.net/weixin_43398590/article/details/106911052[https://...
【总结】 权重衰退通过L2正则项使得模型参数不会过大,从而控制模型复杂度。 正则项权重是控制模型复杂度的超参数。 丢弃法将一些输出项随机置0来控...
【总结】 训练数据集:训练模型参数; 验证数据集:选择模型超参数。 非大数据集上通常使用k-折交叉验证。 模型容量需要匹配数据复杂度,否则可能导...
【总结】 感知机是一个二分类的问题,是最早的AI模型之一。 它的求解算法等价于使用批量大小为1的梯度下降。 它不能拟合XOR函数,导致第一次AI...
一、损失函数 损失函数,用来衡量预测值和真实值之间的区别。 1、均方损失(L2 Loss) 横坐标应该是y-y'。蓝色曲线是:真实值y不变时,变...
【总结】 softmax是一个多类的分类问题。 使用softmax操作子得到每个类的预测置信度。 使用交叉熵来衡量预测和标号的区别。 1、回归与...