一、李进-广州大学-AI安全
1、信息系统安全三个属性：完整性、可用性、机密性
AI攻击主要考虑两方面工作：逃逸攻击、投毒攻击（数据中毒攻击）。使模型不能正常的预测
AI机密性：参数和数据的机密性
训练数据会不会被人偷走（inferred attack）
（1）逃逸攻击 Evasion attack
没有改变机器学习算法，构建一些特定的输入来欺骗，得到错误的结果。因为机器学习学不到完美的判别，所以逃逸攻击很难对抗。
（2）后门攻击 Backdoor attack
（3）模型窃取攻击 Model extraction attack
系统放网上给大家用，会提供一些输入输出样本给大家看，这就会泄露一些信息，虽然可能只是01。类似密码领域
2、AI防御
（1）数据清洗时，发现一些异常数据。但只能用在训练阶段
（2）算法鲁棒性：在训练时，让他学一学哪些是坏样本。将对抗样本加入到训练样本中。.但找的对抗样本不可能穷举完，所以也无法抵抗所有攻击，只能相对来说还行。
（3）设置合理门限来抵抗对抗样本
二、刘哲理-南开大学-密码应用背后隐藏的风险
1、可搜索加密
可搜索加密介绍：https://blog.csdn.net/qq_57098278/article/details/121390807
比如存邮件，有时候要找的时候，就是搜索关键字。如果邮件存储的服务器不可信，我需要存加密的邮件，防止泄露。
将邮件拆分关键词，每个关键词分别加密
