AI治理的意义：全球AI发展进入新阶段，呈现出了跨界融合、人机协同、群智开放等新的特征，为了更好处理发展与治理的关系，保证AI安全、可靠、可控，从技术研发到应用都合乎伦理，避免误用、禁止滥用，发展负责任的AI。
视频链接：https://ai.worldaic.com.cn/live/?id=90ded90a1f0f4b9ba0961b8f9320dade&m=2
一、上海试验区专委会治理工作组
1. 该工作组2020年重点工作
关注梳理国际AI治理发展新动向，提出上海试验区治理工作方向与目标，国际交流合作
组织开展人工智能数据安全立法调研工作
对接科技部AI治理专业委员会
开展AI治理方面的政策体系、伦理规范和技术标准研究等
与高校、研究院所、企业等联系，形成AI治理网络
2. 协同落实AI治理原则的行动建议
一个平台：全球交流的合作平台
四项工作：标准规范（伦理规范；技术标注；立法实践）、行业自律（伦理承诺和伦理审查制度；企业内伦理委员会；企业自律流程；行业应用规范）、最佳实践（稳妥推广经验；从实践中总结和完善规范；促进操作规则快速迭代）、可信技术（发展可信智能；合伦理评估等关键技术；完善”技术+制度“的综合治理方案；加强合伦理评估关键技术研发与评测数据集建设；开发通用型隐私保护技术）
四个体系：评估体系（研发AI合规的指标体系和测试平台；开展资质评估与分级分类认证等）、监管体系（公开透明的AI监管体系；权责明晰和应用监督并重的监管结构；AI应用全流程监管；加大对数据安全、隐私保护、道德伦理等行为的监管力度等）、人才体系、保障体系（AI相关保险产品；提升不同用户获取AI服务的能力等）
二、AI的风险与问题
论坛中讨论的AI治理问题，可分为AI技术侧的问题与AI引发的社会问题。总结论坛中的来自学术界和工业界的发言，将目前的问题总结如下：
1. 技术侧问题
AI算法性能
可解释性：需要理解AI做决策的原因
鲁棒性：需要在不同场景中稳定应用
可能的错误：如无人驾驶汽车
意外的结果：如AI对马路事故的处理建议是清除马路
AI系统安全：对抗攻击，后门攻击，网络安全
AI生成虚假内容：换脸
2. AI引发的社会问题
算法偏见、歧视与公平：性别、人种、国籍等
就业问题与财富分配：AI取代就业造成的失业问题，AI创造出的财富再分配，以及由此导致可能的国家安全与社会稳定问题
数据问题：
数据权属、数据共享的追责计值、权益分配
用户隐私保护
数据质量造成的模型效果问题
法律主体
正向的知识产权问题：人工智能的产权与归属问题
反向的责任分担问题：如人工智能侵权等事实认定、无人驾驶汽车的事故问题
三、AI治理的方式
1. 国际AI治理的动向
战略规划、制度建设、伦理规范
人工智能发展纳入各国国家战略
AI与科技创新和产业变革紧密相连
完善AI相关法律法规：重点在法律主体、个人信息保护、知识产权
注重AI基本伦理规则建设：人本主义、可信赖性、负责任、包容性、可解释性
2. 我国政府政策
2017《新一代人工智能发展规划》：高度重视可能带来的安全风险挑战
2019《新一代人工智能治理原则——发展负责任的人工智能》
2020两会：
科技部：稳步推进AI伦理治理
全国人大：生物安全法、个人信息保护法、数据安全法
最高人民法院：加强数据权力和个人信息安全保护
2020年5月《中华人民共和国民法典》
3. 技术方面方式
可解释性
建模前的可解释性分析：分析数据属性、数据可视化
构建可解释性的模型：基于规则、特征、实例
建模后的可解释性评估：隐层分析、模拟分析、敏感性分析
隐私保护：面向隐私保护的机器学习新技术，从普通学习器改进为保护策略+隐私保护学习器。
公平建模：建模过程中保证模型本身的公平性，数据与算法交互过程中避免行为偏差、表示偏差、链接偏差、内容偏差，数据到算法解决聚合偏差、时间偏差、群体偏差等。
可信验证：建设可信验证的引擎、手段、工具，算法在不同环境中具有自适应能力，同时要有可信性评分，强调人在回路。
主动防御：建立安全策略库，搜集当前态势，根据安全要素与攻击者建模，实现主动防御。不仅结果安全，过程同样保证安全。
对抗样本生成与防御、后门攻击、换脸视频生成与鉴别相关的科研进展，重点可观看复旦姜教授的分享。
4. 工业企业做法
旷视：成立AI治理研究院，分享案例：
技术方式：数据训练中保障数据安全：国密算法对数据加密，数据不出隔离域，数据可用不可见，无数据沉淀
制度方式：联合客户和合作伙伴发布《正确使用AI产品的倡议书》
IBM
技术方式：科研，包括四个原则，公平性、鲁棒性、可解释、透明性
制度方式：教育和政策，《AI日常伦理》
5. 未来治理建议
加强基础研究降低技术风险
建立多元共治的AI伦理治理体系
明确把数据和算法作为当前重点治理对象：数据隐私、共享等；算法规则透明、可靠、可解释、可验证
结合具体一个用场景规范人工治理伦理
利用技术和规范并行推动提高治理能力
积极参与国际人工智能治理
