“天府杯”2020聚焦AI+新基建 百度连续第三年主办AI安全论坛

11月7日，以“数字驱动发展，安全守护未来”为主题，“天府杯”2020国际网络安全大赛暨2020天府国际网络安全高峰论坛在成都举行。作为联合主办方之一，这是百度安全连续第三年参与这一中西部最重要的网络安全产业大会，并承办AI安全专题论坛。

会上，百度副总裁马杰与来自学术界、产业界及监管部门的众多专家学者、行业领袖们一起，共同探讨了在“新基建”战略大背景下网络安全的新机遇和新挑战，并分享了在各自领域、尤其是在AI安全领域的最新研究成果。

百度副总裁 马杰

毫无疑问，安全是2020年的关键词，其不仅关乎于虚拟的网络空间，也关系到了国家、产业、设备，甚至是我们每一个个体的健康。而从某种角度上讲，有关AI所带来的安全命题同样涉及到了线上线下的方方面面。

“AI安全是整个新基建中非常重要的一个基石，当中国的AI技术与世界领先水平跑到了同一起跑线上时，我们AI安全的研究也需要跟上这个速度。”在马杰看来，AI时代我们不仅需要面对来自传统安全领域顽疾的集中爆发，还需积极应对AI本身出现的安全性问题。“这已经超乎了我们对于安全边界与框架的传统认知范畴，而网络安全人的责任则在于，通过长期的研究与实践，能够跑到这些威胁造成重大危害之前。”

以“有AI，更安全”为理念，百度在AI安全领域的探索始终处于行业前沿。在今年9月举行的百度世界大会上，由Security、Safety和Privacy出发，马杰首次对外揭示了百度在AI安全领域探索与实践的三大全新维度。而它们也分别指向了强对抗环境下的安全威胁、非对抗条件下自然环境所产生的真实威胁及数据安全与隐私保护三大AI安全研究方向，并围绕算力、算法和数据，覆盖云、管、端等各个阶段。对于当前的AI安全研究来说，其不仅将为AI模型鲁棒性、AI模型保护及数据采集、处理、流通和可信计算等领域的安全技术应用提供深具前瞻性的思考角度，也将为行业企业开发更具专业性的AI安全解决方案带来方向性的规划指引。

事实上，以AI安全三大维度为基础，百度领先的AI安全能力已经投入到了包括AI模型鲁棒性体系化评估、AI模型安全加固、全网恶意网页监测、内容安全生态治理及全数据生命周期安全防护在内的一系列“实战”之中。而作为百度大脑的核心架构组成，上述AI安全能力也已完成了对百度整个AI技术研发流程的全面覆盖，并为百度智能云构建智能一体化的云上安全体系提供支撑。

当然，新基建时代AI安全生态的打造也需要来自产学研各界同仁的共同协力。在百度安全部副总监沈鹏飞的主持下，国务院网络安全学科评议组成员、复旦大学计算机学院科研副院长杨珉，四川师范大学网络与通信技术研究所所长李焕洲，西南交通大学系统可信性自动验证国家工程实验室常务副主任李志辉，德国CISPA亥姆霍兹信息安全中心张阳，成都无糖技术合伙人李维，与百度安全部产品负责人韩祖利一道，在而后举行的AI安全专题论坛上，共同分享了各自在AI安全领域最新研究进展。

百度安全部副总监 沈鹏飞

众所周知，新基建的大规模展开将催生大量AI技术的创新应用，而作为AI时代最重要的生产要素之一，数据的安全性问题正在成为当下首当其冲的安全挑战。由此，韩祖利首先介绍了百度在数据安全与隐私保护方面的实践——以隐私合规检测、差分隐私、AI自动脱敏、联邦计算、可信计算等技术为代表，百度将AI安全能力贯穿于采集、处理、流通、计算等整个数据生命周期，在更好地保护企业机密和个人隐私的同时，也为百亿级大规模数据的安全联合计算创造了可能。进一步释放数据价值，扩大AI时代大规模数据协作的信任边界。

百度安全部产品负责人 韩祖利

而在保障数据安全的基础之上，软硬一体化趋势下AI系统的安全问题同样不可忽视。以分布式智能系统的安全性为核心，杨珉教授在演讲中探讨了开放网络中分布式学习系统内的“拜占庭攻防”问题，并通过GAA、即基于梯度聚合代理的鲁棒分布式学习，强化学习调整评估策略，为有效防御这类攻击提供了应对方案。

国务院网络安全学科评议组成员、复旦大学计算机学院科研副院长 杨珉

聚焦于隐蔽通信领域，李焕洲教授带来了将其与深度学习模型InfoGAN有机结合的创新性研究。在隐蔽载体迁移、多种隐蔽机制组合嵌套、隐蔽域多样化的背景下，二者的联动可在保持一定传输效率的同时，获得相较于传统隐蔽通信工具更强的隐蔽能力，兼具理论创新前景和工程可行性。

四川师范大学网络与通信技术研究所所长 李焕洲

（编辑：应用网_阳江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!