AI 如何筑起安全高墙？来看看 Create 大会上百度交出的答案

2021 百度 CREATE 大会是国内首次以元宇宙形式举办科技大会，通过虚拟世界和现实世界无缝切换的沉浸式交互方式在希壤 App 举办，可同时容纳 10 万人同屏互动。本次百度 CREATE 大会的 AI 安全分论坛也在希壤中盛大展开，基于百度安全率先提出的 Security、Safety 和 Privacy 三大 AI 安全研究维度，AI 安全论坛集中展现了百度在 AIoT、模型安全、隐私计算及自动驾驶等方面上取得的创新与进展。

AI 技术领域火热的研究趋势和高效的开发迭代速度可以应对日益剧增的需求，但技术的频繁更新和开发的高速迭代仍对底层的计算框架的安全性带来了冲击，Security、Privacy 和 Safety 三大 AI 安全研究维度，分别指向了对抗安全、数据安全与隐私保护及非对抗安全。百度首席安全科学家李康在会上分享了《百度 AI 安全研究的进展与愿景》的主题演讲，在过去的一年里，百度安全以 PaddleSleeve、PaddleFL、Teaclave、史宾格安全及隐私合规平台、AI 鲁棒性评测报告等重磅产品技术发布迭代，分别在模型安全、数据安全及 AIoT 等多个方面取得了长足的进展。

李康表示，百度安全将会持续关注 AI 安全，防御手段将会是系统安全技术与应用层防御结合，全方位保护 AI 系统的安全。随着一系列新功能的加入，百度安全希望与学术界、产业界持续展开合作，以场景为驱动，面向产业实践，为 AI 模型安全与隐私保护提供更好的能力支撑。

随着百度旗下的小度、汽车及智能车联网等 AIoT 业务高速发展，AIoT 安全面临着供应链复杂、数据安全薄弱、政策监管趋严和攻击事件激增的新挑战，而相应的措施不该是"外挂"的方案，应是随系统内建的体系。

百度安全部 AIoT 业务副总经理聂科峰表示，百度安全提出一套内驱型安全体系建设的新思路，重塑安全体系构建模式，将由攻击事件驱动的安全需求转向主动安全体系建设，把可信架构、云管端安全、数据隐私和持续安全运营都在产品设计之初规划好。

以小度人工智能助手为例，百度安全首先为度秘的产品设计引入安全评审环节，建立独立的安全需求池。其次，将 DevSecOps 持续交付，辅以安全套件降低编码漏洞与例行的安全培训。第三，引入的代码、测试需通过 AIoT 安全检测服务，该服务支持 App 与固件扫描，也支持深度动态扫描。第四，以渗透测试服务发现业务逻辑问题。第五，建立完善的应急流程，建立多渠道的攻击情报收集，建立例行漏洞 SecurityPatch 机制，建立定期攻防演练。最后，与华住集团在智慧酒店的场景中实践，将华住深度卷入整个体系流程中，耦合进各个环节当中。总的来说，把 AIoT 安全贯穿在整个产品生命周期，从产品设计到 EVT、DVT 与销售等环节。

百度安全部数据安全业务副总经理韩祖利带来的《隐私计算铸就数据流通新体系》主题演讲则聚焦在数据安全与隐私保护上。他表示，基于百度安全 21 年来在信息与安全上的成功经验，夯实了数据安全的强大基础，在 AI Privacy 上沉淀出了数据全生命周期保护、多场景一体化平台与灵活可嵌入的三大特点。以百度点石打造了一套集规则与工具一体的解决方案，通过技术与规则的巧妙结合，赋能企业机构实现"数据可用不可见"与"数据不动算法动"基础之上的隐私计算。百度点石整合了信息安全技术、隐私计算技术、区块链技术，基于数据安全沙箱、联邦学习平台（FL）、多方安全计算（SMPC）、机密计算（MesaTEE）四款隐私计算引擎，沉淀形成了整套的数据安全及隐私保护解决方案。

百度在获得了所有主流隐私计算相关评测、认证的同时，也参与并主导了多个隐私计算团体、行业、国家、国际标准，在数据安全和隐私保护技术方面建立了多维度行业影响力，更是世界上最流行的机密计算开源框架 Teaclave 的主导者。目前，百度点石已在政务、金融、医疗、电商、教育、媒体等多个领域成功落地。

百度安全部主任架构师包沉浮以在《AI 安全和隐私的产业实践探索》说道，AI 模型作为整个 AI 系统的最核心要素，它的安全性和隐私性是迫切需要考虑的问题。一方面，AI 算法的复杂性可能导致错误的决策并引发安全风险，另一方面，AI 模型的数据流可能引发数据和隐私泄露风险。

为此，百度推出了基于深度学习平台飞桨的安全和隐私套件 PaddleSleeve，以帮助模型开发者及使用者系统性地评估并提升 AI 模型的安全性和隐私性。在 AI Security 和 AI Safety 方面，PaddleSleeve 融合了百度安全 Advbox 对抗样本攻防工具及 Robustness 鲁棒性评估等诸多能力。在 AI Privacy 方面，PaddleSleeve 可实现对模型数据被还原风险及模型是否存在关键信息泄露风险的检测。

目前，PaddleSleeve 已在多个场景中实现对飞桨自定义及预训练模型，ResNet、YOLO 等通用产业级模型的支持。而伴随一系列新功能的不断加入，百度安全也希望与学术界、产业界持续展开合作，以场景为驱动，面向产业实践，为 AI 模型安全与隐私保护提供更好的能力支撑。

从 AI Security 对抗安全到 AI Safety 非对抗安全上，百度安全部主任架构师云朋以《基于图像感知的自动驾驶 AI 安全技术探索》为题，讲述了有关车辆感知的 AI 安全挑战。自动驾驶场景下的 AI 是源自于对物理世界感知的多种模型所构建，有着开放、持续变化的场景。除了算法安全外，人工智能安全还包含"实现安全"，相应的代码安全与场景安全的"实现安全"也直接影响着 AI 系统最终决策的完整性与安全性。

在当下算法安全风险的实际危害正逐步体现的自动驾驶场景下，百度安全通过自动驾驶仿真模拟，包含静态场景环境与可编程调整的动态环境多个接近现实的复杂驾驶场景, 用于分析自动驾驶软件如何应对异常驾驶场景。可根据描述在仿真环境构建场景，包含丰富的城市场景和天气条件、支持传感套件和环境的灵活配置、在对抗场景中融入 AI 对抗元素、在非对抗场景中聚焦边界信息及预留了地图、天气、障碍物修改接口。以便于自动驾驶场景下快速发现更多的风险行车条件。

由此可见智能汽车将面临更多的安全挑战，并且这些安全问题之间也会相互影响。在错综复杂的环境下，百度 Apollo 信息安全负责人刘健皓在《Apollo 汽车安全引擎 - 智能汽车安全最佳实践》中介绍如何打造一辆真正安全的智能汽车，Apollo 汽车安全引擎作为中国首创的智能汽车安全动态安全防护体系，从安全设计与实现、安全运营与溯源、安全产品与应用三大维度来打造一辆真正安全合规的智能汽车，并形成贯穿汽车全生命周期的多维防御体系。

Apollo 汽车安全引擎是一套智能汽车原生安全的汽车安全防护体系，具有原生、动态、智能三大特点，指可快速落地的成熟系统、主动防御系统、从感知智能到认知智能的全面提升，进而帮助车企合作伙伴"看见风险，预测攻击"，通过智能编排最大程度的快速阻断攻击。

在人工智能技术和应用不断发展的今天，AI 安全的重要性日益凸显。面对现实中的各种安全挑战，百度以 AI 为核心，围绕算力、算法和数据，为行业提供一个面向 AI 安全的研究思路与实践方向。未来，百度安全也将携手产学研各界，以场景为驱动，面向产业实践，共创更加安全的人工智能发展环境。