近日，由国家科技部主导的“科技创新2030重大项目—安全大脑国家新一代人工智能开放创新平台”正式进入实施评审阶段，该项目由360牵头，联合清华大学、瑞莱智慧RealAI、中科院自动化所、中科院信工所共同协作完成。

　　人工智能安全是广泛智能应用的基础。在推动新一轮科技革命的同时，人工智能自身存在的严重安全问题引入了全新的安全威胁，尤其是涉及国防、经济、民生的人工智能设施系统，一旦遭受攻击，可能威胁到国防安全、企业安全、公民财产和生命安全。

　　科技创新2030重大项目是体现国家战略意图的重大工程，人工智能算法模型安全研究作为提升人工智能自身安全的重要课题参与其中，体现了国家新一代人工智能发展规划对人工智能安全治理的重要布局。

　　其中“面向人工智能算法的安全对抗攻防”课题项目主要针对深度学习对抗攻防中存在的问题，深度学习的对抗攻击、鲁棒防御和算法库等方面进行研究，为人工智能模型的安全性和可信赖应用提供理论基础和技术储备。

　　本课题的开展将本着开源开放的原则，技术层面围绕人工智能算法对抗安全，强调功能性和安全性的有机结合，在基础理论和基本算法等共性技术面向新一代人工智能“OpenI”的建设进行开源，服务国家新一代人工智能开源开放平台的建设，为我国和全球人工智能行业发展保驾护航，也为人工智能长久稳健发展提供重要积累。