作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响，但数据隐私、算法偏见、技术滥用等安全问题也给社会公共治理与产业智能化转型带来挑战。

　　未来人工智能如何兼顾创新发展与安全可控？在近日举办的北京智源大会AI安全与产业治理论坛上，中国科学院院士、清华大学人工智能研究院院长张钹表示，未来人工智能产业发展在扩大应用场景的同时，必须实现数据、算法与应用层的安全可控。

　　“人工智能的安全可控问题要同步从技术层面来解决。”在具体实现路径上，张钹提出了发展“第三代人工智能”，即融合第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，发展安全、可信、可靠和可扩展的AI技术。

　　瑞莱智慧CEO田天表示，现阶段人工智能产业正经历从高速增长向高质量发展的转变，产业期待的提升让金融、医疗等更复杂的高价值场景应用需求不断增加，安全性的重视程度也不断提升，但由于传统技术范式存在天然的算法漏洞和缺陷，难以支撑人工智能的长久高质量发展。

　　如何定义人工智能“安全可控”？田天认为，“安全”是指打造数据安全与算法安全两大核心能力，解决数据强依赖带来的隐私泄漏等隐患，同时提升算法的鲁棒性与可靠性；“可控”既指应用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，通过理论创新、技术突破形成核心竞争力。安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。

　　数据的不安全和算法的不安全是制约当前人工智能产业发展的主要因素，也是发展安全可控人工智能需要解决的核心问题。中国信息通信研究院安全所信息安全研究部主任魏薇认为，人工智能与数据产业互促发展的同时安全问题也交织影响，一方面人工智能对数据强依赖的发展特性导致其面临的自身数据安全风险、应用导致的数据安全风险以及应用加剧的数据治理挑战日益凸显；另一方面，人工智能也为数据治理工作提供自动化、智能化、高效化、精准化的智慧支撑。

　　相较数据安全，算法安全问题仍处于刚“兴起”阶段。阿里安全资深算法专家何源介绍，虽然人工智能技术已经在净化网络环境、知识产权保护、生物识别、线下安防等安全工作中发挥着越来越大的助力作用，让安全更智能，但其本身也面临着鲁棒性不够、可解释性差、技术滥用等安全风险。比如，算法漏洞的存在可以针对图像检索系统开展攻击，导致非原创图片逃逸检测，对网站安全与商家权益造成威胁。

　　在“新基建”浪潮驱动下，人工智能产业即将迎来与传统产业深度融合的机遇期。田天表示，在安全可控的核心支撑下，可以高效的贡献人工智能的技术优势，重塑产业智能，实现从“单点自动化”到“深度智能化”的价值提升。比如，在金融领域，人工智能的创新融合正为金融场景打造出一个兼具决策分析与感官感知的“智慧大脑”。在安全可控的支撑下，“智慧大脑”能够拓展全新能力边界，实现更好的决策左脑与更加安全可靠的感知右脑。

　　在安全可控的助力下，“深度智能”时代正将加速到来，人工智能在各行业领域的应用广度和深度将不断得到拓展。田天表示，第三代人工智能通过释放“数据、知识、算法、算力”的全新维度，为实现安全可控的新一代人工智能提供可能，让人工智能走出“浅层智能”的舒适区，重塑全新的产业价值。