行业新闻 > 正文
北京智源人工智能研究院推出“人工智能治理公共服务平台”
2020/10/29 8:47:00   北京海淀      关键字:北京智源 推出 人工智能 服务 平台      浏览量:
利用算法“杀熟”,利用数据分析影响公众的认知判断,对抗性伪图像骗过了护照人脸识别系统……伴随着人工智能的快速发展,这些“风险”已经出现在我们的生活中。
  利用算法“杀熟”,利用数据分析影响公众的认知判断,对抗性伪图像骗过了护照人脸识别系统……伴随着人工智能的快速发展,这些“风险”已经出现在我们的生活中。近日,中关村科学城新型研发机构北京智源人工智能研究院推出阶段性成果“人工智能治理公共服务平台”,具备检测功能,旨在避免人工智能应用潜在的风险与隐患。
  人工智能治理公共服务平台的主要功能与目的是帮助人工智能的科研、创新者、机构、产业、政府等针对其人工智能设计、模型算法、产品与服务中潜在的社会与技术风险、安全、伦理等问题进行检测,并针对潜在问题给出相关的伦理与治理原则与规范,提供相应的案例与研究,从而一定程度上帮助避免潜在风险与隐患。
  迄今为止,政府间组织、不同国家的政府、科研机构、企业、非赢利与非政府机构等已经针对人工智能全领域的伦理与治理提出了超过70个不同的原则提案,为人工智能的发展提出了方向与原则。
  为推动人工智能向有益的方向负责任地发展,人工智能治理公共服务平台在此基础上精选了其中20余项法规与AI原则。本次发布的人工智能治理公共服务平台第一期设计了八大评估维度,100余个评估选项,总共包含700余条解析。比如,关于人工智能可能存在的风险和伦理方面,平台从八大维度设定它在哪些方面可能出现问题。测试时显示橘黄色是需要注意的问题,如果一旦出现红色或者被标黄的地方,系统建议不要上线。再比如,平台会对人工智能产品服务或者多模算法进行整体评估,并且指出哪些方面是好的,有哪些伦理和治理方面做得不够好,在回答问题时候对应曾经出现问题的一些点,可以看到它跟哪一些国家公布的伦理原则、法规等相互冲突,也会给出具体的建议,以及如何根据这些原则对产品服务等进行修改。
  北京智源人工智能研究院人工智能伦理与可持续发展研究中心主任曾毅在发布该平台时表示,“人工智能治理公共服务平台”最重要的是其意义,即倡导发展与治理的协同驱动。此外是治理模式的演变:应从顶层监管为主演变为以公共服务为主,顶层监管为辅。人工智能治理不但需要顶层监管,更需要推进为公共服务,帮助人工智能研发、企业、应用方防患于未然。期待人工智能治理公共服务平台能够为新一代人工智能的可持续发展保驾护航,确保人工智能的发展对人类、社会、生态的可持续发展作出积极贡献。

微信扫描二维码,关注中国安防行业网