技术动态 > 正文
阿里巴巴发布全球最高AI推理性能芯片—含光800
2019/9/25 13:35   凤凰网科技      关键字:阿里巴巴 AI推理 芯片 含光800      浏览量:
在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。在硬件层面含光800采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。
  9月25日,在杭州召开的云栖大会上,阿里巴巴对外发布第一颗自研芯片——含光800,达摩院院长张建锋在杭州云栖大会现场展示了含光800。在业界标准的ResNet-50测试中,含光800推理性能达到78563IPS,比目前业界最好的AI芯片性能高4倍;能效比500IPS/W,是第二名的3.3倍。

  目前,含光800已应用在阿里巴巴内部核心业务中,在杭州城市大脑中实时处理杭州主城区交通视频需要40颗传统GPU,延时为300ms,而使用含光800仅需4颗,延时降至150ms。

  在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。在硬件层面含光800采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。

  含光800已开始应用在阿里巴巴内部核心业务中。根据云栖大会的现场演示,在城市大脑中实时处理杭州主城区交通视频,需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms。拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。

  含光800将通过阿里云对外输出AI算力。基于含光800的AI云服务当天正式上线,相比传统GPU算力,性价比提升100%。

  过去半年,平头哥先后发布玄铁910、无剑SoC平台。随着含光800的发布,平头哥端云一体全栈产品系列初步成型,涵盖处理器IP、一站式芯片设计平台和AI芯片,实现了芯片设计链路的覆盖。

  阿里云智能总裁、阿里巴巴首席技术官张建锋表示:“数字经济时代,芯片,平头哥、达摩院、阿里云三位一体,实现三大技术效应的最大化,为企业提供普惠算力和普惠AI,万里长征第一步”。

微信扫描二维码,关注公众号。