技术动态 > 正文
AI芯片的功能分类
2019/3/15 15:10   中国安防行业网      关键字:AI芯片,功能,分类      浏览量:
从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。Inference环节指利用训练好的模型,使用新的数据去"推理"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。
  从功能来看,AI芯片可以分为Training(训练)和Inference(推理)两个环节。
  Training环节通常需要通过大量的数据输入,或采取增强学习等非监督学习方法,训练出一个复杂的深度神经网络模型。训练过程由于涉及海量的训练数据和复杂的深度神经网络结构,运算量巨大,需要庞大的计算规模,对于处理器的计算能力、精度、可扩展性等性能要求很高。目前在训练环节主要使用NVIDIA的GPU集群来完成,Google自主研发的ASIC芯片TPU2.0也支持训练环节的深度网络加速。
  Inference环节指利用训练好的模型,使用新的数据去"推理"出各种结论,如视频监控设备通过后台的深度神经网络模型,判断一张抓拍到的人脸是否属于黑名单。虽然Inference的计算量相比Training少很多,但仍然涉及大量的矩阵运算。在推理环节,GPU、FPGA和ASIC都有很多应用价值。

微信扫描二维码,关注公众号。