技术动态 > 正文
耐能推出最新款 AI芯片KL730,
驱动轻量级 GPT解决方案的大规模应用
2023/8/15 16:48   Kneron耐能      关键字:耐能 AI芯片 KL730 轻量级 GPT解决方案      浏览量:
①解决了人工智能模型落地方面最大的瓶颈--能源成本,与行业及以往耐能的芯片相比,KL730在能效方面的提升达到了3到4倍。②KL730芯片提供每秒0.35-4tera有效计算能力,支持最先进的轻量级GPT大语言模型,如nanoGPT等。
  解决了人工智能模型落地方面最大的瓶颈--能源成本,与行业及以往耐能的芯片相比,KL730在能效方面的提升达到了3到4倍。
  KL730芯片提供每秒0.35-4tera有效计算能力,支持最先进的轻量级GPT大语言模型,如nanoGPT等。
  2023年8月15日,总部位于美国圣迭戈,以开创性的神经处理单元(NPU)而闻名的AI公司耐能,今日宣布发布KL730芯片。KL730集成了车规级NPU和图像信号处理器(ISP),并将安全而低能耗的AI能力赋能到边缘服务器智能家居及汽车辅助驾驶系统等各类应用场景中。
  KL730作为耐能最新款芯片,从设计之初就以实现AI功能为目的,并突破了多项节能及安全的技术创新。该芯片具备多通道接口,可无缝接入图像、视频、音频和毫米波等各种数字信号,支持多类行业的人工智能应用开发。
  该芯片还解决了目前人工智能的广泛瓶颈之一:普遍的低能效硬件导致的系统高成本。
  在该芯片的研发上,KL730在能效方面取得了极大的进步,能效比相较于耐能过往的芯片提升了3至4倍,且比主要行业同等产品提高了150%~200%。
  耐能创始人兼CEO刘峻诚表示:“运行AI功能需要专用AI芯片,其体系架构与我们以前了解的芯片完全不同。简单地重新使用相邻技术(如图形处理专用的GPU芯片),并不能很好地胜任这项工作。KL730将会是边缘AI的革新者。凭借其前所未有的效率和对Transformer等框架的支持,我们正在为千行百业提供强大的AI能力,在极具安全性和保护数据隐私的情况下充分发挥人工智能的潜力。”
  耐能长期专注于边缘AI,并研发了一系列轻量且可扩展的AI芯片,以安全地推动AI能力的发展。
  2021年,耐能发布了首款支持Transformer神经网络架构的边缘AI芯片KL530。而Transfomer神经网络架构是所有GPT(Generative Pre-trained Transformer)模型的基础。
  KL730芯片进一步丰富该产品系列,提供每秒0.35-4tera有效计算能力,扩展了支持最先进的轻量级GPT大语言模型(如nanoGPT)的能力。
  KL730具有独特的定位,可以改变AIot领域的安全性,从而使用户能够部分或完全离线地在终端运行GPT模型。该芯片配合耐能的私有安全边缘AI网络Kneo,让AI运行在用户的边缘设备上,从而让他们更好地保护数据隐私。
  这些应用遍及全行业:从企业服务器解决方案到智能驾驶车辆再到以AI驱动的医疗设备。所增加的安全性允许设备之间进行更大的协作,同时保护数据的安全。例如,工程师可以设计新的半导体芯片,而无需与大型云公司运营的数据中心共享机密数据。
  自2015年成立以来,耐能以可重构的NPU架构获得诸多行业内认可,并获得奖项。例如IEEE Darlington Award。使用耐能芯片的终端产品已进入多个行业领域,从AIoT到智能驾驶及边缘服务器,包含丰田、广达电子、中华电信、松下、韩华等诸多企业。

微信扫描二维码,关注公众号。