技术动态 > 正文
NVIDIA EGX边缘AI平台将实时AI带入新型智慧城市更多行业
2020/5/15 10:24:00   NVIDIA      关键字:NVIDIA EGX 边缘 AI平台 智慧城市      浏览量:
借助于NVIDIA EGX™边缘AI平台,医院、商店、农场和工厂可以实时处理和保护来自数万亿个边缘传感器的海量数据流。该平台实现了服务器群的远程安全部署、管理和更新。
  刚刚结束的GTC 2020上,NVIDIA发布了两款性能强大的EGX边缘AI 平台产品:适用于较大型商业通用服务器上的 EGX A100,和适用于微型边缘服务器的微型EGX Jetson Xavier NX。这两款产品能够在边缘提供安全、高性能的AI处理能力。
  借助于NVIDIA EGX™边缘AI平台,医院、商店、农场和工厂可以实时处理和保护来自数万亿个边缘传感器的海量数据流。该平台实现了服务器群的远程安全部署、管理和更新。

  EGX A100聚合加速器和EGX Jetson Xavier NX微型边缘服务器分别被设计用于满足不同尺寸、成本和性能需求。例如搭载了EGX A100的服务器可以管理机场中的数百台摄像头,而EGX Jetson Xavier NX则可用于管理便利店中的少量摄像头。而云原生技术支持能够确保整个EGX产品家族都可以使用同一经过优化的AI软件轻松构建和部署AI应用。
  NVIDIA创始人兼首席执行官黄仁勋表示:“物联网和AI的融合已开启了“万物智能”革命。就像手机行业通过智能手机为用户提供智能服务一样,大型行业现在也可以为用户提供智能互联的产品和服务。NVIDIA EGX边缘AI平台能够将标准服务器转变为一个小型的云原生、安全型AI数据中心。借助于我们的AI应用框架,企业可以构建从智能零售到机器人工厂再到自动化呼叫中心等各类AI服务。”
  由NVIDIA Ampere架构赋能的EGX A100
  EGX A100是首个基于NVIDIA Ampere架构的边缘AI产品。随着AI日益向边缘发展,企业机构可将EGX A100添加到其服务器中,从而实时处理和保护来自边缘传感器的海量流式数据。
  EGX A100结合了NVIDIA Ampere架构所具有的突破性计算性能与NVIDIA Mellanox® ConnectX-6 Dx SmartNIC所具备的网络加速和关键性安全功能,能将标准型和专用型的边缘服务器转变为极具安全性的云原生AI超级计算机。
  NVIDIA Ampere架构是NVIDIA的第8代GPU架构,其为在边缘运行AI推理和5G应用等各类计算密集型工作负载提供了有史以来最大的性能飞跃,使EGX A100可以实时处理来自摄像头和其他物联网传感器的大量流式数据,从而更快地获得洞见并提高业务效率。
  红帽公司高级副总裁兼首席技术官Chris Wright表示:“数据、AI和智能云原生应用正在改变每个行业的企业边缘。NVIDIA的全新EGX A100聚合加速器结合专为Red Hat Enterprise Linux开发的预编译驱动程序和Red Hat OpenShift认证操作员,简化了硬件的部署和管理,帮助我们的共同客户处理一些要求极高的AI、边缘和5G工作负载。”
  借助NVIDIA Mellanox ConnectX-6 Dx板载网卡,EGX A100可以每秒接收高达200 Gb的数据并将其直接发送到GPU内存以进行AI或5G信号处理。借助于NVIDIA Mellanox为电信领域带来精准时钟调度5G无线报文的传输技术(5T for 5G)EGX A100作为一个云原生软件定义加速器,可以处理对延迟最敏感的5G应用,这为在一个行动点(如:商店、医院和工厂车间)做出智能实时决策提供了高性能AI和5G平台。
  Mavenir公司总裁兼首席执行官Pardeep Kohli表示:“我们已与NVIDIA合作构建了Mavenir的高性能虚拟5G无线接入网络和加速5G分组核心网,这让我们能够提供从AI/ML到AR / VR应用等各种新型GPU加速的5G服务。”
  体积虽小,但性能强大的
  EGX Jetson Xavier NX
  EGX Jetson Xavier NX是全球体积最小、性能最强大的AI超级计算机,适用于微型服务器和边缘智能物联网盒。目前,生态圈内的合作伙伴已提供了超过20种解决方案。该产品将NVIDIA Xavier SoC的性能整合到了一个信用卡大小的模块中。运行EGX云原生软件堆栈的EGX Jetson Xavier NX可以快速处理来自多个高分辨率传感器的流式数据。
  该高效节能的模块能够在15W功率下提供最高21TOPS的计算力,或在10W功率下提供最高14TOPS的计算力。因此,EGX Jetson Xavier NX为嵌入式边缘计算设备开启了大门——此类设备需要通过提高性能来支持AI工作负载,但同时又受限于尺寸、重量、功耗预算或成本等因素。
  码隆科技的联合创始人兼首席执行官Matt Scott表示:“ NVIDIA Jetson和NVIDIA EGX正在帮助我们为零售行业带来转变,让自助式结账体验变得更加快捷、安全。借助于AI的强大性能,我们的RetailAI套件现在可以实时、准确地识别成百上千种产品,为顾客带来更加无缝且安全的购物体验,而且便于大规模部署。我们将继续探索NVIDIA强大的产品阵容,找到更多能够应用于边缘的智能技术新方法,以此提高客户满意度并减少零售量的下滑。”
  经过完整优化的跨EGX边缘AI平台云原生软件
  EGX边缘AI平台的云原生架构使其可以运行容器化的软件,以支持一系列GPU加速的工作负载。
  NVIDIA应用框架包括了用于医疗领域的Clara、用于电信领域的Aerial、用于对话式AI领域的Jarvis、用于机器人技术领域的Isaac,以及用于零售、智慧城市、交通等领域的Metropolis。它们可以组合使用或单独使用,为各种边缘用例开辟了新的可能性。
  目前整个NVIDIA EGX产品家族均支持云原生技术,因此智能机器制造商和AI应用开发者们可以在嵌入式及边缘设备上构建和部署针对机器人技术、智慧城市、医疗、工业物联网等领域的先进的软件定义功能。
  来自全球EGX生态圈的支持
  全球企业计算服务供应商如Atos、Dell Technologies、富士通、技嘉科技、HPE、IBM、浪潮、联想、Quanta/QCT和Supermicro目前均提供通过NVIDIA EGX软件启用的边缘服务器。ADLINK和Advantech等大型服务器和物联网系统制造商也提供此类服务器。
  Whiteboard Coordinator、Deep Vision AI、IronYun、Malong和SAFR by RealNetworks等软件供应商可以使用这些服务器以及经过优化的应用框架来构建和部署用于医疗、零售、制造和智慧城市等领域的解决方案。
  供应情况
  EGX A100将于今年年底上市。基于EGX Jetson Xavier NX的即用型微型边缘服务器现已上市,可供希望大批量生产边缘系统的公司选购。