10月5日,NVIDIA首席执行官黄仁勋在本周的GTC大会上盘点了他对人工智能时代的愿景。
此次全球同步首播的GTC秋季站主题演讲共发布了九个章节,每章节不到10分钟的视频直播。黄仁勋宣布了一系列关于数据中心、边缘AI、协作工具和医疗的最新进展。在他硅谷的自家烤炉前,黄仁勋表示:“人工智能需要一场对计算机的彻底改造,一次从芯片到系统、从算法到工具和生态系统全面的重新思考。”
在这一系列从医疗健康,到机器人、视频会议等多项发布的背后,黄仁勋的潜台词很简单——人工智能正在改变一切,它也将NVIDIA引领到了触及现代人类生活各个方面转变的十字交叉路口。
事实上,这样的变化正在被越来越多的人所熟知。先是黄仁勋厨房里那些五颜六色、俏皮可爱的小铲子们——整个COVID-19疫情大流行期间,人们越来越熟悉这个用来发布重磅消息的“厨房背景”。
黄仁勋说:“NVIDIA是一家全栈计算公司——我们喜欢研究对这个世界具有重大影响力的、高难度的计算问题,这正是我们的专长。在今天这个人工智能时代,我们将全力以赴,推动这种新型计算方式的发展和普及。”
黄仁勋在视频一开始就特别提到,这周的GTC是迄今为止最大的GTC盛会之一。它不但拥有1000多场论坛,比上届增添了400多场,它还是首个跨越世界不同时区的大会,并同时拥有英语、汉语、韩语、日语和希伯来语几种不同语言。
加快数据中心
黄仁勋介绍,现代的数据中心是软件定义的,这让它们更加灵活,也更具适应性。
但与此同时它们也造成了巨大的负荷。运行数据中心的基础设施需要消耗20-30%的CPU内核。而随着“东西交通,或者数据中心内部通信和微服务的增加,这种负载将急剧增加。”
黄仁勋说明:“我们需要一种新的处理器,叫做数据处理单元(DPU)。”
DPU是由用于网络、存储、安全,以及可编程的ARM CPU的加速器组成,以此卸载管理程序。
新的NVIDIA BlueField 2 DPU是一个可编程的处理器,它具有强大的ARM核心和加速引擎,可用于网络、存储和安全的在线速度处理。这是NVIDIA收购高速互连提供商Mellanox的最新收获,这笔收购已于今年4月完成。
黄仁勋介绍,BlueField是一个可拓展的平台,我们打算在有生之年一直支持它。
数据中心:DOCA处理器-可编程的数据中心基础设施处理器
NVIDIA还发布了DOCA(Data-Center-Infrastructure-On-A-Chip Architecture),一个可编程的数据中心IOC架构。
“DOCA SDK让开发者能够为软件定义的网络、软件定义的存储、网络安全、遥测技术和尚未发明的网络内计算应用,构建基础应用程序,”黄仁勋说。
他还谈到了与VMware的合作,上周NVIDIA宣布将VMware迁移到BlueField上。黄仁勋介绍:“VMware运营着全世界的企业——它们是全世界70%的公司的操作系统平台。”
数据中心:全速前进的DPU路线图
此外,黄仁勋表示,NVIDIA的DPU路线图显示,未来的进步很快。
他介绍,BlueField-2已经在抽样检查,BlueField-3即将完成,BlueField-4正在积极准备。
黄仁勋说:“在DPU上,我们的计算吞吐量将在短短几年内跨越近1000倍,我们将为网络带来大量的技术。”
BlueField-4将于2023年推出,它将增加对CUDA并行编程平台和NVIDIA AI,即“增强网络内计算视觉效果”的支持。
黄仁勋宣布,随着新款BlueField-2X的推出,现在就已经可以拥有这些功能了。BlueField-2增加了一个NVIDIA Ampere GPU,用于CUDA和NVIDIA AI的网络计算。
“今天,拥有了Bluefield-2X就好比拥有了Bluefield-4一样”,黄仁勋说。
数据中心:GPU推理的动力
消费级互联网公司也正在通过NVIDIA技术来提供人工智能服务。
其中,推理是新一代以人工智能为动力的,消费者服务的关键,它可以让经过充分训练的人工智能模型发挥作用。黄仁勋说,总体来看,NVIDIA云计算的GPU推理计算已经超过了所有的云CPU。
黄仁勋宣布,微软将在Azure上采用NVIDIA AI,用于增强微软Office的智能体验,其中包括智能语法校正和文本预测。
微软Office加入了Square、Twitter、eBay、通用电气医疗健康和Zoox等公司的行列,在广泛的行业中使用NVIDIA 进行GPU推理。
数据中心 :Cloudera 和 VMwave
将大量数据快速运用到工作中,是现代人工智能和数据科学的关键。
NVIDIA RAPIDS是世界上最快的提取、转换、加载或ETL的引擎,可支持多GPU和多个节点。
在Panda, XGBoost和ScikitLearn这些数据科学框架广泛流行之后,NVIDIA模式化了它的API,因此RAPIDS很容易上手。
在行业标准的数据处理基准测试中,在10TB的数据集上运行了30个复杂的数据库查询,16节点NVIDIA DGX集群的运行速度比最快的CPU服务器快20倍。
然而,它的成本只有七分之一,耗电量也仅有三分之一。
黄仁勋称,Cloudera是一个混合云数据平台,它可以让你管理、保护、分析并学习数据内的预测模型。它将与NVIDIA RAPIDS、NVIDIA AI和NVIDIA-accelerated Spark一起促进Cloudera数据平台的运营。
NVIDIA和VMware还宣布了第二项合作。
这两家公司将共同创建一个数据中心平台,为当前三大计算领域提供GPU加速的支持,包括虚拟化、分布式扩展和可组合的微服务。
黄仁勋表示:“运营VMware的企业将能够享用任何计算模式下的NVIDIA GPU 和人工智能计算机。”
尖端的边缘AI
黄仁勋说,有朝一日,数以万亿计的人工智能设备和机器将散布在世界的每一个角落——包括家庭、写字楼、仓库、商店、农场、工厂、医院、机场。
NVIDIA EGX 人工智能平台可以让全球的企业简单、迅速地用上最先进的前沿人工智能服务器。他解释道,这个人工智能平台能够控制机器人工厂,在零售店自动结账,帮助护士检测病人。
黄仁勋宣布,EGX平台正在扩展,将NVIDIA Ampere GPU和BlueField-2 DPU合并在一张PCIe卡上。这些更新为企业提供了一个共同的平台以构建安全、加速的数据中心。
黄仁勋还宣布了一项为新服务开设的早期访问计划,名为NVIDIA Fleet Command。这个应用程序将边缘计算的安全性和实时处理能力与远程管理以及SaaS的易用性结合,使跨物联网设备部署和管理更新变得更加容易。
全球供应链解决方案的领导者KION集团是首批向Fleet Command提供早期服务的公司之一。该集团正在使用NVIDIA EGX AI平台为其智能仓库系统开发AI应用程序。
此外,作为在伊利诺伊州排名第一,全美排名前十的Northwestern Memorial Hospital (西北纪念医院)正与 Whiteboard Coordinator公司合作,将Fleet Command 用于其物联网传感器平台。
黄仁勋说:“这是全球工厂的iPhone时刻——NVIDIA EGX将让工业人工智能服务的创造、部署和运营变得更加简单。”
边缘AI:让机器人大众化
黄仁勋指出,很快,所有会动的物体都将自主化。人工智能软件是一项重大突破,它将使机器人更聪明且适应性更强。然而,会让机器人大众化的是NVIDIA Jetson AI 计算机。
Jetson是一款基于Arm的SoC,专为机器人技术而设计。黄仁勋解释道,这要归功于传感处理器、CUDA GPU和Tensor Cores,以及最重要的,在它上面运行着的各种各样的人工智能软件。
黄仁勋宣布,Jetson家族的最新产品Jetson Nano 2GB售价将为59美元。价格约为去年发布的99美元Jetson Nano开发者套件的一半。
黄仁勋说:“NVIDIA Jetson实力强大,并且还拥有超体积小、耗电少、价格实惠的特点。”
协作工具
Neal Stephensen(美国科幻小说家)在1992年创作的赛博朋克经典之作《雪崩》(Snow Crash)中幻想到的共享线上世界“metaverse(虚拟空间)”,已经在Minecraft和Fortnite等共享虚拟世界中变成了现实,黄仁勋介绍。
NVIDIA Omniverse在2019年3月首次推出,现已进入公测阶段。这个平台遍及现有的行业工具,进行同步实时仿真模拟和协作。
黄仁勋说:“Omniverse让设计师、艺术家、创造者、AI从业者们,使用不同的工具,在不一样的世界合作,共创同一个世界。”
黄仁勋宣布,NVIDIA的另一个首创工具,NVIDIA Jarvis 对话AI(NVIDIA Jarvis conversational AI)也步入了公开测试阶段。黄仁勋展示到,使用新的SpeedSquad基准测试后,在NVIDIA GPU上运行时,它的响应速度提高了一倍,声音也听起来更加自然。
黄仁勋说,它的成本也只有三分之一。
“就像我说的,买的越多,省的越多”,这是黄仁勋多年来在主题演讲中的口头禅。
协作工具:推出NVIDIA Maxine
视频通话已从一种新鲜事物变为了一项必需品。
视频会议现今已成为许多人最重要的应用程序。无论是工作、社交、学习、开展线上活动或是进行医疗咨询医疗咨询。全世界每天都会上演超过3000万场的网络会议。
为了改善这项体验,黄仁勋发布了NVIDIA Maxine,这个基于云的流媒体视频AI平台。适用于视频通话等应用。
通过人工智能,Maxine可以将视频通话所消耗的视频带宽减少10倍。“人工智能可以为视频通话创造奇迹,”黄仁勋说。
“有了Jarvis和Maxine,我们就有机会彻底革新今天的视频会议,创造出明日的虚拟临场,”黄仁勋说。
医疗健康
在全球COVID-19疫情爆发期间,药物研发事关生命。
然而,对于研发新药成本需1.5万亿美元的制药业来说,多年来新药研发成本在不断上升。90%的研发都失败了,原因是新药研发时间需要10年,研发成本超过25亿美元,并且这个情况每隔9年就要翻一番。
“我们需要新的工具,COVID-19凸显了这一紧迫性,”黄仁勋说。
他解释道,利用在计算机科学领域的突破,我们可以开始用模拟和内硅的方法来了解影响疾病的蛋白质的生物学机制,并寻找新的备选药物。
为了加速这一进程,黄仁勋宣布了NVIDIA Clara Discovery,这是一套最先进的工具,帮助科学家研发拯救生命的药物。
“哪里有流行的行业工具,哪里就有我们的计算机科学家为它们加速,”黄仁勋说。“如果没有工具,我们就去开发它,就像是NVIDIA Parabricks, Clara Imaging, BioMegatron,BioBERT,和 NVIDIA RAPIDS这些。”
黄仁勋还概述了建造英国最快的超级计算机Cambridge-1的计划,它将最先进的计算基础设施带到“医疗健康研究的中心”。
Cambridge-1将拥有每秒400 petaflops次的人工智能性能,使其跻身世界最快的30台超级计算机之列。它将担起NVIDIA英国在学术界、工业界和初创企业的人工智能和医疗健康合作。
NVIDIA的首批合作伙伴是AstraZeneca、GSK、伦敦国王学院、Guy's and St Thomas' NHS Foundation Trust以及初创企业Oxford Nanopore。
NVIDIA还宣布与GSK合作,建立全球首个人工智能药物研发实验室。
ARM
黄仁勋以NVIDIA与Arm合作的最新进展结束了他的主题演讲,Arm的节能设计在全世界的智能设备上运行。
NVIDIA上个月同意以400亿美元收购这家英国半导体设计公司。
黄仁勋表示:“Arm是世界上最受欢迎的CPU,我们将共同向Arm生态系统提供NVIDIA加速器和人工智能计算技术。”
去年,黄仁勋曾宣布,NVIDIA将把CUDA和我们的科学计算堆栈(scientific computing stack )迁移到Arm。今天,他又宣布了一项推进Arm平台的重大举措,我们正在向以下三个方面进行投资:
首先,NVIDIA将在GPU、网络、存储和安全技术方面对合作伙伴Arm进行补充,打造完整的加速平台。
其次,NVIDIA正与合作伙伴Arm一同合作,为高性能计算、云端、边缘和PC应用开发平台。这需要芯片、系统以及系统软件。
第三,NVIDIA正在将NVIDIA AI和 NVIDIA RTX引擎迁移至Arm。
黄仁勋说:“今天,这些功能只能在x86上使用,但有了这一举措,Arm平台也将成为加速计算领域和人工智能计算领域的前沿!”
想要解锁最新AI技术应用?速速扫描下方海报二维码,观看GTC 2020秋季站主题演讲!