英伟达DPU计算吞吐量三年将跨越近1000倍
访问: 阿里云推出高校特惠专场:0元体验入门云计算 快速部署创业项目 数据中心:推出英伟达Blue Field-2 DPU和英伟达Blue Field-2X DPU,具有英伟达Mellanox的所有功能;推出DOCA SDK。 边缘人工智能:宣布推出英伟达EGX AI平台,使各种规模的组织能够快速有效地大规模部署人工智能;推出Jetson Nano 2GB开发套件,范围包括从入门级AI设备到高级平台。 协作工具:支持百万设计师实时合作的开源测试版本Omniverse平台,流媒体视频AI平台英伟达Maxine。 医疗保健:同全球医疗公司GSK及其AI集团合作,正建造供英国医疗人研究人员使用的超级计算机。 新一代DPU加速数据中心 黄仁勋说,当下的数据中心是由软件定义的,这使得数据中心更加灵活的同时也产生了巨大的负担,数据中心基础架构的运行能够消耗20%-30%的CPU核心,因此需要一种新的处理器,即DPU(Data Processing Unit)。 DPU究竟有什么作用?根据英伟达官方的解释,DPU是一种SOC,集三个关键要素于一身: 行业标准的、最高性能及软件可编程的多核CPU,通常基于广泛的Arm架构,与其SOC组件密切配合; 高性能网络接口,能以线速或网络中的可用速度解析、处理数据,并高效地将数据传输到GPU和CPU。 各种灵活和可编程的加速引擎,可以卸载AI、机器学习、安全、电信和存储等应用,并提升性能。 DPU的这些功能对于实现安全的下一代云上大规模计算至关重要。 基于英伟达今年四月收购的Mellanox的最新研究成果,英伟达推出了两款DPU产品,英伟达BlueField-2 DPU与BlueField-2X DPU。 据英伟达介绍,BlueField-2 DPU具有英伟达Mellanox Connext-6 SmartNIC的所有特点,并与强大的Arm内核连接在一起,且是可完全编程的,能够提供每秒200千兆比特的数据传输速率,加速关键数据中心的安全、网络和存储任务。 BlueField-2X DPU则拥有包括BlueField-2 DPU的所有关键特性,其特性能够通过英伟达安培GPU的AI功能得以增强。 为了能够让开发人员在DPU加速的数据中心基础设施服务上构建应用程序,英伟达还推出类似于英伟达CUDA编程模型帮助开发人员构建GPU加速的应用程序——DOCA软件开发工具包。 值得一提的是,DOCA为开发人员提供了一个全面、开放的平台,完全集成在一个软件目录中,能够为第三方应用程序提供商提供一个方便的软件环境,利用DPU加速数据中心,并开发、认证和分发应用程序给客户。 黄仁勋宣布,将在英伟达下一代安培GPU添加新的BlueField-2,用于英伟达AI计算。 此外,黄仁勋还公布了英伟达DPU的发展路线图,预计在2023年推出400 TOPS、400Gbps的BlueField-4,这意味着在短短几年内,英伟达DPU的计算吞吐量将跨越近1000倍。 EGXAI平台部署人工智能,民主化的Jetson AI机器人 黄仁勋认为,总有一天数以万计的人工智能设备和机器人将遍布家庭、办公楼、商店等场所,充斥整个地球,“为了支持这一大规模的转变,英伟达创建了一个加速计算平台,帮助公司实现数据中心的现代化,并在任何地方部署人工智能。” 这里所说的加速计算平台即英伟达EGX人工智能平台,该平台的系统能够通过戴尔、联想、浪潮、超微等领先的服务器制造商获得。 英伟达还宣布,EGX平台正在扩大合并英伟达安培GPU和BlueField-2 DPU在单个PCIe卡上的功能,为企业提供了一个共同的平台来构建安全、加速的数据中心。 为了部署和管理EGX服务器,英伟达推出一项名为英伟达舰队司令部的新服务,将边缘计算的安全和实时处理能力与远程管理和软件服务的易用性结合起来,能够通过统一的控制平面,集中管理遍布广大地区的服务器,包括工厂、医院、零售店甚至城市街道。据悉,全球供应链解决方案的领导者KION集团正在使用英伟达EGX AI平台为其智能仓库系统开发AI应用程序,提高零售配送中心的吞吐量和效率。 去年,英伟达推出了售价为99美元的Jetson AI计算机,今年扩大Jetson AI在边缘平台上的入门级开发套件,售价仅为59美元。 据悉,作为Jetson系列的新成员,Jetson Nano 2GB开发人员套件是为教学和学习人工智能的人群而设计的,其范围从入门级AI设备到高级平台,用黄仁勋的话讲,Jetson AI机器人是民主化的机器人。为了支持人工智能教学,英伟达还宣布了Jetson免费在线的可用性,补充了许多开源项目,数千名开发人员都活跃在Jetson社区,培训和获得人工智能认证。 Booz Allen Hamilton分析和人工智能研究主任Drew Farris说:“在Booz Allen,我们寻求增强人们改变世界的能力。我们正在使用英伟达 Jetson来培训新的技术资源,因为人工智能对于企业和人员来说至关重要,利用人工智能来解决最困难的全球问题挑战。” 安培架构拓展至专业视觉产品线,Omniverse构建元宇宙 除了在数据中心和边缘人工智能方面取得的进展,英伟达还宣布推出协作工具Omniverse平台的开放测试版本和AI数据流平台Maxine,构建致力于AI医疗研究的超级计算机“剑桥1”。此外,英伟代还在GCT fall上宣布延展至专业视觉产品线的安培架构。 (编辑:应用网_阳江站长网) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |