600字范文,内容丰富有趣,生活中的好帮手!
600字范文 > 英伟达最大gpu_摩尔定律未死 黄律定律已出!英伟达要用GPU推动AI性能逐年翻倍...

英伟达最大gpu_摩尔定律未死 黄律定律已出!英伟达要用GPU推动AI性能逐年翻倍...

时间:2019-09-22 21:18:08

相关推荐

英伟达最大gpu_摩尔定律未死 黄律定律已出!英伟达要用GPU推动AI性能逐年翻倍...

英特尔创始人之一戈登·摩尔(Gordon Moore)提出的摩尔定律(Moore's law),是指集成电路上的晶体管数目每两年(或18个月)会增加一倍,该定律已经被奉为半导体产业圭臬。

即使摩尔定律这几年一直遇到瓶颈与挑战,半导体大厂仍是努力以各种方式延续该定律的生命,让半导体技术持续延展创新。

在AI领域,我们也常听到“黄氏定律(Huang’s Law)”,是预测GPU将推动AI性能实现逐年翻倍;该定律是由英伟达NVIDIA首席执行官黄仁勋名字命名。

在英伟达的GTC中国线上大会中,首席科学家Bill Dally指出,英伟达的研究人员致力于打造速度更快的AI芯片,并将其用于具有更高带宽的系统,从而简化编程。

Dally以三个项目为例,讲述了自己带领的200人的研究团队如何成功实现“黄氏定律(Huang’s Law)”。

所谓的“黄氏定律”是以英伟达首席执行官黄仁勋名字命名的定律,预测GPU将推动AI性能实现逐年翻倍。

Dally表示,如果我们真想提高计算机性能,黄氏定律就是一项重要指标,且在可预见的未来都将一直适用。

图说:英伟达帮助 AI推理性能每年提升一倍以上

为实现这一突破,英伟达研究人员专门开发了一种名为 MAGNet 的工具,其生成的 AI 推理加速器在模拟测试中,能够达到每瓦 100 tera ops 的推理能力,比目前的商用芯片高出一个数量级。

MAGNet 采用了一系列新技术来协调并控制通过设备的信息流,最大限度地减少数据传输,而数据传输正是当今芯片中最耗能的环节。这一研究原型以模组化实现,因此能够灵活扩展。

另外,研究团队还开展了一项研究,试图以更快速的光链路取代现有系统内的电气链路。

Dally 在 年加入英伟达之前,曾任斯坦福大学计算机科学系主任,个人拥有 120多项专利。他表示,可以将连接 GPU 的 NVLink 速度提高一倍,也许还会再翻番,但电子信号最终会消耗殆尽。

该团队正在与哥伦比亚大学的研究人员密切合作,探讨如何利用电信供应商在其核心网络中所采用的技术,通过一条光纤来传输数十路信号。

这种名为“密集波分复用”的技术,有望在仅一毫米大小的芯片上实现 Tb/s 级数据的传输,是如今互连密度的十倍以上。

除了更大的吞吐量,光链路也有助于打造更为密集型的系统。Dally 举例展示了一个未来将搭载 160多个 GPU 的 NVIDIA DGX 系统模型。

图说:工程师借助光链路,在单一系统中可搭载160多个GPU

软件方面,英伟达的研究人员开发了全新编程系统原型Legate。开发者借助Legate,即可在任何规模的系统上,运行针对单一GPU编写的程序——甚至适用于诸如Selene等搭载数千个GPU的巨型超级计算机。

Legate 将一种新的编程速记融入了加速软件库和高级运行时环境 Legion,目前它正在美国国家实验室接受测试。

除上述三项研究,Dally 还在主题演讲中谈到了英伟达特别针对医疗健康、无人驾驶汽车和机器人等众多行业打造的平台。他表示,经过几代人的努力,英伟达的产品将通过基于物理渲染的路径追踪技术,实时生成令人惊艳的图像,并能够借助AI构建整个场景。

此外,他还首次公开展示了英伟达的对话式 AI 框架 Jarvis 和 GauGAN的完美组合。GauGAN利用生成式对抗网络,只需简略构图就能创建风景图。

再者,光线追踪领域的进展都始于英伟达研究院打造的原型。,Dally 委派研究员 Bryan Catanzaro 与斯坦福大学教授 Andrew Ng 共同合作一个项目,后来打造出 CuDNN 软件,让深度学习领域大量的研究工作成为可能。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。