Nvidia推进了2018年GTC的深度学习生态系统

在很多方面，Nvidia是在人工智能方面适时在适当的地方受益的受益者。计算，数据和算法的进步导致了对深度神经网络的爆炸性兴趣，而我们目前的训练方法在很大程度上取决于Nvidia的图形卡真正有效的数学运算。

这并不是说一旦机会出现，Nvidia就没有表现得非常好。值得赞扬的是，该公司很早就意识到了这一趋势，并且在真正有意义之前进行了大量投资，击败了“创新者的困境”，导致许多伟大的(或以前很棒的)公司错失良机。

几周前，我参加了Nvidia的GPU技术大会(GTC)2018年， 并提出了一些想法。Nvidia真正擅长的两个领域是开发软件和生态系统，利用其硬件并将其深深地定制到用户应用它的不同领域。这在2018年的GTC上得到了充分证明，该公司为其深度学习客户推出了许多有趣的新硬件，软件，应用程序和生态系统公告。

新型DGX-2深度学习超级计算机

在宣布将V100 GPU内存增加一倍至32GB之后，Nvidia推出了DGX-2，这是一款深度学习优化的服务器，包含16个V100和一个名为NVSwitch的新型高性能互连。该DGX-2提供2个千万亿次计算能力，并提供显著成本和能源节约相对于传统的服务器架构。在具有挑战性的代表性任务中，DGX-2在一天半内训练了一个FairSeq神经机器翻译(NMT)模型，与上一代DGX-1的15天相比。

深度学习推理和TensorRT 4

推理(使用DL模型与训练他们)是Nvidia首席执行官Jensen Huang的重点关注领域。在他的主题演讲中，Huang谈到了AI模型复杂性的迅速增加，并提供了一个思考数据中心和边缘推理系统需求的助记符：PLASTER，可编程性，延迟，准确性，大小，吞吐量，能量/效率和学习率。为了满足这些需求，他宣布推出TensorRT 4，这是用于优化GPU核心推理性能的Nvidia软件的最新版本。

新版TensorRT已与TensorFlow集成，还包括对ONNX互操作性框架的支持，允许与使用PyTorch，Caffe2，MxNet，CNTK和Chainer框架开发的模型一起使用。Huang还强调了新版本的性能提升，包括TensorFlow-TensorRT与TensorFlow相比性能提升8倍，某些网络架构的CPU吞吐量提高了45倍。

新的Kubernetes支持

Kubernetes(K8s)是一个开源平台，用于编排公共云和私有云上的工作负载。它来自Google，并且发展非常迅速。虽然大多数Kubernetes部署都专注于Web应用程序工作负载，但该软件在深度学习用户中越来越受欢迎。(查看我对Matroid的Reza Zadeh和OpenAI的Jonas Schneider的采访了解更多。)

到目前为止，使用GPU非常令人沮丧。根据官方的K8s文档，“在v1.6中增加了对NVIDIA GPU的支持，并且经历了多次向后兼容的迭代。”哎呀!Nvidia希望其新的GPU设备插件(在Huang的主题演讲中令人困惑地称为“Kubernetes on GPU”)将允许工作负载更轻松地针对Kubernetes集群中的GPU。

新应用程序：Project Clara和Drive Sim

结合其在图形和深度学习方面的优势，Nvidia分享了它开发的几个有趣的新应用程序。Project Clara能够创建丰富的医学影像电影渲染，让医生更容易诊断医疗状况。令人惊讶的是，它在云中使用深度神经网络来增强传统图像，而无需更新目前安装在医疗机构的300万个成像仪器。

Drive Sim是一款自动驾驶汽车的仿真平台。已经进行了许多努力来使用模拟来训练用于自动驾驶汽车的深度学习模型，包括使用诸如侠盗猎车手之类的商业游戏。(事实上​​，出于版权原因，GTA出版商已关闭了其中一些努力)。然而，在合成道路和城市景观上训练学习算法并不是一个大问题。相反，挑战一直是在合成道路上训练的模型并没有很好地推广到现实世界。

我与Nvidia首席科学家Bill Dally谈到了这一点，他说公司通过结合一些研究支持的技术看到了很好的概括：即在训练集中结合实际数据和模拟数据，并使用领域适应技术，包括这个来自NIPS 2017基于耦合的GANS。(另请参阅第一次TWiML在线聚会上发表的相关Apple论文的讨论。)

令人印象深刻的是，就像Nvidia宣布为深度学习用户所做的那样，会议和主题演讲也提供了大量的图形，机器人和自动驾驶汽车用户，以及医疗保健，金融服务和石油等行业的用户和天然气。

正如我之前所写的那样，Nvidia在深度学习硬件领域并非没有挑战，但该公司似乎正在做所有正确的事情。我期待看到公司能够在未来12个月内实现这一目标。

这个故事最初出现在 本周的机器学习和人工智能 新闻通讯中。版权2018。

Sam Charrington是播客 本周机器学习和人工智能 (TWiML&AI)以及CloudPulse Strategies创始人的 主持人。