系统为物联网设备带来深度学习

深度学习无处不在。人工智能的这一分支负责管理您的社交媒体并提供您的Google搜索结果。不久，深度学习还可以检查您的体能或设置恒温器。麻省理工学院的研究人员开发了一种系统，该系统可以将深度学习神经网络引入新的甚至更小的地方，例如可穿戴医疗设备中的微型计算机芯片，家用电器以及构成“物联网”的2500亿其他物体(物联网)。

该系统称为MCUNet，它设计了紧凑的神经网络，尽管内存和处理能力有限，但它们为IoT设备上的深度学习提供了空前的速度和准确性。该技术可以促进物联网领域的扩展，同时节省能源并提高数据安全性。

物联网

物联网诞生于1980年代初期。卡内基·梅隆大学(Carnegie Mellon University)的研究生，包括迈克·卡扎尔(Mike Kazar '78)，将可乐机装到了互联网上。该小组的动机很简单：懒惰。他们想使用计算机来确认机器是否已存货，然后再从办公室徒步旅行进行购买。这是世界上第一台连接互联网的设备。微软工程师卡扎尔说：“这几乎被当成是玩笑的笑话。” “没有人期望互联网上有数十亿台设备。”

自该可乐机问世以来，日常物品已越来越多地联网到不断增长的物联网中。其中包括从可穿戴式心脏监护仪到智能冰箱的所有信息，这些信息可以告诉您何时喝低牛奶。物联网设备通常在微控制器上运行，这些微控制器是无操作系统的简单计算机芯片，具有最小的处理能力，并且内存不到典型智能手机的千分之一。因此，深度学习等模式识别任务很难在IoT设备上本地运行。对于复杂的分析，物联网收集的数据通常被发送到云中，使其容易受到黑客攻击。

汉说：“我们如何直接在这些小型设备上部署神经网络?这是一个新的研究领域，而且越来越热。” “像Google和ARM这样的公司都在朝这个方向努力。” 汉也是。

通过MCUNet，Han的小组对“微型深度学习”所需的两个组件进行了代码签名-微控制器上神经网络的操作。其中的一个组件是TinyEngine，这是一个类似于操作系统的引导引擎，用于指导资源管理。TinyEngine经过优化，可以运行特定的神经网络结构，该结构由MCUNet的其他组件TinyNAS(一种神经体系结构搜索算法)选择。

系统算法协同设计

为微控制器设计一个深度网络并不容易。现有的神经体系结构搜索技术从基于预定义模板的大量可能的网络结构开始，然后逐渐找到具有高精度和低成本的网络结构。尽管该方法有效，但并非最有效。Lin说：“它可以在GPU或智能手机上很好地工作。” “但是将这些技术直接应用于微型微控制器非常困难，因为它们太小了。”

因此，林开发了TinyNAS，这是一种神经体系结构搜索方法，可创建自定义大小的网络。Lin说：“我们有许多微控制器具有不同的功率容量和不同的存储器大小。” “因此，我们开发了算法[TinyNAS]，以优化不同微控制器的搜索空间。” TinyNAS的定制性质意味着它可以生成紧凑的神经网络，从而为给定的微控制器提供最佳性能-无需不必要的参数。Lin说：“然后，我们将最终的高效模型提供给微控制器。”