探索深度神经网络中的快捷学习概念

在过去的几年中，人工智能(AI)工具(尤其是深度神经网络)在许多任务上取得了显著成果。但是，最近的研究发现这些计算技术具有许多局限性。在最近发表于《自然机器智能》上的一篇论文中，蒂宾根大学和多伦多大学的研究人员探索并讨论了一种称为“捷径学习”的问题，该问题似乎是近年来发现的许多深度神经网络缺点的基础。

进行这项研究的研究人员之一罗伯特·盖洛斯(Robert Geirhos)告诉TechXplore表示：“我决定与亲爱的同事，我的朋友克劳迪奥·麦可利斯(Claudio Michaelis)一起在进行与科学有关的旅行，着手进行这个项目。” “我们首先参加了一次深度学习会议，然后参观了一个动物研究实验室，最后一次是人类视觉会议。令人惊讶的是，我们注意到在非常不同的环境中出现了相同的模式：“捷径学习”或“作弊”出现了。成为人工智能和生物智能的共同特征。”

Geirhos和Michaelis认为，他们观察到的现象即快捷学习可以解释许多深度神经网络的出色性能和标志性故障之间的差异。为了进一步研究这个想法，他们与其他同事合作，

研究人员各自以独特的方式为研究做出了贡献，并与他们的专业领域保持一致，从神经科学到机器学习和心理物理学。他们的论文包括在机器和动物中进行快捷学习和作弊的示例，例如，深度神经网络的特定故障，以及在实验中“作弊”老鼠和在考试中作弊的学生。

盖洛斯说：“我们希望我们的观点能很好地介绍这个问题，并鼓励采用更强大，更合适的测试方法来防止在将高级能力归因于机器之前作弊。” “鉴于这篇文章是一种观点，我们借鉴了众多作者撰写的许多精彩文章，每篇文章都为这一难题做出了贡献。对我个人而言，重要的先驱是我在ICLR和VSS会议上提出的项目，发现神经网络中的纹理偏差-一种快捷学习的实例。”

捷径学习一词描述了机器尝试识别最简单的解决方案或解决给定问题的“捷径”的过程。例如，深度神经网络可以认识到特定的纹理补丁或对象(例如汽车轮胎)的一部分通常足以使它们预测图像中汽车的存在，并因此可以开始预测物体的存在。即使仅包含汽车轮胎，也可以在图像中显示汽车。