IBM对AI的未来发展更多的信任更少的偏见和巨大的推动力

IBM公司以其在人工智能方面的开拓性工作而闻名，甚至在其Watson计算机击败几个“ Jeopardy”冠军之前数十年。但是近年来，它的工作至少在公众的想象中被新的AI驱动的语音和图像识别服务以及Google LLC，Microsoft Corp.和Facebook Inc.等公司的自动驾驶汽车所掩盖。

今天，这家经验丰富的科技公司在博客文章中重点介绍了其研究人员今年发表的有关人工智能和机器学习的100多篇论文中的几篇。他们广泛地关注先进技术，扩展AI系统并试图增加对因缺乏透明度和偏见问题而受到政府和消费者的抨击的AI系统的信任。

SiliconANGLE与位于圣何塞的IBM Research Almaden研究中心的副总裁兼实验室主任Jeff Welser进行了交谈， 探讨了IBM正在进行的工作，在AI工作中面临的挑战以及研究人员认为2019年及以后的发展的一些精选示例。这是对话的编辑版本。

问：通过相对较少的示例，深度学习或可以像人类一样学习的其他AI系统的前景如何?

答：这是一个挑战。但是，当我们思考人们的学习方式时，小时候您会得到一些汽车的例子，而妈妈说这是一辆汽车，并提供了一些带有标签的例子。但是实际上您会看到很多很多汽车，因此您会得到很多未贴标签的示例，这有助于您定义组成一辆汽车的所有参数和功能。

但是到了某个时候，您确实发现了与众不同的东西，例如非常大的东西，然后您会问“这是汽车吗?” 妈妈说：“不，那是卡车。” 因此，立即转到该示例，您会看到参数何时达到一定水平，我现在知道这是一辆卡车，您会立即看到很多卡车的示例，而您的大脑真的很擅长对这两种卡车进行分类。

这就是我们要进行的一击或几击学习。我们正在减少标记的数据，并帮助系统进行推断，以便它可以识别与之相关的新事物。最终，您希望系统知道询问。我们现在处理它的方式是尝试做一些事情，例如提供置信度。但这与知道不知道的东西不同。

问：还有其他方法可以减少对如此多数据的烦恼吗?

答：我们也在寻找可以自动标记很多图像样本的方法。甚至甚至可以通过对可能相似的图像进行聚类并询问“这些对吗?”来帮助人们更快地进行标记的系统。我们在自然语言处理中做了很多工作。

问：除了深度学习，您还在寻找什么方法?

答：人们对基于规则的非结构化数据分析有了新的兴趣。神经网络的挑战之一是它可能是一个黑匣子。例如，我们并不总是确切地了解神经网络学习了哪些功能，以使其了解汽车，例如，这使得很难知道何时或为什么会出错。 一件事是，我们可以更好地分析神经网络，以了解它们实际上是在做出哪些决策。

但是第二件事是，我们应该回到一些基于规则的工作吗?尝试并告诉系统存在常识的事物，例如水被弄湿了，水会留在碗里。

弄清楚是否可以将它们组合起来会引起一些兴趣。甚至我们使用的某些系统都可以做到这一点-文本分析系统System C非常基于规则。深度学习进一步增强了它。我们发现的一件事是，在某些情况下，尽管基于规则的系统更难构建和维护，但它们可能更健壮。

问：研究人员还希望突破AI的黑盒子吗?

答：一种方法是您可以查看神经网络内部并分析所呈现的各种功能似乎激发了哪些神经元。如果是视频，神经网络的这一部分是否会对角或边缘或运动变化做出响应?然后从中推断出真正触发响应的是什么。如果它触发了一些奇怪的事情，也许这表明我们应该研究一些事情。

我在阿尔玛登(Almaden)有一个小组，从事更多的投机工作，以分析神经网络并提取其实际使用的规则。这更具挑战性，但很有趣，因为它可能将两者联系在一起。

问：您正在采取什么措施减少AI的偏见?

我们正在使用大量数据对神经网络进行大量测试。当您谈论偏见时，这显然成为一个问题。如果您有非常庞大的数据集，您甚至可能没有意识到数据在性别或您正在分析的内容上略有偏见

因此，现在我们有了系统来分析数据集，并查看它在此特定特征集中是否被过度代表。可能是您对这些特征的训练过度。有些东西很容易：如果您要分析人，请确保男女人数相等。

这不会一one而就。数据变化以及事物将要发生变化。今年早些时候，我们发布了AI偏差工具包-我们推荐的技术和流程。

问：您如何看待政府在人工智能中的作用?甚至微软最近也呼吁联邦政府帮助确定标准。

答：作为一个行业，我们正在就这些标准进行合作。我们要确保我们不会在不希望使用AI的方向上使用AI。未来生活研究院是研究AI如何影响社会未来的一群人。

问：我们可以让人类陷入AI的循环吗?

答：有两部分。在培训系统方面，人总是处于循环之中。我们正在使用各种工具，这些工具可以帮助平衡我们正在谈论的机器在超大规模上可以做什么以及人类可以做什么来确保机器向正确的方向行驶。

当我们谈论使用系统时，这是相似的。目的是弄清楚AI如何在工作流程中大规模自动化事物，这对于一个人来说是很难做到的。但是，然后它应该以一种使人可以做自己擅长的方式来呈现信息，即首先了解目标是什么，权衡常识性决策并了解机器是否有信心有信心，该人是否应该深入研究并弄清楚答案的产生方式。我们希望与机器的伙伴关系很容易。

问：明年您将跟踪AI的哪些趋势?

答：一个是受信任的AI将成为中心舞台。我们已经看到了。它将变得不那么容易思考了。您从一开始就选择要训练的数据。确保您是从下而上构建系统的……以便获得答案的人知道它的来源。信任必须成为2019年培训，部署和使用AI的重要组成部分。

下一个更具投机性，我们将在2019年解决，但将在以下方面取得进展：因果关系将取代相关性。大数据分析基本上可以识别相关性，例如与猫相关的[图像]特征。例如，当您尝试在诊断中找出疾病时，这一点就显得尤为重要。公鸡的乌鸦并没有引起太阳升起，它与太阳相关，但是开关确实会点亮灯。但是今天的AI确实很难确定因果关系。我们希望致力于理解AI中的因果关系。

问：IBM正在从事此领域的哪些项目?

答：我们正在化学领域进行研究，以了解会产生什么样的新分子—了解化学反应，以便AI不仅暗示随机分子，还暗示可能实际起作用的分子。在其他实验室的其他领域中也发生了类似的事情。

问：来年还有其他趋势吗?

答：一个领域是最遥远的领域，但我们肯定会在2019年看到进展的领域是应用于AI的量子计算的整个领域。总体而言，量子计算一直在加速发展，我认为在未来几年中，我们将从加密和加密转向其他应用程序，而其他应用程序可能会更快地产生影响。

这些领域是化学方面的模拟，金融行业中可能遇到的优化问题以及越来越多的机器学习。在AI中，您通常需要建立一个非常高的尺寸状态，查看许多参数上的大量数据，然后找出如何分离出正确的参数。量子计算机非常擅长生成高维状态。这些问题非常适合我们现在拥有的量子计算机。

问：近年来，关于谷歌，Facebook和微软等公司将人工智能应用于消费者问题的信息，我们听到的更多，但是对于IBM在面向消费者的AI方面工作较少的了解却很少。这是为什么?

答：消费者方面更加可见，谈论甚至实施起来也更加容易……就像推荐产品一样，这是一项非常具体的任务。我们正在尝试找出真正更广泛地推进AI的方法。我们希望为所有人提供帮助……无论是医疗保健，金融行业乃至社会事务：更好地解释IoT传感器中的数据，更好地控制您的工厂或房屋，或解决污染问题。