Salesforce在自然语言处理方面取得了重大进展

就在几年前，问电话一个问题来在Internet上查找信息几乎是不可能的，因为计算机并不能很好地理解少数几个短语。

现在，由于机器学习的进步，我们认为Google或Siri都无法很好地回答我们的查询。但是，这一进展是艰苦的，需要对非常具体的自然语言处理任务进行深入的培训，例如将文本翻译成语音，分析情感或理解代词引用。

这就是Salesforce.com Inc.研究人员认为他们已经开始解决的问题。今天，他们发布了一篇论文，概述了一种使用单一模型的方法，该模型可以一次处理10个单独的NLP任务。该论文本质上是一个挑战，简称自然语言十项全能(decathlon)或decaNLP，与“多任务问题回答网络”或MQAN模型结合使用，可以同时学习所有10个任务。

Salesforce首席科学家Richard Socher(如图)在采访中说：“我们的模型就像NLP的瑞士军刀。” 换句话说，研究人员和开发人员实质上可以使用一种工具，而不必为每个任务都使用一个工具，因为这些工具需要超定制化模型，而该模型无法用于任何其他任务。

最终，结果可能是功能更强大的聊天机器人，例如，可以更自然地与人交谈。

索赫(Socher)类似于ImageNet，这是他帮助开发的带标签图像数据库，被广泛认为是引发了深度学习的革命，该革命导致了图像识别方面的突破。 但是，没有一项任务可以类似地定义自然语言处理，其中包括诸如机器翻译，自然语言推理，面向目标的对话和代词解析之类的事情。Socher说：“在NLP中，实际上并没有一个单一的任务，所有研究人员都认为，如果您在此方面取得进展，它将整体上改善NLP。”

Salesforce研究人员(包括Bryan McCann，Nitish Shirish Keskar和Caiming Xiong)的方法是将这些任务中的每一个都作为问题解答。Socher解释说：“问题的答案是如此广泛-您可以问任何问题-它使您可以用一个模型来完成多个任务。”

MQAN允许进行所谓的“零镜头”学习，这意味着该模型可以处理以前从未见过的或经过培训可以完成的任务。麦肯说：“您正在将它应用于一项全新的任务，这是以前从未完成的。” “大多数模型对措辞或含义的细微变化都不够鲁棒。是我们的。即使从未见过这样的事情，它也可以做到。”他补充说，要使它扎根于世，聊天机器人可以使用并非完全已经学到的短语来做得更好，更像是人们如何交流。

McCann说，Salesforce正在开放该模型的采购，因此“人们可以在我们离开的地方接货。”

Salesforce提供了来自著名AI研究人员Yoshua Bengio的观点，该研究人员是蒙特利尔大学计算机科学与运筹学系教授，他曾与Socher在紧密的机器学习社区中合作。

他说：“自从大约二十年前我开始从事代表自然语言的词嵌入工作以来，我的目标是所有自然语言任务都应使用相同的表现形式。” “本文中将所有这些任务都表示为问题解答的想法至关重要，但这还不够。作者提出了十项自然语言十项全能法，以定义该目标的基准，并介绍了建筑创新，最终使这一梦想成为可能。”