可解释的人工智能如何帮助人类创新

人工智能(AI)领域已经创造出可以驾驶汽车，合成化合物，折叠蛋白质并以超人水平检测高能粒子的计算机。

但是，这些AI算法无法解释其决策背后的思维过程。一台掌握蛋白质折叠功能并告诉研究人员更多生物学规则的计算机比一台无需解释即可折叠蛋白质的计算机有用得多。

因此，像我这样的AI研究人员现在正在将精力转向开发可以以人类能够理解的方式进行自我解释的AI算法。如果我们能够做到这一点，我相信人工智能将能够发现并向人们传授尚未发现的关于世界的新事实，从而带来新的创新。

从经验中学习

AI的一个领域称为强化学习，研究计算机如何从自己的经验中学习。在强化学习中，人工智能可以探索世界，并根据其行为获得正面或负面的反馈。

这种方法导致算法可以独立学习超人水平的国际象棋并在没有任何人工指导的情况下证明数学定理。在我作为AI研究人员的工作中，我使用强化学习来创建AI算法，以学习如何解决诸如Rubik's Cube之类的难题。

通过强化学习，AI可以独立学习解决甚至人类都难以解决的问题。这使我和其他许多研究人员对AI可以学习的内容的思考减少了，对人类可以从AI中学习的知识的思考减少了。能够解决魔方的计算机也应该能够教人们如何解决它。