Kyndi以可解释的AI突破黑匣子

就像一个十几岁的孩子有时做出错误的选择并且不能总是解释导致他们误入歧途的情绪一样，人工智能正在经历越来越大的痛苦。

尽管这个术语最初是由计算机科学家约翰·麦卡锡(John McCarthy)于1955年提出的，但直到八年前，更快的处理器和数据收集设备的爆炸大大推动了AI的发展，AI才真正流行起来。2011年，引入了苹果的语音助手Siri，IBM公司的Watson在一场问答比赛中击败了竞争对手，这激发了人们对AI提供的潜力的更大兴趣。

问题在于，使用AI创造的大部分东西，尤其是被称为深度学习的那种尝试帮助计算机像人类一样学习的东西，仍然仍然是个谜。随着传感器收集的信息流入庞大的人工神经元和算法网络，并产生结果，没人能确定机器是如何做出决定或采取特定行动的。

在当前的技术术语中，将AI封装在“黑匣子”中，这不一定是一件好事。

一家公司 -Kyndi Inc.- 已着手打开黑匣子并解释其中的内容。该公司正在构建其所谓的第一个“可解释的AI”平台，这是一种在AI神秘机背后提供可审计推理的方法。

Kyndi首席运营官艾米·瓜里诺(Amy Guarino)(如图)说：“你无法理解结果是什么。” “我们这样做的方式是，您可以追溯到实际的原始数据源，以确保它确实是正确的。”

瓜里诺在两次单独的采访中与位于加利福尼亚帕洛阿尔托的SiliconANGLE Media移动直播工作室CUBE主持人Peter Burris进行了交谈。他们讨论了Kyndi可解释的AI背后的技术，在受监管的行业之外采用其平台，越来越多的人担心深度学习可能无法迅速发展，以及瓜里诺从硅谷男性主导的走廊中多年的经验中学到了什么(见此处和此处的成绩单的完整访谈)。

本周，CUBE在其“科技女性”专题节目中聚焦了Amy Guarino。

从语言解析上下文

Kyndi使用语言解锁黑匣子。它的技术可吸收任何文本形式的文档，然后应用自然语言处理来解析术语和上下文。

然后，它可以从文档中提取结构并提供域灵活性，而黑匣子AI并不能做到这一点。Kyndi的平台也不需要大量的数据来训练其模型。该系统只能训练10到30个科学文件，每个文件最多50页。

瓜里诺说：“建立一个分类法时，您不必做很多工作。” “我们采取的方法实际上集中在语言上。”

该公司最初认为，其技术最广泛使用的应用将是在需要解释的受管制行业中。但是Kyndi发现，其从非结构化文本数据构建巨型知识图的过程在人力资源和营销等其他组织中具有吸引力。

瓜里诺说：“这对于任何类型的决策都是非常重要的，因为人们正在分配资源，他们必须解释原因。”

人工智能进展缓慢

Kyndi的方法出现之时，一些技术专家警告说AI可能会在其发展过程中碰壁。去年，纽约大学教授，对当前AI技术的长期批评家Gary Marcus发表了一份报告 ，公开质疑从深度学习中提取的模式是否真的那么深。

随着AI和机器学习应用的持续增长，这可能给许多企业带来麻烦。德勤全球(Deloitte Global)最近报告称，到明年，集成了AI的企业软件的渗透率将达到87%。

Kyndi自己与企业公司的讨论呼应了围绕AI的一些不确定性。瓜里诺(Guarino)最近与一家在水处理厂使用深度学习的公司进行了交谈，这一过程受到水质监管机构的质疑。

瓜里诺回忆说：“他们的客户说，'您需要向我们解释您在做什么以及为什么这么做。' “他们说，'我们不能。' 那是个问题。”

克服性别障碍

瓜里诺(Guarino)花了超过25年的时间指导客户销售组织。在加入Kyndi之前，她曾负责市场营销自动化软件公司Marketo Inc.的业务开发，该公司最近被Adobe Inc.以47.5亿美元的价格收购。

凭借她在硅谷的经验，瓜里诺非常了解在一个男性主导的行业中女性所面临的挑战。

瓜里诺说：“尤其是在科技领域，有很多情况你会走进销售组织，而其中80%到90%的人都是这样。” “这使女性很难加入这样的组织。”

肯迪(Kyndi)的首席运营官对妇女处于少数群体的环境并不陌生。瓜里诺大学(Guarino)在学校开始招收女性后的第10年，从圣母大学毕业。 当时她的班级比例是80%的男性和20%的女性。

在她的职业生涯中，瓜里诺(Guarino)对女性可以带给销售组织的优势有了更好的了解。“女性如何看待销售?” 瓜里诺问。“很多都集中在听力技巧上。女人确实具有天生的亲和力，能够倾听并真正退出，无论是潜在客户还是客户，对他们来说真正重要的是什么。”

许多科技公司面临的挑战是使员工队伍多样化并充分利用不同观点可能带来的技能和特质。瓜里诺说，这包括确保女性在公司领导层中有足够的代表。

瓜里诺说：“这可以在很大程度上改变公司文化的活力。” “期望您有不同类型的观点和查看客户获取，参与和支持的不同方法。当您有不同的看法和不同的看待事物的方式时，我们都可以互相帮助。”