IBM捐赠机器学习工具以实现负责任的AI

IBM Corp. 向LF AI捐赠了三个开源人工智能开发工具包，这是Linux基金会内部维护开源机器学习工具的组织。

LF AI技术咨询委员会于本月初正式批准了此举。IBM当前正在将项目转移到组织中。

这三个工具箱各自具有不同的用途。一种旨在帮助开发人员消除AI项目中的偏见，而另一种则专注于保护神经网络并使其输出可解释，以便可以验证计算。

所述AI公平360工具包包括用于在机器学习项目的不同成分而减轻偏压近十算法。这些算法可以帮助修复AI模型处理的数据，模型本身以及作为输出提供的预测中的偏差。IBM还添加了一组评估指标，用于评估训练数据集，在开发过程中利用该训练数据集完善了神经网络的功能。

IBM委托给Linux Foundation的第二个项目称为Adversarial Robustness 360 Toolbox。它使开发人员能够使自己的AI模型更具弹性，以抵抗所谓的对抗攻击。在这种网络攻击中，黑客将恶意输入注入神经网络以触发错误。该项目包括用于强化模式的算法和开发人员可以用来测试其弹性的预打包攻击。

第三个工具包是AI Explainability 360 Toolkit，其目的是解决以下事实：由于神经网络固有的复杂性，解释AI为什么做出给定决策通常很困难。按照其他两个项目的模式，它包括用于将可解释性构建到模型中的预打包算法。也有代码示例，指南和文档。

解释AI如何得出特定结论的能力对于确保公平和验证模型的安全性都是非常重要的。对于在这两个领域工作的开发人员，AI Explainability 360 Toolkit可以帮助补充IBM捐赠给Linux基金会的其他项目。

IBM高管Todd Moore，Sriram Raghavan和Aleksandra Mojsilovic表示：“向LFAI捐赠这些项目将进一步推动创建负责任的AI技术的使命，并使更大的社区能够挺身而出并在Linux Foundation的治理下共同创建这些工具。在博客文章中写道。

IBM内部研究AI小组负责人Raghavan于5月出现在SiliconANGLE Media的视频工作室theCUBE中。他讨论了公司的机器学习策略以及公司如何将AI可解释性作为其工作的重点。

“我们将AI议程分为三部分：推进，信任和扩展AI，” Raghavan说道。“信任正在建立值得信赖的AI，这是可以解释的。您可以控制和了解它的行为，理解它以及它所伴随的所有技术。”