IBM推出新平台以解决AI决策中的偏见

IBM Corp.正在努力通过今天早些时候发布的新平台缓解基于人工智能的决策中的偏见问题，该平台可以告知人们AI模型如何得出结论。

该公司表示需要AI OpenScale，因为在做出最重要的决策时，相当多的企业根本不信任AI。主要问题是他们不确定自己的AI模型是否存在偏见。他们还希望对AI如何得出结论以及如何追踪其逻辑有更多的了解，IBM说。

偏差是AI应用程序黑盒性质的副产品，这些应用程序并不总是揭示其决策背后的逻辑。偏差可以引入训练数据以及机器学习逻辑中。消除这种像差可能是一项艰巨的数据科学练习。

在圣何塞的IBM Research Almaden研究中心的副总裁兼实验室主管Jeff Welser在周四接受SiliconANGLE采访时说，偏差并不总是容易被识别。“如果您拥有非常庞大的数据集，您甚至可能没有意识到数据对性别或您正在分析的内容略有偏见，” Welser说。

AI OpenScale平台(现已普遍提供)旨在通过算法来纠正偏差问题，该算法能够在运行中的所有AI应用程序中对其进行检测和纠正。

它通过持续监控AI应用程序并应用“自动去偏技术”来标记倾向于在机器学习模型中累积的偏见来工作。该软件记录每个预测，模型版本和所有培训数据，以帮助组织通过简单的英语解释来理解AI应用程序如何做出决策。

“因此，现在我们有了分析数据集的系统，并查看它们在特定特征集中是否被过多代表，” Welser说。“这可能是您对这些特征的训练过度。”

AI OpenScale通过使使用任何开源机器学习或深度学习模型构建的应用程序能够在任何通用环境上运行，还有助于简化AI模型的部署。其中包括IBM自己的Watson和PowerAI平台，Seldon开源框架，Amazon Web Services Inc.的SageMaker和Microsoft Corp.的AzureML等。

此外，该平台还配备了神经网络综合引擎，IBM称该引擎将使企业能够快速，自动地构建神经网络以从头开始运行AI。NeuNetS最初在AI OpenScale中作为beta功能提供，是为不具备工程能力来构建自己的神经网络的公司设计的。