您现在的位置是:首页 >互联网 > 2020-11-05 11:40:17 来源:
Oracle发布GraphPipe这是用于部署AI模型的开源工具
大型科技公司会定期开源内部软件项目,但是在这种情况下,Oracle Corp.的名字并不经常出现。今天标志着这些场合之一。
数据库巨头今天早上发布了GraphPipe,这是一种用于简化机器学习模型部署的工具。该项目的开发由开源专家Oracle云架构师Vish Abrams领导,他曾在NASA工作,是创建OpenStack数据中心操作系统的团队的成员。
GraphPipe旨在解决艾布拉姆斯在公告中描述的市场缺口。他写道,目前有许多用于构建机器学习模型的工具,但是很少有可以帮助开发人员部署它们的工具。特别是,GraphPipe致力于简化将人工智能连接到将使用人工智能的应用程序的过程。
艾布拉姆斯解释说,由TensorFlow等AI框架提供的用于处理任务的机制通常很慢且效率低下。因此,许多开发团队发现自己不得不编写自定义代码。但是由于大型AI项目的复杂性,实现必要的逻辑可能很困难。
输入GraphPipe。该项目提供了一种“标准的高性能协议”,用于将数据从神经网络传输到应用程序,再传输回应用程序。艾布拉姆斯认为,它对于复杂的项目特别有用,在复杂的项目中,多个应用程序使用单个AI模型,反之亦然。
“如果营销人员想要使用财务小组制作的模型,则他们将不得不编写自定义客户以与该模型进行交互。如果该模型变得流行[并且]销售人员也希望使用它,那么自定义部署可能会在负载下破裂。”艾布拉姆斯写道。
他解释说:“标准允许研究人员使用他们想要的任何工具来构建最佳模型,并确保用户无需定制代码就可以访问其模型的预测。模型可以部署在多台服务器上,并且可以使用通用协议轻松聚合成更大的集合。”
Oracle用GraphPipe吹捧的另一个大好处是性能。在公司进行的内部测试中,该工具被证明比现有方法更快地处理了对AI模型的请求。
Graphpipe在发布时支持五种流行的AI框架:TensorFlow,Microsoft Corp.的CNTK,PyTorch,mxnet和caffe2。Oracle已在GitHub上提供了该代码以及一系列开发人员资源,以帮助采用者熟悉该工具。