公司经理可能会受益于机器学习算法的透明度

在当今的商业世界中，机器学习算法越来越多地应用于影响就业、教育和获得信贷的决策过程。但公司通常对算法保密，理由是用户担心游戏会损害算法的预测能力。随着要求公司使其算法透明的呼声越来越高，一项新的研究开发了一种分析模型来比较有和没有这种透明度的公司的利润。该研究得出结论，算法透明度既有好处，也有风险。

该研究由卡内基梅隆大学 (CMU) 和密歇根大学的研究人员进行，发表在《管理科学》杂志上。

“当管理者面临提高透明度的呼声时，我们的研究结果可以帮助他们做出有利于公司的决策，”该研究的合著者、CMU 泰珀商学院商业技术和营销学教授 Param Vir Singh 说。

研究人员通过开发和分析一个博弈论模型来研究算法透明度如何影响公司和求职者(也称为代理人)，该模型捕捉了双方在不透明和透明场景下的行为方式。在这样做的过程中，作者试图回答四个问题：1)从公司(决策者)的角度来看，即使算法可以被代理操纵，使算法透明是否有优势?2) 如果公司让他们的算法透明化，代理会受到怎样的影响?3) 那些更容易受到代理博弈影响的特征的预测能力如何影响结果?4) 市场构成(就合意和不合意的代理人而言)如何影响这些结果?

该研究得出结论，算法透明度可能对经理和公司产生积极影响，对代理人产生负面影响。在广泛的条件下，透明度有利于公司，使他们能够激励代理人投资改进对公司有价值的特征，并在某些情况下提高算法的预测能力。这挑战了让算法透明总是会在经济上损害公司的传统观念。

但该研究还得出结论，在算法透明的情况下，代理可能并不总是更好。公司使用算法将高类型(更理想)的代理与低类型(不太理想)的代理分开。这些算法使用理想的特征(即直接影响公司绩效的因果特征，例如在招聘的情况下接受的相关教育或培训)和通常可玩的相关特征(即与代理人类型相关但不影响公司的业绩，比如认为高类型的代理商可能更可能戴眼镜)。

当公司不透明算法使用的相关特征为他们提供分类优势时，高级代理可以避免对公司所需的昂贵特征投资不足。当一家公司将其算法透明化时，所有代理都会在相关特征上进行博弈，相关特征的预测能力就会消失。结果，高级代理必须投资于成本高昂的理想功能，以将自己与低级代理区分开来。

“我们的分析表明，企业在面对战略性个人时，不应总是担心在透明度下可能丧失预测能力，”博士 Qiaochu Wang 说。CMU泰珀商学院商业技术专业的学生，​​他是该研究的合著者。“相反，他们可以使用算法透明度作为杠杆来激励代理投资于更理想的功能。”

作者指出，这项研究的局限性之一是，虽然它显示了透明算法可以给公司带来的经济利益，但公司可能有一些原因不想让他们的算法透明。这些原因——包括隐私和竞争——在研究中没有得到解决。

CMU 商业技术副教授 Yan Huang 指出：“我们的模型侧重于招聘场景，其结果可推广到公司试图进一步了解或了解个人私人信息的其他场景。”泰珀商学院是这项研究的合著者。