何时介入的自动化医疗系统

近年来，依靠人工与自动化软件之间微妙的相互作用，出现了整个行业。像Facebook这样的公司致力于结合使用自动过滤和人工主持人，将仇恨和暴力内容拒之门外。在医学领域，麻省理工学院和其他地方的研究人员已经使用机器学习来帮助放射科医生更好地检测不同形式的癌症。

这些混合方法的棘手之处在于了解何时依赖人员与程序的专业知识。这不总是一个问题，谁可以更好地完成任务?实际上，如果一个人的带宽有限，则可能必须对系统进行培训，以最大程度地减少寻求帮助的频率。

为了解决这个复杂的问题，麻省理工学院计算机科学与人工智能实验室(CSAIL)的研究人员开发了一种机器学习系统，该系统可以对任务进行预测，也可以将决策推迟给专家。最重要的是，它可以根据队友的可用性和经验水平等因素，适应何时何地根据其人类协作者进行调整。

该团队对系统进行了多项任务培训，包括查看胸部X射线以诊断特定状况，例如肺不张(肺塌陷)和心脏肥大(心脏扩大)。在心脏肥大的情况下，他们发现他们的人-AI混合模型比任何一个单独的模型(根据AU-ROC分数)的性能要好8%。

博士说：“在医生没有太多额外周期的医疗环境中，让他们查看给定患者档案中的每个数据点并不是最佳的时间利用方式。” 学生侯赛因·莫赞纳尔(Hussein Mozannar)，电气工程与计算机科学系冯·亥姆霍兹大学医学工程副教授戴维·桑塔格(David Sontag)的主要作者，该论文最近在国际机器学习国际会议上发表。“在这种情况下，使系统对他们的时间特别敏感，并且仅在绝对必要时才寻求帮助非常重要。”

该系统由两部分组成：一个“分类器”，可以预测任务的某个子集;“拒绝器”，它确定给定任务是应由其自己的分类器还是由专家来处理。

通过对医学诊断和文本/图像分类任务的实验，该团队表明，他们的方法不仅获得了比基线更高的准确性，而且以更低的计算成本和更少的训练数据样本实现了这一目标。

麻省理工学院医学工程与科学研究所成员Sontag表示：“我们的算法可让您针对所需的任何选择进行优化，无论是特定的预测准确性还是专家的时间和精力成本。” “此外，通过解释学习到的拒绝者，该系统可以洞察专家如何做出决定，以及在哪些设置中AI可能更合适，反之亦然。”

该系统具有帮助检测令人反感的文字和图像的特殊功能，对内容审核也具有有趣的意义。Mozanner建议与一些人类主持人一起在Facebook之类的公司中使用它。(他希望这样的系统可以减少主持人每天必须审查的仇恨或创伤性帖子的数量。)

Sontag澄清说，该团队尚未与人类专家测试该系统，而是开发了一系列“综合专家”，以便他们可以调整经验和可用性等参数。为了与以前从未见过的新专家一起工作，该系统将需要最少的入门培训，以接受有关该人的特殊优点和缺点的培训。