降低AI和基于机器学习的医疗技术的风险

人工智能和机器学习(AI / ML)日益改变着医疗保健行业。从发现恶性肿瘤到读取CT扫描和乳房X线照片，基于AI / ML的技术比传统设备(甚至是最好的医生)更快，更准确。但是，随之而来的是新的风险和监管挑战。

INSEAD决策科学助理教授鲍里斯·巴比奇(Boris Babic)最近在《科学》杂志上发表了最新文章“医学领域的监管锁定算法” 。INSEAD决策科学与技术管理教授Theodoros Evgeniou;哈佛大学法学院Petrie-Flom卫生法政策，生物技术和生物伦理学研究中心的研究员Sara Gerke;哈佛大学法学院教授兼Petrie-Flom中心教务主任I. Glenn Cohen着眼于监管机构应对AI / ML陌生途径的新挑战。

他们考虑以下问题：在开发和实施AI / ML设备时，我们面临哪些新风险?应该如何管理它们?监管机构需要关注哪些因素才能确保以最小的风险实现最大价值?

到目前为止，食品药品监督管理局(FDA)等监管机构已批准具有“锁定算法”的基于医学AI / ML的软件，即每次提供相同结果且不会随使用而改变的算法。但是，大多数AI / ML技术的关键优势和潜在优势来自其随着模型对新数据的学习而发展的能力。由于AI / ML的缘故，这些“自适应算法”成为可能，从而创建了本质上为学习型医疗保健系统的系统，其中研究与实践之间的界限是多孔的。

鉴于此自适应系统的巨大价值，当今的监管者面临的一个基本问题是，授权是否应仅限于已提交并评估为安全有效的技术版本，或者它们是否允许将更大价值的算法推向市场。可以从该技术的学习能力和适应新条件中找到。

作者深入研究了与此更新问题相关的风险，考虑了需要重点关注的特定领域以及解决挑战的方式。

他们说，强有力的监管的关键是要优先进行持续的风险监测。

这组作者说：“为了管理风险，监管者应该特别关注持续监控和风险评估，而不是计划将来的算法变更。”

随着监管机构的向前发展，作者建议他们开发新的流程，以不断监控，识别和管理相关风险。他们提出了可能有助于此目的的关键元素，并且将