FDA发布机器学习的医疗设备行为透明度指导原则

2024年6月13日美国食品和药品管理局（FDA）、加拿大卫生部（Health Canada）和英国药品监督管理局（MHRA）发布了机器学习医疗设备（MLMD）透明度指导原则。该原则是继2021年三个部门共同确定良好机器学习实践（GMLP）10项指导原则之后，发布的第二项相关文件。文件重点关注人工智能医疗器械的透明度，强调人类AI团队的表现和向用户提供清晰、必要的信息。开发商因该更详细的描述产品的预期用途、开发过程、性能，更多的公开和阐述机器学习模型如何通过训练数据得到预期结果及结果的可解释性等。

根据《MLMD行为透明度的指导原则》文件，FDA建议在考虑基于人工智能的医疗器械产品的透明度时可以从相关受众、动机、公开信息、在哪里（信息放置）、何时（计时）、如何（用于支持透明度的方法）这6个方面考虑。对于公开信息，FDA从传统的医疗器械设备描述信息，产品全生命周期开发和风险管理全流程信息、产品相关局限性和禁忌症、安全有效性信息等四方面给出了相关信息指导。各方面信息中都综合了典型的机器学习模型训练、评测等相关信息，充分体现了透明度原则对人工智能技术的理解和融合，具体的信息如下表1描述：

表1：基于人工智能医疗器械公开信息指导原则

信息主题	主要信息描述
设备描述信息	医疗目的和功能信息。对应的疾病或病症。目标用户。使用环境和目标人群。
产品开发和风险管理活动信息	底层技术和机器学习方法。对训练和测试数据表征。临床研究的摘要。模型和数据集特征。性能监控。检测和调查整个产品生命周期中的问题和风险。
临床相关的局限性、信息差距、禁忌症声明	已知的偏差或故障模式。与提供的输出关联的置信区间。数据表征中的已知差距。在开发模型或评估模型性能方面的限制。设备输入与用于开发和验证设备的数据不一致的已知情况或用例。
设备的安全性和有效性的信息	如何进行本地特定站点的验收测试或验证。持续性能监视计划。透明地报告成功和失败。变更管理策略。解决漏洞的积极主动方法。

在信息放置（信息输出）方面指导原则建议通过优化软件用户界面的方法，在充分考虑个性化、自适应、交互性和安全性前提下，结合多模态的信息输出，包括音频、视频、屏幕文本、警报、图表、文档库等，使信息的传达更能满足用户的需求。在支持透明度的方法上，要以人为本地充分考虑用户、环境和工作流程等因素，在整个设计和开发过程中，进行响应式和迭代式设计、验证、监控和通信交互。例如，为目标受众提供适当的详细信息级别，按重要性顺序排列内容等。

机器学习医疗设备（MLMD）透明度指导原则的发布，是FDA应对新的监管挑战的一项工作。众所周知，随着人工智能技术的发展，越来越多的医疗器械通过融入人工智能的方法，获得许多创新的能力，被越来越多的用于实际医疗过程中。据FDA 2024年5月13日的更新统计，FDA已授权882种支持AI/ML的医疗设备。其中2023年8月1日至2024年3月31日之间新审批增加的新设备有151个，另外还有40个是之前的设备通过进一步改进方法而进入列表。因此对人工智能医疗器械的监管也逐步受到了各国监管机构的重视。在今年早些时候的一次采访中，FDA官员曾表示如何将人工智能融入已经存在了多年的监管体系，是一个非常具有挑战性的话题，因为这些监管体系并没有真正考虑到人工智能是一项快速变化和发展的技术。FDA此次指导原则的发布既促进了人工智能医疗器械的监管，也为产品开发商规范开发和算法数据应用给出了关注重点。

主要参考文献：

[1]https://www.fda.gov/medical-devices/software-medical-device-samd/transparency-machine-learning-enabled-medical-devices-guiding-principles 20240730

[2]https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices 20240730

[3]https://www.medtechdive.com/news/stronger-oversight-of-ai-needed-in-medical-devices-ecri-ceo-says/718061/ 20240730

[4]https://www.fda.gov/medical-devices/software-medical-device-samd/good-machine-learning-practice-medical-device-development-guiding-principles 20240730