随着人工智能化浪潮来袭，医疗器械行业迎来“变革期”，各种类型的新型人工智能医疗器械如雨后春笋般纷纷冒出，为临床医疗水平的提升打下了夯实的基础。但与此同时，由于相关审查制度的暂时缺位，导致许多医疗器械厂商为了牟利而大打“擦边球”。

　　再生医学网获悉，近日，国家药监局器审中心发布了《人工智能医疗器械注册审查指导原则》。今天，就让我们来对该《原则》进行分析解读。

　　一、指导原则框架

　　《人工智能医疗器械注册审查指导原则》（以下简称《指导原则》）主要是基于深度学习的审评要点，同时结合了审评工作中的经验，参考国际监管进展，综合制定出台。

　　《指导原则》从三个方面介绍了智能医疗企业监管的三条基本原则，从五个方面介绍了人工智能医疗器械的生存周期过程要求，从十六个方面的专题设计了技术考量。

　　《指导原则》主要是在深度学习软件审批要点的基础之上进行了进一步细化，并且新增部分内容说明。一是要求更为细致，主要体现在人工智能医疗器械类型、人工智能医疗器械生存周期过程、自动标注、在线标注、算法性能评估结果比较分析、算法性能综合评价、迁移学习、第三方数据库、白盒算法、注册申报资料补充说明等方面；二是内容更为全面，新增压力测试、对抗测试、生成对抗网络、集成学习、强化学习、联邦学习、持续学习/自适应学习、人工智能算法框架、人工智能芯片、注册单元与检测单元、算法研究资料、人因与可用性等说明。

　　二、重点内容解读

　　（一）适用条件

　　《指导原则》适用于人工智能医疗器械的注册申报，包括第二类、第三类人工智能独立软件和含有人工智能软件组件的医疗器械（包括体外诊断器械），也适用于自研软件的注册申报，现成软件组件参照执行，不适用于外部软件环境。因此，《指导原则》取代了《深度学习辅助决策医疗器械软件审评要点》非临床部分的要求，可用作人工智能医疗器械体系核查的参考，质量管理软件若采用人工智能技术亦可参考适用要求。

　　（二）基本原则

　　1、基于算法特性

　　人工智能算法的类型不同，其算法特性、适用场景也不同，评价重点亦有所侧重；同时，不同类型的人工智能算法可组合使用，需结合各算法特性和算法组合形式进行整体评价。需重点关注算法泛化能力、数据质量控制，兼顾算力不足与失效的影响。

　　2、风险导向

　　人工智能医疗器械的风险水平用软件安全性级别进行表述，基于产品的预期用途、使用场景、核心功能进行综合判定，监管要求取决于软件安全性级别（轻微＜中等<严重）。

　　人工智能医疗器械的主要风险从算法角度包括过拟合和欠拟合，从用途角度主要包括假阴性和假阳性，其中假阴性即漏诊，可能导致后续诊疗活动延误，特别是要考虑快速进展疾病的诊疗活动延误风险，而假阳性即误诊，可能导致后续不必要的诊疗活动。此外，进口人工智能医疗器械还需考虑中外差异风险，如人种、流行病学特征、临床诊疗规范等差异。

　　3、全生命周期质控

　　重点关注技术审评、体系核查、不良事件监测、产品召回要求，进行全生命周一条线的质控。

　　（三）主要概念

　　1、人工智能医疗器械

　　人工智能医疗器械是基于“医疗器械数据”，采用人工智能技术实现其预期用途（即医疗用途）的医疗器械。医疗器械数据是指医疗器械产生的用于医疗用途的客观数据；基于医疗器械数据包括医疗器械数据的生成、使用等情况。

　　人工智能是指机器表现出与人类智能相关行为的能力，通常是指通过感知周围环境做出合理行动以达到预期目标的计算机软件或系统。机器学习是指与人类学习行为相关的人工智能，通常是指通过整理现有数据和/或获取新数据以提升性能的计算机软件或系统。机器学习虽是人工智能的子集，但却为人工智能的核心领域，当前二者对于医疗器械而言含义基本相同。

　　此外，基于知识管理的医学人工智能产品不属于人工智能医疗器械。

　　2、人工智能医疗器械类型

　　从医疗器械软件角度，人工智能医疗器械可分为人工智能独立软件和人工智能软件组件。

　　人工智能医疗器械从用途角度可分为辅助决策类和非辅助决策类。其中，辅助决策是指通过提供诊疗活动建议辅助用户进行医疗决策，相当于用户的“助手”。反之，仅提供医疗参考信息而不进行医疗决策即为非辅助决策，相当于用户的“工具”。

　　人工智能医疗器械从功能角度大体上可分为处理功能、控制功能、安全功能。其中，处理功能又可分为前处理功能和后处理功能，前处理功能是指采集人体解剖、生理信息生成医疗器械数据过程的处理功能，如成像流程简化、成像质量改善、成像速度提高等；后处理功能是指利用医疗器械数据生成诊疗信息或进行医疗干预过程的处理功能，如诊疗流程简化、自动测量等。控制功能是指控制/驱动医疗器械硬件运行的功能，如闭环控制、机械臂运动控制等。安全功能是指保证医疗器械安全性的功能，如风险预警、急停控制等。

　　（四）人工智能医疗器械生存周期过程

　　有监督深度学习是当前人工智能医疗器械的主流算法，故《指导原则》以有监督深度学习为例详述人工智能医疗器械生存周期过程质控要求，其他类型的人工智能算法可参照执行。主要环节包括需求分析、数据收集、算法设计、验证与确认、更新控制等阶段，需重点关注体系记录、数据质控、算法更新、算法可追溯分析，增强透明度。

　　此外，人工智能医疗器械所含的每个人工智能算法或算法组合，均需独立开展质控活动，同时考虑人工智能算法组合的整体评价要求，以保证产品的安全有效性。前期已开发的人工智能医疗器械若不满足本指导原则的适用要求，应开展差距分析并予以记录，明确产品使用限制和必要警示提示信息。必要时采取补救措施，以满足质量管理体系要求，并保证产品的安全有效性。

　　（五）技术考量

　　1、注册单元与检测单元

　　人工智能医疗器械的注册单元与检测单元划分原则详见医疗器械软件指导原则，人工智能独立软件、人工智能软件组件分别参照独立软件、软件组件的要求。

　　若软件核心功能（即软件在预期使用场景完成预期用途所必需的功能）相同，但核心算法（即实现软件核心功能所必需的算法）类型不同，则每类核心算法所对应的核心功能均需检测，即检测对象为核心功能而非核心算法。

　　2、网络安全与数据安全

　　数据转移需明确转移方法、数据污染防护措施、数据销毁等要求。数据整理、数据集构建、算法训练、算法性能评估、软件验证等内部活动需在封闭或受控的网络环境下开展以防止数据污染。数据标注、软件确认等涉及外方的活动需明确数据污染防护措施，特别是在开放网络环境下。各数据库（集）均需进行数据备份，明确备份的方法、频次、数据恢复方法。数据采集、上市后使用需考虑医疗机构关于网络安全与数据安全的接口要求。

　　3、移动计算与云计算

　　人工智能医疗器械若使用移动计算、云计算等技术，则遵循相关指导原则要求。具体而言，移动计算相关要求详见移动医疗器械指导原则，云计算相关要求详见医疗器械软件指导原则，移动计算与云计算的网络安全相关要求详见医疗器械网络安全指导原则。

　　4、人因与可用性

　　建议加强人工智能医疗器械的人因设计以提升可用性，将用户错误使用的风险降至可接受水平，特别是软件用户界面。具体要求详见医疗器械人因设计相关指导原则。

　　5、白盒算法

　　白盒算法的特征提取需要人为干预，可与现有医学知识建立关联，可解释性高，通常为基于模型的算法。对于此类算法，有监督学习的模型/数据质控要求参照有监督深度学习执行，不适用内容详述理由并予以记录。同理，无监督学习的模型/数据质控要求亦参照有监督深度学习执行，其中数据标注不适用，其余不适用内容详述理由并予以记录。

　　此类算法无论有监督学习还是无监督学习，均需明确特征信息，如特征分类（如人口统计学、生物学、形态学）、特征属性（如形态、纹理、性质、尺寸、边界）、特征展现方式（如形状、尺寸、边界、颜色、数量）等信息。

　　6、压力测试与对抗测试

　　压力测试是指采用罕见或特殊的真实数据样本开展的算法性能测试，侧重于评估算法泛化能力的极限。注册申请人需根据产品实际情况开展压力测试，以全面深入评估算法性能，必要时可引入对抗样本开展对抗压力测试。若未开展相应测试或测试结果不佳，均需对产品的适用范围、使用场景、核心功能进行必要限制，并在说明书中明确产品使用限制和必要警示提示信息。

　　对抗测试是指基于真实数据样本利用数据扰动、生成对抗网络等技术产生对抗样本，并采用对抗样本开展的算法性能测试，侧重于评估算法的鲁棒性/健壮性若条件具备，建议注册申请人开展对抗测试，以全面深入评估算法性能。若未开展相应测试或测试结果不佳，均需明确产品使用限制和必要警示提示信息。

　　7、人工智能新技术

　　人工智能算法包括集成学习、迁移学习、强化学习、联邦学习等，需要明确算法的名称、类型、输入输出、流程图、运行环境等基本信息以及算法选用依据。并且根据算法类型及算法特性提供算法验证与确认（或系统与用户测试）资料。

　　此外，还包括持续学习/自适应学习。用户亦成为产品开发者，需与注册申请人共同承担产品质量责任和法律责任；同时，此种更新对于产品安全有效性的影响具有高度不确定性，特别是基于数据的无监督学习。

　　因此，在当前法律法规体系和技术水平条件下，持续学习/自适应学习应关闭自学习功能，或者虽开放自学习功能但不得投入使用，即用户始终使用产品原有功能，自学习功能仅用于算法训练或医学科研。

　　注册申请人应按照质量管理体系要求，对自学习功能所产生的产品更新的安全有效性进行验证与确认，必要时申请变更注册，待批准后方能将自学习功能所产生的产品更新投入使用。

　　8、算法编程框架与人工智能芯片

　　算法编程框架从开发者角度可分为自研算法框架和现成算法框架，其中自研算法框架即注册申请人自行研发的人工智能算法框架，属于自研软件；现成算法框架是指注册申请人所使用的由第三方开发的人工智能算法框架，视为现成软件，现成算法框架开发者视为医疗器械供应商。

　　算法框架更新包括产品更新、版本更新、补丁更新，其中产品更新、非效率型版本更新对于人工智能医疗器械而言属于重大软件更新，效率型版本更新、补丁更新对于人工智能医疗器械而言通常属于轻微软件更新，除非影响到人工智能医疗器械的安全性或有效性。

　　人工智能芯片作为计算资源的组成部分，本身不属于监管对象，根据其所属的计算平台类型考虑监管要求。对于独立软件，人工智能芯片作为通用计算平台的组成部分，不属于产品结构组成，按照运行环境予以考虑。对于软件组件，人工智能芯片作为医用计算平台的组成部分，属于产品结构组成，与产品进行整体评价。

　　9、第三方数据库

　　第三方数据库可用于算法性能评估，但其类型、用途等情况各不相同，未必能够完全满足软件确认测试的要求。因此，使用第三方数据库进行软件确认测试，需评估其满足软件确认测试的充分性、适宜性和有效性。

　　可用于软件确认测试的第三方数据库即为测评数据库。测评数据库除满足数据库通用要求（如数据管理、网络安全与数据安全、可扩展性）外，还应满足权威性、科学性、规范性、多样性、封闭性、动态性等专用要求。

　　基于测评数据库，利用数据扰动、生成对抗网络等技术，可衍生出对抗测评数据库。若条件具备，建议基于测评数据库建设对抗测评数据库，以全面深入评价算法性能。

　　公开数据库因不具备封闭性而不能用作测评数据库，但可用于算法性能评估，若用于算法训练需重新进行质量评估。使用公开数据库需根据其使用情况开展必要评估工作，并在注册申报资料中予以说明。

　　（六）算法研究资料

　　算法研究报告适用于人工智能算法或算法组合的初次发布和再次发布，包括算法基本信息、算法风险管理、算法需求规范、数据质控、算法训练、算法验证与确认、算法可追溯性分析、结论等内容，不适用内容详述理由。

　　算法更新研究报告仅适用于人工智能算法或算法组合的再次发布，在算法研究报告相应内容中明确算法更新情况。考虑到算法更新具有累积效应，算法更新研究报告需涵盖人工智能医疗器械自前次注册（延续注册除外）以来算法更新的全部内容。

　　（七）注册申报资料补充说明

　　注册申报资料在符合医疗器械注册申报资料要求等文件要求基础上，满足医疗器械软件、医疗器械网络安全、移动医疗器械等相关指导原则要求，同时重点关注以下要求。

　　1、产品注册

　　一是注册证信息：包括人工智能独立软件/人工智能软件组件、产品名称、结构组成（体现人工智能算法名称）、适用范围。

　　二是研究资料：对于软件安全性级别为中等、严重级别的产品，全新类型在软件研究资料中以算法为单位，提交每个人工智能算法或算法组合的算法研究报告；成熟类型在软件研究资料中明确算法基本信息即可，无需提供算法研究资料。

　　三是用户培训方案：对于软件安全性级别为严重级别、预期由患者使用或在基层医疗机构使用的产品，原则上需单独提供一份用户培训方案，包括用户培训的计划、材料、方式、师资等。

　　四是产品技术要求：适用于基于测评数据库测试的产品。

　　五是说明书：根据算法性能综合评价结果，对产品的适用范围、使用场景、核心功能进行必要限制，并在说明书中明确产品使用限制和必要警示提示信息。若适用，明确数据采集设备和数据采集过程相关要求。对于辅助决策类产品，说明书需明确人工智能算法的算法性能评估总结、临床评价总结、决策指标定义等信息。此时若采用基于数据的人工智能算法，说明书还需补充算法训练总结信息。若产品采用人工智能黑盒算法，则需根据算法影响因素分析报告，在说明书中明确产品使用限制和必要警示提示信息。

　　3、变更注册和延续注册

　　（1）变更注册

　　对于软件安全性级别为中等、严重级别的产品，全新类型在软件研究资料中以算法为单位，根据人工智能算法的更新情况，提交每个人工智能算法或算法组合的算法更新研究报告，；成熟类型在软件研究资料中明确算法基本信息即可，无需提供算法研究资料。

　　对于软件安全性级别为轻微级别的产品，在软件研究资料中明确算法基本信息即可，无需提供算法研究资料。

　　（2）延续注册

　　延续注册通常无需提交算法相关研究资料。若适用，根据注册证“备注”所载明的要求提交相应算法研究资料。

　　对于药械厂商而言，注册审查制度虽然看似麻烦，但却能够在源头上保障厂商与患者的切实利益，因此，对于药械制造行业而言，注册审查制度是不可或缺的一部分。对此，再生医学网表示，随着该项政策的发布，相信将有助于推动人工智能医疗器械行业的规范化发展。