人工智能医疗器械临床研究伦理审查要素研究.docx

《人工智能医疗器械临床研究伦理审查要素研究.docx》由会员分享，可在线阅读，更多相关《人工智能医疗器械临床研究伦理审查要素研究.docx（10页珍藏版）》请在第一文库网上搜索。

1、人工智能医疗器械临床研究伦理审查要素研究*耿雯倩，朱万，马磊（上海市第一人民医院科研处，上海200080）1人工智能医疗器械的定义、分类人工智能是研究、开发用于模拟、延伸和扩展人的智能理论、方法、技术及应用系统的一门技术科学，而人工智能医疗器械是采用人工智能技术实现医疗用途的医疗器械在用途的分类方面，如通过人工智能技术能够实现接收、传输、显示、存储医学数据和信息供临床诊疗使用或通过人工智能技术应用于某些心理疾病的辅助诊疗等都属于医疗用途，而如一些智能手表和运动健康软件仅显示人体健康数据，不进行辅助诊断治疗则不属于医疗用途，因此也不属于人工智能医疗器械。人工智能医疗器械从不同角度存在多种分类。从

2、医疗器械软件角度，可分为人工智能独立软件和人工智能软件组件；从用途角度分类，又分为辅助决策类和非辅助决策类；从功能角度可分为处理功能、控制功能、安全功能；从监管角度出发，管理类别主要基于风险水平进行判定，根据算法在医疗应用中的成熟度的高低及用途来决定按照第二类还是第三类医疗器械管理3。2人工智能医疗器械临床研究的法规及伦理审查现状2. 1国内现状国内人工智能医疗器械市场规模从2023年的1.25亿元增长至2023年的2.92亿元，同比增长134%,预计2023年将继续大幅增长，达到11.56亿元4。临床试验是验证医疗器械上市前安全性和有效性的核心方法之一，也是影响注册审批速度的关键环节，临床试

3、验的高质量和规范化进展是人工智能医疗器械能否成功注册上市的重要前提。除申办方发起的人工智能医疗的临床试验以外，研究者发起的人工智能医疗器械的临床研究同样也是构建开放协同共享的人工智能医疗器械创新体系的重要环节之一。2023年7月，国务院发布的新一代人工智能发展规划指出，到2025年，我国要初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力，到2030年要建成更加完善的人工智能法律法规、伦理规范和政策体系。2023年，我国成立人工智能医疗器械创新合作平台，加强对人工智能医疗器械的监管，同时不断完善相关法律制度建设，为人工智能医疗器械上市前临床研究和最终顺利注册上市保驾护

4、航。国家药监局医疗器械技术审评中心在2023年、2023年和2023年分别颁布深度学习辅助决策医疗器械软件审评要点人工智能医用软件产品分类界定指导原则和人工智能医疗器械注册审查指导原则以进一步加强人工智能医用软件类产品监督管理，推动产业高质量发展。在人工智能医疗器械伦理审查方面，我国暂未出台专门的审查指导原则，但在2023年，国家新一代人工智能治理专业委员会发布了新一代人工智能伦理规范，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。2.2国外现状美国、英国、日本、欧盟等在内的多个国家和地区都在国家战略层面提出人工智能的伦理原则和审查规范

5、及指南。美国出台国家人工智能研究和发展战略计划，其中就包含理解并解决人工智能的伦理问题；欧盟出台欧盟人工智能，将确立合适的伦理和法律框架作为三大战略重点之一，同时发布人工智能伦理：问题和倡议，探讨人工智能应用引发的主要伦理困境和道德问题并提出新兴伦理倡议；英国也成立了数据伦理和创新中心，确保数据的安全、创新性应用及符合伦理规范；日本起草了人工智能伦理纲要。建立科学、完善、规范以及全流程覆盖的伦理审查对于规范人工智能产品管理、保障其临床试验及未来上市后产品的诊疗治疗、维护受试者权益具有重要意义5-7o这些国家和地区对人工智能的伦理原则和审查规范及指南制定较为完善，具有借鉴价值。3人工智能医疗器械

6、临床研究的特征要素人工智能医疗器械临床研究作为前沿的临床研究方向，对其伦理审查的根本目的就是为了保护受试者权益。关注临床研究的科学性和伦理性，是伦理审查主要考虑的两个角度。3.1临床研究的科学性3.1.1临床研究目的一项临床研究的目的决定了临床研究各设计要素，包括主要评价指标、试验设计类型、对照试验的比较类型及临床研究样本量。人工智能医疗器械临床研究的科学开展不仅需要研究前的研发成本，也要大量的临床数据收集和支撑，是否具有开展的重大意义需要设定明确、具体的研究目的。在具体的伦理审查过程中，需要关注此项临床研究是否有实际临床应用意义，针对注册类的临床试验更要关注在未来此项产品上市后是否可满足临床

7、使用的需要，能否实现降低医疗负担，提升医疗质量。3. 1.2临床研究方法人工智能医疗器械临床研究方法是否科学决定了这项临床研究能否取得可信、准确的研究结果。在伦理审查中，需要关注研究设计是否合理，是否根据医疗器械的预期用途、适用人群、使用场景和核心功能来设计入选标准、排除标准及主要评价指标。3. 1.3临床研究的风险与获益目前已经批准上市的人工智能医疗器械具有准确、快速、高效、安全等优点，但无论是研究者发起的涉及人工智能医疗器械的观察研究,利用已上市的人工智能医疗器械开展的干预研究，还是未上市的人工智能医疗器械注册类临床试验，其受试者仍然需要承担一定的风险。因此，当受试者承担风险的同时能有哪方

8、面的获益以及获益的程度尤为重要，获益/风险比也是伦理审查的核心要素。人工智能医疗器械临床研究的风险包括专业技术风险和信息保护风险。当人工智能诊断类软件评判出假阳性和假阴性的结果导致受试者出现病情漏诊或误诊，由于算法偏见和算法歧视导致人工智能医疗器械诊断或者治疗出现偏差，由于算法更新、软件迭代导致受试者不能及时得知疾病诊断或治疗的最新进展，这些都属于专业技术风险。而受试者参加人工智能医疗器械临床研究后，相关的医疗信息、健康数据以及受试者个人的隐私泄露则属于信息保护风险。伦理审查过程中需关注人工智能医疗器械所依据的医疗数据库是否具有代表性以及是否符合相应要求。来源于单中心的数据鲁棒性（普遍适用性）

9、一直受到质疑，因此，数据库来源于多中心并具有广泛代表性的人工智能医疗器械才可能具备较高的普适性。另外，数据库建设时是否建立数据库采集操作规范，采集设备、采集过程、数据脱敏是否符合质控要求8-9,数据处理过程中数据清洗和预处理是否符合质控要求，有无明确的规则方法,数据标准中有无标准操作规范；筛选数据时保持前后的一致性来避免选择偏移导致未来算法的偏见，算法设计是否合理及具有可解释性,是否有完善的网络安全防护体系和隐私保护的关键技术，如访问控制技术、数据显示限制技术、数据加密技术、数据使用共享限制技术来保护受试者隐私，是否有明确的数据脱敏工具及使用规则10T1,这些都需要伦理委员会的关注。在试验获益

10、方面，受试者因参加临床研究得到更为精准的诊断，避免检测差异及主观差异，提高诊断及筛查的敏感性，或因参加临床研究可能会更快发现异常情况，为疾病的及时治疗争取时间，或者可得到更为精准和个性化的治疗，这都是受试者可能的临床获益。伦理审查过程中不仅关注受试者因参加临床研究可能的获益和风险，还要关注这样的获益/风险比例是否恰当，是否在受试者可接受的范围内。3. 1.4软件更新人工智能是指机器表现出与人类智能相关行为的能力，通常是指通过感知周围环境作出合理行动以达到预期目标的计算机软件或系统，因此人工智能医疗器械的软件更新是伦理审查需要重点关注的要素。软件更新是指在软件生存周期全过程对软件所做的任一修改，

11、从结果角度看，可分为“重大更新”和“轻微更新”；从内容角度看，可分为“增强类更新”和“纠正类更新”。针对注册类的临床研究，无论哪种更新，一旦划分为重大更新，即影响到人工智能医疗器械安全性或有效性的更新，需要申请变更注册。而从伦理审查的角度，无论是否是注册类的研究，都需要对研究方案中软件更新的范围、内容以及流程（尤其是重大更新）有无明确的规定及规范的程序进行重点关注和审查。3. 1.5研究人员资质和研究基础设施在人工智能医疗器械临床研究的伦理审查中，需要关注研究人员是否有资质开展临床研究，是否有人工智能医疗器械相关的实践经验，研究团队是否稳定，技术和操作水平一致，以保证试验结果的稳定性和可重复性

12、。3.2临床研究的伦理性3 .2.1知情同意的语言、方式和程序由于人工智能医疗器械较为专业，知情同意书是否能够用通俗易懂的语言告知受试者医疗器械和试验程序的相关内容。不同类型的人工智能医疗器械临床研究有不同的知情同意的方式和程序。传统意义上的知情同意的形式以书面签署纸质版知情同意书为主；而随着信息化的不断推进，采用多元化电子媒体的电子系统和程序进行电子知情同意也在快速发展中。目前，电子知情同意在国外以其便携的获取方式和可靠的存储、追踪随访途径等优势获得了很多良性反馈。将来，电子知情同意在人工智能医疗器械临床研究中凭借其快速进行知情信息交互与共享的优点可以助力临床研究的顺利进展12。有特定科研目

13、的的人工智能医疗器械临床研究必须有具体知情同意，在没有具体项目支撑，仅是前期非特定科研目的收集临床数据和信息的，则需要获得受试者的具体知情同意或者泛知情同意，针对数据未来可能二次或多次挖掘时是否需要二次知情同意以及知情同意的撤回程序等，都是伦理审查过程中需要重点关注的要点。4 .2.2人工智能医疗器械的透明度和可解释性在联合国人工智能伦理问题建议书中将人工智能的可解释性界定为“让人工智能系统的结果可以理解并提供阐释什么”，因此在人工智能医疗器械的临床研究中，伦理审查需要关注是否将此项医疗器械的透明度和可解释性阐述清楚，让人工智能医疗器械及其系统的预测和行为更易于被人们理解，明确人工智能医疗器械

14、的临床研究向谁解释，为什么解释，何时解释，如何解释以及解释的方法。在2023年和2023年欧盟委员会和欧洲议会和理事会发布的人工智能道德准则和关于人工智能的统一规则（人工智能法）并修正某些联合立法行为中明确了透明度是建立和维持公民对人工智能系统开发者和人工智能系统本身信任的关键，并规定高风险A1系统的设计和开发方式应足够透明。伦理委员会需重点关注如果产品更新迭代后，对受试者本身病情的决策和治疗是否有影响，是否有相应的告知程序13。3.2.3受损害后的处理及赔偿受试者参加人工智能医疗器械的临床研究，受到损害如疾病漏诊或误诊，或治疗产生偏差或失误，如一些手术系统使外科手术未达到理想的手术效果，或者

15、人工智能机器人导致手术失败，有无明确的处理措施以及赔偿方案，都需要重点关注。3.2.4受试者保护在人工智能医疗器械临床研究的伦理审查中，需要关注一些特殊情况及有无相应的处理措施，如研究方案中有无说明可随时中途退出；研究是否纳入弱势群体以及对弱势群体的保护。目前人工智能医疗器械临床研究的适应证中有一些是针对部分弱势群体，如罕见病患者、有精神疾病或心理疾病的患者，受试者因参加临床研究受到损害时，是否有相应的保护措施，这些都需要伦理审查时重点关注。4提升伦理审查质量的策略和建议通过以上对人工智能医疗器械临床研究伦理审查难点的分析，伦理审查过程中存在很多关键点，其不仅影响临床研究质量，而且影响受试者的

16、安全和权益。如何提升伦理审查质量，为此类临床研究的受试者保驾护航，是每一位伦理从业人员需要认真考量的。笔者认为从以下几个方面着手，包括加强立法建设和监管，加强伦理委员会能力建设,完善伦理审查制度和体系建设，拓展平台建设，加强区域联动，可在一定程度上提升人工智能医疗器械伦理审查质量。4.1 加强立法建设和监管目前，我国科技行业的伦理实现机制还有待完善，缺少健全的伦理审查、自律规范、行业标准等机制的约束，关于人工智能的伦理规范,仅有2023年国家新一代人工智能治理专业委员会发布的新一代人工智能伦理规范，旨在将伦理理念融入人工智能全生命周期，为从事人工智能相关活动的个人、组织和其他相关机构提供伦理指引。关于人工智能医疗器械临床研究仍然缺少相应的法律法规，以及伦理审查专门的伦理审查指南和管理条例来应对人工智能给人类带来的挑战和风险。因此，应加强立法建设，让法律规范成为人工智