本文作者:孙涛 王菲
目录
前言
一、智慧医疗涉及的主体及可能承担责任的情形
(一)医疗机构及医务人员的责任
(二)人工智能开发者与提供者的责任
(三)医疗器械供应商的责任
(四)患者自身的责任
二、智慧医疗事故责任划分需遵循的原则
(一)过错责任原则
(二)过错推定责任原则
(三)因果关系原则
(四)公平责任原则
(五)无过错责任原则
三、智慧医疗下各方特有的勤勉专业审慎义务
(一)医疗机构未尽勤勉专业审慎义务的情形
(二)医疗工作者未尽勤勉专业审慎义务的情形
(三)监管机构未尽勤勉专业审慎义务的情形
四、智慧医疗与训练数据
(一)训练数据提供者的法定义务
(二)训练数据的标准
五、智慧医疗下医疗事故责任划分的现状
六、智慧医疗下医疗事故责任划分的改进思路
(一)完善立法顶层设计,明确责任主体
(二)优化举证责任规则,平衡医患权益
(三)建立分级分类责任标准,适应区域差异
(四)强化数据安全与隐私保护
七.结束语
前言
随着科技的进步,人工智能正稳步渗透至医疗领域,引领一场医疗领域的深刻变革。在医疗实践的前沿,人工智能的多元化应用——包括智能问诊平台、辅助诊断系统以及定制化治疗方案的生成,正合力构筑一个智慧医疗的全新生态。随着技术的不断迭代升级,人工智能与医疗的深度融合,不仅加速了医疗行业的数字化进程,更为智慧医疗生态的完善奠定了坚实基础。
随着智慧医疗技术的不断发展以及政策层面的支持和推动,中国智慧医疗市场规模正在不断扩大,并呈现出高速增长的态势。中商产业研究院发布的《2022-2027年中国智慧医疗产业发展趋势及投资风险研究报告》显示,2023年中国智慧医疗行业市场规模达到62.85亿元,2019-2023年的年均复合增长率达53.37%。根据2024年初的分析预测,2024年中国智慧医疗市场规模有可能增长至111.37亿元。截止2024年3月,我国存续在业的智慧医疗领域相关企业已达1.44万余家,2023年智慧医疗企业注册量达到2286家。[1]
如同任何新技术的应用一样,智慧医疗在带来机遇的同时,也引发了一系列新的法律问题,其中医疗事故的责任划分尤为关键。在智慧医疗已经深入应用的情形下,考虑到智慧医疗与传统医疗相比,涉及的责任主体更为多元,除了医疗机构和医务人员,还涉及人工智能开发者、医疗器械供应商、网络服务提供商等,一旦发生医疗事故,会面临比传统医疗情形下更复杂的责任划分及认定问题。
一、智慧医疗涉及的主体及可能承担责任的情形
在对医疗事故责任人进行准确判定过程中,须紧密结合各种复杂因素进行全面衡量。其中,首先要确定的是医疗事件是否具备成为医疗事故的实质性特征,为此需要借助专业的医疗事故鉴定机构予以权威确认。一旦被确认为医疗事故,责任人的职责归属便主要取决于其在医疗活动中所犯错误的严重程度。这种错误不仅涵盖了是否触犯医疗卫生管理法律、行政规则以及各部门的规章制度,还包括是否违背了诊疗护理的规范和常规要求。此外,责任人的过失与患者所遭受的损害后果之间的关联性也是判定其责任程度的重要依据。在责任程度的划分上,根据《医疗事故技术鉴定暂行办法》,通常可以分为全责、主责、次责及轻微责任四个层次。[2]
对于智慧医疗,在判断责任时,要依据法律法规以及行业标准进行综合判断。例如,对于智能诊断系统的准确性应有相应的行业规范和标准,若系统达不到该标准,开发者可能需承担责任。
智慧医疗情形下医疗事故的责任划分,按照不同的责任主体,不同的事故原因,通常可以分为以下几种情形:
(一)医疗机构及医务人员的责任
医疗机构及医务人员会全程参与患者的医疗过程,因此,在医疗的各个环节都存在医疗机构及医务人员需承担相应责任的情形。医疗机构及医务人员需承担责任的情形主要包括以下几个方面:
1.在诊断环节,医务人员未正确解读智能系统结果或未结合临床实际判断。智慧医疗的诊疗环节需要医务人员运用所学知识结合临床实际经验,将患者的临床实际情况、病史与智能诊断系统的建议综合起来给出具体的诊断结果。若医务人员没有正确理解和判断智能诊断系统给出的结果,比如人工智能提示了某种疾病的可能性,但医生未重视或误判,导致误诊,医疗机构和相关医务人员需承担相应责任。相反,如果医务人员仅依赖智能系统诊断,没有结合患者的实际临床症状、病史等进行综合判断,造成漏诊或误诊,医疗机构及医务人员也需承担相应责任。
2.在治疗环节,如果医疗机构及医务人员在执行智能系统给出的治疗方案时出现操作失误,像手术操作不当、用药剂量错误等,并因此对患者造成了不必要的伤害。对于所造成的伤害,医疗机构及相关医务人员应负主要责任。
此外,不同于传统医疗,对于治疗环节,人工智能系统会给出相应的多种治疗建议,医疗人员需要根据自身临床经验和患者实际情况尽量筛选出合适的医疗方案进行治疗。如果人工智能系统给出了多种治疗建议,医务人员没有根据患者的具体情况进行合理筛选和评估,选择了不适合的方案导致医疗事故,医疗机构及相关医务人员应承担相应责任。
3.在日常的监督管理环节,医疗机构对智慧医疗设备和系统有维护和管理的责任。如果因医疗机构未及时妥善维护相应设备导致设备老化、软件故障等未及时处理,影响诊疗的安全性,引发医疗事故,医疗机构需承担相应担责任。
医疗机构还有确保参与智慧医疗的相关医务人员接受了足够的智慧医疗相关培训的义务。智慧医疗作为不同于传统医疗的全新概念,需要相关医务人员掌握相关技能,以便熟练、正确地使用人工智能系统进行诊疗。如果医疗机构没有参与或组织对智慧医疗的相关医务人员进行智慧医疗相关培训并确认其已培训合格,或明知某医务人员没有参与智慧医疗的相关技术水平但仍让其执行相关岗位职责,使其不能熟练、正确地使用智能系统,导致操作失误或不能有效应对系统异常等情况,医疗机构要为培训不到位及因此造成的相关损害承担相应责任。
(二)人工智能开发者与提供者的责任
对于实际使用的与人工智能智慧医疗相关的软硬件系统,人工智能开发者与提供者负有重要责任。对于人工智能系统,系统本身的构建与大数据对人工智能的训练处于同样重要的地位。如果系统存在设计缺陷、算法错误,或者数据偏差,进而引发医疗事故,开发者须承担相应法律后果。如某智能诊断系统因训练数据偏差,对某种疾病的诊断准确率极低,导致患者延误治疗,开发者需承担责任。人工智能系统可能存在的问题一般分为系统本身的问题与训练数据存在问题这两种情形。
1.人工智能存在系统缺陷。若人工智能系统在系统设计上存在相关问题,如系统设计上存在漏洞,系统所使用的算法存在错误等,或者系统本身在没有经过充分的临床测试和验证的情况下就投入使用,这些问题导致提供的诊断或治疗建议本身存在问题,从而引发医疗事故,开发者和提供者需为此承担相应法律责任。
2.人工智能系统用于训练的数据存在问题。若用于训练人工智能的数据存在偏差、不完整或不准确,使得系统学习到错误的模式,给出错误的结果,由此造成医疗事故,数据的收集者、整理者以及系统开发者可能都需要承担责任。
(三)医疗器械供应商的责任
与传统医疗相同,如果医疗事故是由于诊疗过程中所用医疗器械产品质量问题引起的,如设计缺陷、制造缺陷或原材料质量问题,供应商应承担主要责任。
(四)患者自身的责任
若患者自身隐瞒病情、不配合治疗等,对医疗事故的发生也起到了一定作用,那么在责任划分时也会考虑患者自身的因素。
二、智慧医疗事故责任划分需遵循的原则
(一)过错责任原则
过错责任原则是智慧医疗事故责任划分的核心原则。医疗机构及其医务人员在诊疗过程中因过错导致患者损害的,需承担相应责任。过错包括违反诊疗规范、误诊、误治等行为。在智慧医疗场景下,如果医务人员未正确使用医疗人工智能设备或未尽到合理注意义务,也可能被认定为存在过错。例如,在使用医疗人工智能系统时,若医生没有正确解读系统给出的诊断建议,或未对系统进行必要的常规检查和维护,导致错误治疗,医生和医疗机构就存在过错,需承担责任。
(二)过错推定责任原则
在某些情况下,除非医疗机构或设备制造商能证明自身无过错,法律推定医疗机构或设备制造商存在过错。例如,如果医疗人工智能设备因设计缺陷或程序漏洞导致患者受到损害,制造商需承担无过错责任。若医疗机构在智慧医疗中,未能妥善保存电子病历,导致关键诊疗数据缺失,无法说明诊疗过程的合理性,就会被推定存在过错。此外,如果医疗机构未履行告知义务(如未告知患者使用人工智能设备的风险),也可能适用过错推定责任原则。
(三)因果关系原则
确定医疗行为与患者损害之间的因果关系是责任划分的重要环节。只有当智慧医疗中的诊疗行为(包括医疗技术、设备、人员操作等)与患者的损害结果存在直接因果关系时,医疗机构或设备制造商等才需承担责任。如果损害结果是由多种因素共同作用导致的,需根据各因素的影响程度划分责任。例如,患者因医疗物联网设备传输数据错误,导致医生做出错误诊断并进行了不适当的治疗,最终使患者病情加重,那么设备传输数据错误与患者病情加重之间就存在因果关系。
(四)公平责任原则
当智慧医疗事故中,当事人双方对损害的发生均无过错,法律又无特别规定适用无过错责任原则时,可能适用公平责任原则,由人民法院根据公平的观念,在考虑当事人双方的财产情况及其他情况的基础上,责令相关方对受害人的财产损害给予适当补偿,由当事人公平合理地分担损失。例如,在一些罕见病的智能诊断中,因现有医学知识和技术的局限性,出现误诊但各方均无过错,法院可能会根据公平责任原则,要求相关方适当分担患者的损失。
(五)无过错责任原则
医疗损害发生后,无过错责任原则不以行为人的主观过错为责任要件的归责标准,即不因行为人主观上有无过错,只要行为人的行为和所管理的人或物与造成的损害后果之间有因果关系,就应承担民事责任。该原则在医疗事故民事责任中适用范围较窄,仅适用于如医疗产品责任等。
三、智慧医疗下各方特有的勤勉专业审慎义务
(一)医疗机构未尽勤勉专业审慎义务的情形
医疗机构作为采购方,负有选择安全、有效的设备和系统的责任。对于智慧医疗设备需求评估,医疗机构应结合自身诊疗流程、患者群体特征及技术能力进行可行性分析,盲目采购高端设备,造成如引入人工智能诊断系统但缺乏配套数据支持,或者忽视设备与现有系统的兼容性等情形的出现,影响在实际医疗中的有效使用。
医疗机构还应严格审核供应商资质,避免相关流程流于形式。医疗机构应严格审查供应商的医疗器械注册证、技术专利、售后服务能力等关键资质,充分考察供应商的行业口碑或历史案例,否则有可能出现选择缺乏临床验证或有相关医疗风险的设备,存在数据泄露或设备故障记录的企业被引入自身智慧医疗服务等情形。
医疗机构还需对相关医疗设备进行合规性审查。如果合规性审查出现疏失,可能会引入不符合医疗行业标准的设备,对患者安全造成严重威胁,给医疗机构、医护人员带来多方面的风险;或是采购的系统没有防止未经患者同意的调阅的相应机制,导致患者信息存在泄露风险。
(二)医疗工作者未尽勤勉专业审慎义务的情形
医疗工作者作为设备的直接使用者,需要积极参与需求评估,采购符合实际操作需要的设备;还应及时反馈在使用过程中发现的问题,保障设备问题有机会及时得到修正和解决。医疗工作者未主动参与设备选型过程并提出临床实际需求,有可能导致采购的医疗设备不适合实际的医疗场景,如发现某系统操作界面复杂影响诊疗效率但并未提出意见,导致含有该操作系统的医疗设备被采购并大规模应用。如果医疗工作者在设备使用中发现问题后未及时向医疗机构相关部门报告,导致风险持续存在,影响设备效果。例如,人工智能诊断出现误判但未被发现此情况的医疗工作人员上报修正,导致人工智能误诊的隐患持续存在。
医疗工作者为具有对智慧医疗设备足够的操作能力,还需积极参加并完成智慧医疗设备的使用培训。如果医疗工作者未接受系统操作培训或培训流于形式,有可能导致设备使用不当,如某医院引入远程手术系统,医生因未接受跨国协作流程培训,在手术中误判设备延迟导致操作失误。或者导致医疗工作者不适应新技术的应用,出现诸如将人工智能诊断结果未进行人工复核直接写入病历,导致漏诊罕见病例;未能意识到设备局限性,在超出适用范围的场景中使用等情形。
(三)监管机构未尽勤勉专业审慎义务的情形
监管机构的审慎义务是智慧诊疗行业健康发展的核心保障,其有责任制定标准和监督执行。如果监管机构未能及时制定相关技术标准,如对设备的诊断准确率、响应速度等性能指标的未能及时制定等级标准及评估规范,可能导致如实际误差率超出临床可接受范围但仍宣称自家设备具有高精度的情况发生。
如果监管机构对于市场准入的监管不严,有可能导致产品具有设计缺陷。例如未强制要求覆盖不同人群,导致某皮肤病诊断系统对深色皮肤人群准确率显著低于浅色皮肤人群而在审批流程未被发现,未能及时消除训练数据或算法的不足造成的模型偏差。
产品上市后,监管机构仍需对产品进行持续监测。如果未建立设备不良事件主动上报机制,仅依赖医疗机构被动报告,有可能导致产品出现问题后无法第一时间做出反应,扩大不良产品危害的人群规模。例如,某输液泵不良事件,如果能事先建立医疗器械不良事件监测机制并积极上报,就能有效减少受该事件影响的人群的规模。[3]
监管机构还应注意对数字安全方面的监管。如果不强制要求设备供应商采用数据加密、访问控制等安全措施,则容易导致患者信息因数据接口遭黑客攻击而泄露;如果对医疗机构与供应商的数据共享协议相应监管机构缺乏审查,有可能导致默认应用不合理的数据所有权转移条款,造成如患者影像数据被供应商用于商业开发等侵权行为出现。
四、智慧医疗与训练数据
(一)训练数据提供者的法定义务
在智慧医疗程序中,智慧诊疗相关的训练数据提供者需严格遵循《个人信息保护法》、《数据安全法》、《生成式人工智能服务管理暂行办法》及《民法典》等法律法规要求。具体表现为:
1. 在数据采集阶段,依照《民法典》第1038条规定,获取训练数据必须通过明示方式获得数据主体同意,禁止欺诈、诱骗或误导性收集。而且根据《个人信息安全规范》,训练数据提供者仅收集与诊疗服务直接相关的必要数据,不得超范围采集。
2. 对于收集来用于训练智慧医疗模型的数据,训练数据提供者需建立分类分级保护制度,针对不同级别的数据,采用相应的安全措施,例如数据加密,数据匿名化和脱敏等。
(二)训练数据的标准
智慧医疗所采用的训练数据应确保自身的可靠性、合规性及可用性。一般需考虑以下几个方面:
1. 对于训练数据的质量,应确保数据真实、完整、准确,符合临床诊疗规范,多模态数据(如病历、影像、基因)需融合关联,支持深度分析。
2. 对于训练数据的使用,按照《个人信息安全规范》,训练数据共享前需进行匿名化或去标识化,避免个人隐私的泄露。例如通过K-匿名性、差分隐私等数据隐私保护技术的使用,实现隐私保护。
五、智慧医疗下医疗事故责任划分的现状
目前,我国关于智慧医疗事故责任划分的法律法规尚不完善。现有的医疗事故处理法规主要针对传统医疗模式,难以完全适用于智慧医疗的复杂情况。这导致在实际案例中,责任划分存在争议和不确定性,如存在人工智能系统设计缺陷的责任归属模糊、举证规则不适应技术特性、区域差异标准缺失等问题。
目前,若智慧医疗人工智能系统因算法缺陷或训练数据偏差导致误诊,现行法律未明确界定开发者、医疗机构、数据提供方的责任比例。目前主要依据《民法典》第1223条(医疗产品责任)追究设备生产者责任,但人工智能系统的“技术黑箱”特性导致因果关系举证困难,患者维权成本高。
在智能医疗侵权案件中,患者往往因技术壁垒难以证明医疗机构或人工智能开发者的过错。《最高人民法院关于审理医疗损害责任纠纷案件适用法律若干问题的解释》虽规定部分举证责任倒置,但对人工智能相关技术细节的举证标准未作特殊规定,导致维权过程中患者处于弱势地位。例如,某患者因手术机器人操作失误致残,但机器人运行数据由医疗机构掌控,患者无法获取关键证据,这使得患者很难在实际行动中通过法律手段维护自身的合法权益。
智慧医疗技术应用存在显著地域差异,经济发达地区与基层医疗机构的设备和人员水平差距大。例如,某基层医院可能会因使用过时的人工智能系统导致诊断延误,但法律未明确现行可用的人工智能系统的具体衡量标准。现行法律法规未针对智能医疗技术制定分级标准,导致司法裁判在判断医疗机构对智慧医疗设备的运用是否存在不当之处缺乏统一依据。
六、智慧医疗下医疗事故责任划分的改进思路
(一)完善立法顶层设计,明确责任主体
修订现有法律法规,增设智慧医疗相关内容,明确智慧医疗人工智能系统开发者、医疗机构、训练数据提供方的责任边界。例如,规定人工智能系统设计缺陷导致损害时,开发者应承担主要责任;医疗机构未履行审核义务或操作过失时,承担补充责任。此外,还可以建立智慧医疗产品准入标准、风险分级制度及全生命周期监管体系,要求开发者公开算法透明度报告,并强制其对投智慧医疗产品保产品责任险。
(二)优化举证责任规则,平衡医患权益
将智慧医疗致害案件归为适用举证责任倒置的侵权类型,由医疗机构或开发者证明其无过错(如算法无缺陷、数据无偏差)。患者仅需证明损害结果与人工智能使用存在初步关联。
(三)建立分级分类责任标准,适应区域差异
根据医疗机构等级(如医院为三甲医院还是基层医院)、人工智能系统风险等级(如所采用智慧医疗系统仅支持辅助诊断还是可进行自主手术),差异化界定当时当地医疗水平,针对不同医疗水平,适用不同风险等级的智慧医疗系统。例如,强制三级医院使用通过国家认证的高风险人工智能系统,对于社区医院使用的智慧医疗系统则只可在较低风险诊疗阶段辅助医务人员进行诊疗。
(四)强化数据安全与隐私保护
在《个人信息保护法》框架下,完善数据责任链条,明确医疗数据收集、存储、使用各环节主体的安全义务。建立数据泄露责任追偿机制,对因数据泄露导致的患者损害,允许患者同时主张医疗损害赔偿与数据侵权责任,明确医疗机构与技术服务商的连带责任。例如,要求人工智能开发者与医疗机构签订数据保密协议,禁止未经授权的算法训练数据流转。
七、结束语
智慧医疗作为医疗与科技深度融合的产物,既是推动医疗效率提升的创新引擎,也是对传统医疗责任体系的严峻挑战。其责任划分既要鼓励技术创新,又需保障患者权益,不仅涉及技术风险的可归责性,更关乎法律价值的平衡。当前,技术的快速发展造成现有法律无法完善回应智慧医疗情境下面临的新的问题,责任主体模糊、因果关系举证困难、区域差异标准缺失等问题凸显,亟待系统性回应。
智慧医疗的法治化进程,本质上是对技术权力的驯服与规范。唯有坚持“以人为本”的价值导向,构建技术可控、责任可溯、权益可保的制度框架,才能让智慧医疗真正成为增进人类健康福祉的利器,而非风险的发源地。
注释:
[1]中商产业研究院.2024年中国智慧医疗行业市场前景预测研究报告[EB/OL].(2024-03-20).https://www.infoobs.com/article/20240320/64048.html
[2]律图.医疗责任事故赔偿标准是多少[EB/OL].(2024-03-20).https://www.64365.com/zs/1247918.aspx
[3]刘欣欣,李永辉,王芳,冯亚楠.674例输液泵不良事件回顾性分析[EB/OL].(2019-04-09).https://wenku.baidu.com/view/6a9f04a3b3717fd5360cba1aa8114431b90d8e32.html?_wkts_=1741761422817