当AI做错了决定，该谁坐牢

一场没有赢家的官司

2025年，上海某三甲医院，一位患者的早期肺癌被AI影像系统判定为"良性结节"。主治医生没做独立分析，直接签发了随访报告。八个月后，患者确诊肺腺癌，家属一纸诉状把医院、AI算法公司、服务器供应商全部告上法庭。

这是国内首起AI医疗损害责任纠纷案。法庭上三方互甩锅的画面，比任何律政剧都精彩——医院说"是AI出的错"，AI公司说"我们只提供辅助参考"，服务器厂商更冤，"我就是卖硬件的"。法官最后怎么判的？医院承担全部赔偿责任，连AI公司都没追加为被告。

别急着骂法院偏心。现行《民法典》写得明明白白：医疗机构对医务人员诊疗行为负最终责任。医生是否尽到审核义务，那是医院内部的事，跟患者无关。2025年前列腺癌误诊案倒是个例外——AI系统用欧美训练数据，不适配中国男性解剖特征，法院才判AI厂商承担30%产品缺陷责任。

说白了，谁掌控最终决策权，谁承担首要责任。这条逻辑在AI时代没变过。

法律框架的巨大空洞

AI不是人。这句话听起来像废话，但它恰恰是所有法律困境的根源。

现行法律体系下，AI不具备法律人格，不能成为侵权责任或刑事责任的承担主体。《民法典》第1218条把责任锚定在"人"而非"机器"上。你没法把一套算法送进监狱，也没法让一段代码赔钱。2026年4月哈佛医学院的研究数据更扎心：主流大模型即便拥有完整检测数据，最终诊断失败率仍高达40%。一个失败率40%的"工具"，法律上却找不到一个对口的追责主体。

问题远不止医疗。自动驾驶撞人了，AI招聘歧视了，算法贷款拒了，每一件事背后都藏着同一个黑洞：AI的"黑箱"特性让因果关系几乎无法证明。你用了某个AI产品出了事，怎么证明是算法设计缺陷导致的？训练数据偏倚怎么取证？已知漏洞未修复怎么界定？原告往往一头雾水。

现有的《民法典》《医疗器械监督管理条例》《互联网诊疗监管细则》确实覆盖了部分场景，但面对生成式AI的不可预测输出，这些规则像拿马车的交规管高铁——方向对了，细节全是空白。

三条路，各走各的道

法学界吵了几年，大致分出三条立法思路。

严格责任路线最狠。不管你有没有过错，AI出事你就赔。欧盟走得最激进，2020年欧洲议会草案提出对高风险AI系统运营者适用严格责任，连缺陷证明都不需要。支持者说这能倒逼开发者建"可信AI体系"，在训练阶段就嵌入伦理对齐模块。反对者直接拍桌子：这等于给创新套上绞索，谁还敢做AI？

过错责任路线最保守。谁有过错谁负责，跟传统侵权一个逻辑。好处是灵活，坏处是举证难——AI黑箱面前，原告几乎不可能证明开发者存在过错。这条路线本质上是给AI公司开绿灯。

产品责任路线居中。把AI当作产品，有缺陷就赔。国内已有超200款AI医疗器械获批，按《医疗器械监督管理条例》纳入监管。中国法院网的论文提出，AI产品必须满足两个条件才能适用产品责任：具备具体特定用途，且存在合理可行的质检标准。这等于把通用大模型排除在外了——DeepSeek这种什么都能聊的，你没法给它定质检标准。

三条路各有道理，也各有死穴。现实大概率是混合方案：特定用途的AI走产品责任，高风险场景引入举证责任倒置，通用模型继续适用过错责任但配合强制保险。

全球立法赛跑

欧盟跑得最快，也摔得最狠。

《欧盟AI法案》2024年8月正式生效，全球首部全面AI监管法规。四风险分级、金字塔式监管、最高全球营业额7%的罚款——看起来气势汹汹。但到了2025年底，剧本反转：技术标准严重滞后，协调标准迟迟出不来，企业被推入"无标可依"的合规真空。欧盟委员会不得不在2025年11月推出"数字综合方案"，把高风险AI规则的强制执行时间与标准发布进度挂钩，实际合规大限可能推迟到2027年底甚至2028年。

中国走的是另一条路。《生成式人工智能服务管理暂行办法》2023年8月实施，强调包容审慎、分类分级。2024年3月网信办发布《促进和规范数据跨境流动规定》，在守住安全底线的同时大幅豁免非敏感数据申报义务。深圳某医院已建立"AI医疗事故三级追溯机制"，涵盖临床操作、算法日志与数据质量。这种"先试点再推广"的策略，比欧盟的"先立法再找标准"务实得多。

美国最自由，也最分裂。联邦层面没有统一的AI立法，靠FDA审批、NIST框架、各州自行其是。2025年特朗普政府甚至将AI监管与钢铝关税谈判挂钩，把数字政策当贸易筹码。硅谷乐见其成，消费者组织骂声一片。

保护创新，还是保护人？

这才是核心问题。

严格责任最大程度保护受害者，但可能催生"寒蝉效应"——投资者回避高风险AI领域，中小企业不敢入场。欧盟的教训摆在那：45家欧洲企业联名呼吁暂停AI法案实施，德国工业联合会直指合规成本让中小企业不堪重负。

过错责任最大程度保护创新，但受害者维权成本极高。AI黑箱面前，普通用户连证据都拿不到，谈何正义？2026年甘肃一例"医生+AI"线上诊疗致患者脑出血事件，家属质疑平台算法推荐不当，医调委介入调查至今未有结果。

产品责任看似折中，但适用范围有限。能定义"缺陷"的AI产品才能走这条路，而生成式AI恰恰是输出不确定、不可预测的——开发者无法像传统产品生产者那样精确控制结果。

最终答案可能藏在"风险共担"四个字里。全国政协委员梁颖宇呼吁建立多方共担模式，避免让医生独自为技术漏洞背锅。部分医院试点的"AI双签字+责任保险"模式——医院、厂商、政府按5:3:2分摊保费，单次误诊赔偿上限30万元——提供了一种可行思路。

法律从来不是在创新和安全之间二选一，而是在两者之间找到动态平衡。AI技术还在狂奔，法律注定要追着跑。但有一条底线不能让步：当AI做出伤害人的决定，必须有人为此负责。哪怕AI不能坐牢，背后站着的人，一个也跑不掉。