2026年9月21日上午，由北京大学医学人文学院主办的第189期“北大医学人文讲堂”在北京大学医学部逸夫楼716会议室举行。本次讲座邀请牛津大学法学院教授、墨尔本大学墨尔本法学院教授简·凯（Jane Kaye）担任主讲人，以“超越算法：信任、治理与医疗的未来”（Beyond the Algorithm: Trust, Governance and the Future of Healthcare）为题，围绕人工智能在医疗健康领域的应用、医疗治理内涵、英国监管实践、治理失败案例以及英国政府战略等问题展开讲授。讲座由北京大学医学人文学院丛亚丽教授主持，中国人民大学高瓴人工智能学院曾毅教授担任与谈嘉宾，来自北京大学及相关高校的专家学者、教师和学生参加了本次讲座。

Jane Kaye教授是牛津大学法学院法律、健康与新兴技术中心主任，同时担任墨尔本大学健康法与政策教授。她曾任联合国健康数据隐私工作组成员，并被任命为欧洲生物银行平台科学顾问委员会成员，参与欧洲联合行动“迈向欧洲健康数据空间”WP8咨询组工作。

讲座伊始，Kaye教授指出，人工智能正在深刻影响医疗健康领域，主要应用包括影像、病理与诊断支持，临床决策支持、分诊与风险预测，以及精准医学、药物发现和公共卫生监测等。同时，AI也带来错误决策、算法偏见与幻觉、责任归属、数据隐私与安全、公众信任、医护人员角色与技能变化，以及算法持续更新带来的验证和监管挑战。她引用2026年5月伦敦国王学院健康合作伙伴科学中心、英国责任人工智能组织与伦敦国王学院政策研究所的调查：15%公众曾用AI聊天机器人获取健康建议；37%支持、38%反对在临床决策中使用AI；39%主要担忧安全与准确性；公众更信任医生。多数受访者要求提前告知并有权退出，若AI与医生诊断不一致，55%认为应由第二位医生复核，76%认为患者护理AI工具应经官方批准和监管。2025年10月纳菲尔德信托基金会与皇家全科医师学院调查显示，2108名全科医生中28%已在临床使用AI，主要用于文档、职业发展和行政任务，临床决策比例较低；医生主要担忧职业责任与医疗法律风险，并建议AI节省时间而非替代临床判断，明确责任、制定临时指南、加强培训与患者教育。

Kaye教授强调，AI在医疗中不仅是技术创新，更会重塑临床决策、机构责任和医患信任，关键问题不是“能否使用AI”，而是在什么条件下应当信任AI。她引用世界卫生组织定义，指出医疗治理包括监督和管理国家医疗体系的流程、结构和制度，管理不同行动者和利益相关者关系，并需要战略政策框架、有效监督、联盟建设、适当监管与激励、系统设计和问责机制。她系统介绍英国医疗AI治理体系：监管机构包括英国药品与保健品监管局（将AI作为医疗器械AIaMD监管）、信息专员办公室（负责数据保护）、健康研究局（负责研究伦理审批）；临床部署涉及护理质量委员会、英国国家卫生与临床技术优化研究所及专业医疗团体指南；法律与政策框架包括欧盟《人工智能法案》、医疗器械条例、英国GDPR、数据保护法、临床试验条例等。英国脱欧后仍与欧盟框架保持密切互动。治理还涉及“胡萝卜与大棒”式合规机制，底层是激励、样本与信息获取、合作机会，向上则是声誉损害、向IRB报告、资金撤回和纪律处分。

在治理失败案例部分，Kaye教授重点分析两起事件。一是2025年医生使用未批准的“环境语音”AI工具，暴露“影子IT”治理失败：临床医生采用消费级技术快于医院框架，部分供应商不符合数据保护法，患者录音在外部未加密服务器处理。NHS随后实施严格采购控制，要求供应商进入官方预审名单，并要求患者明确口头同意。二是NHS与美国数据公司Palantir签订的3.3亿英镑联邦数据平台合同争议。由于Palantir与军事、情报机构的历史关联，该项目引发议会委员会、人权组织和医生的强烈不信任。NHS随后修正合同，规定Palantir仅作为数据处理器，不能将NHS数据与其他政府部门或外部数据库合并共享，并设置议会中断条款，政府考虑在2027年终止合同。Kaye教授还介绍了英国政府战略与英国药品与保健品监管局改革：英国推进100亿英镑英国国家医疗服务体系数字化改革，扩大AI分诊和单一患者记录；英国药品与保健品监管局与新成立的国家AI医疗监管委员会合作制定新框架；投资16亿英镑用于云计算和数据资产以加速药物发现；英国健康研究局启动两年AI专项计划。2026年重点包括建立新AI监管规则书，从一次性“通过/失败”合规转向持续、分阶段监测；环境语音转录工具在GP实践中部署，但临床医生对诊断负全责；AI用于手术排程和自动清洁等场景。英国药品与保健品监管局的AI Airlock监管沙盒允许开发者在受控环境中测试AI医疗器械，识别算法偏见、性能监测和上市后安全追踪等问题。相关机构咨询发现，现有监管框架需要“重大改革”而非“彻底重构”，AI系统需要持续上市后监测，责任应分布于AI全生命周期，人类监督和临床判断至关重要，可解释性、数据访问、AI素养、事件报告和患者公众参与均是关键。

与谈环节中，曾毅教授指出，临床决策支持与AI自主决策存在根本区别，当前AI代理和基础模型常表现出寻求未授权决策的倾向，技术本身并不天然保证安全，需要法律、伦理与治理研究明确指出技术漏洞。他强调，公众信任不仅要求制度可信，也要求技术本身可信和可解释；利益相关者应超越监管机构，涵盖灾难管理、公共安全、社区守门人等更广泛主体。他结合中国“九龙治水”式治理结构，介绍国家卫生健康委、国家药监局、工信部、国家科技伦理委员会、网信办等多部门参与医疗AI治理的格局，指出多部门重叠虽有协调成本，但也可能形成互补。他还讨论Palantir数据风险、COVID追踪器中的知情同意与数据准确性问题、动态同意机制以及欧盟健康数据空间跨国治理可行性。

问答环节，师生围绕AI决策与医疗资源有限条件下的伦理选择、英国监管体系、胡萝卜与大棒机制对科学家和AI公司全球流动的影响等问题交流，Kaye教授结合英国、欧盟和澳大利亚经验进行了回应。

本次讲座以“超越算法”为核心，系统展示了AI医疗治理中信任、法律、伦理与制度设计之间的复杂关系。Kaye教授的报告不仅呈现了英国医疗AI治理的最新进展与争议，也为理解中国及其他国家在医疗AI治理中的制度选择提供了比较视野，进一步深化了与会者对“技术如何安全、可信、负责任地进入医疗实践”这一问题的认识。

撰稿｜景铄超
审校｜丛亚丽
复核｜陈 琦
排版｜胡云天