在打开人工智能工具之前,一个简单问题可能非常有用:我是否应在这项工作使用人工智能?
Benita Olivier 与 Michael Rowe 为博士研究者设计的决策指南,把这个停顿转化为四个实际问题:工作属于机械性还是智力性?这是否我需要发展的能力?我能否为输出的每个部分作出解释?我是否具备足够知识辨认错误?
这些问题能保护学习与个人问责。然而,在健康专业教育中,它们只是起点。人工智能的使用也可能影响患者、学生、同事、院校与社区。较新的 Health CARE-AI 框架让我们看见这份更广泛的共同责任。
第一个决定:我是否应使用人工智能?
原有指南区分机械性与智力性工作。人工智能或可协助例行格式整理,但当工作旨在发展推理、综合、写作或专业判断时,便需要更审慎。
流畅的成品不能证明学习已经发生。如果我正在发展一项能力,应先作出有意义的尝试,再让人工智能检视、挑战或修订。若我不能解释结果或辨认错误,就不适合依赖它。
为何个人判断并不足够
即使物理治疗学生能解释人工智能辅助的答案,仍未回答患者信息是否被适当上传、是否需要同意、系统是否令某些群体处于不利位置,以及院校是否提供认可、无障碍且可获得的工具。
负责任使用人工智能不能只依靠学生做得更好。教师、临床团队、院校与技术供应商同样塑造了负责任使用是否可行。
Health CARE-AI 带来什么
Sonnenberg 等人通过三阶段修正式德尔菲共识研究建立 Health CARE-AI 框架,共有 303 名不重复参与者。框架涵盖健康专业教育、研究与临床照护中的人工智能专业规范。
Health CARE-AI 名称中的 CARE-AI 指情境化、可问责、负责任及公平的人工智能。它并非只有四个字母的清单;原框架包括十项原则,分布于价值、能力、问责与结构性公平四个相互依存的领域。
- 负责任使用人工智能是个人与集体共同的责任。
- 使用者应诚实行事,并持续建立切合角色的人工智能素养。
- 人工智能应补充而非取代人类判断。
- 使用必须符合法律、同意、隐私、知识产权及信息治理要求。
- 应主动处理输出、设计、使用机会与治理中的偏见及不公平。
- 人工智能的使用应与预期效益相称,并考虑社会与环境可持续性。
健康专业教育的两阶段决定
我把两份资源视为前后相连的阶段,而不是互相竞争的框架。
- 第一阶段:我是否应在这项工作使用人工智能?保护学习、作者身份、学科知识与解释作品的能力。
- 第二阶段:如果使用,这种做法在专业上是否可辩护?审视情境、问责安排、人类判断是否仍居核心,以及利益与伤害如何分布。
第一阶段可能允许使用,但第二阶段仍可能否决。工具可以有教育价值,却因需要可识别患者资料而不适合;答案可以准确,却因部分学生不能使用而不公平。
四个实用视角
- 情境:目的、环境与风险程度是什么?谁会受影响?哪些政策适用?
- 问责:谁拥有并核实决定?使用方式能否公开及辩护?学生、教师、团队与院校各有什么责任?
- 责任:人工智能是否支持而非取代人类判断?同意、隐私、知识产权、资料治理与可持续性是否得到处理?
- 公平:系统会否复制偏见、排除某些人,或不平均地分配利益与伤害?
这四个视角是我用来连接两份资源的实用方法,并不取代完整的原框架。
这对教学有何改变
人工智能专业规范不应只放在一节入门课,而应在课堂、模拟、研究及临床学习中反复出现。学生需要练习并解释披露、核实、同意、偏见与适当依赖等决定。
教师发展同样重要。若教师需要设计人工智能辅助评估、审批工具及指导学生,他们便需要切合角色的素养、专门安排的专业发展时间与清晰的院校支持。我们不能要求学生遵守连教职员与制度也未准备好达到的标准。
框架并不等于成效证据
Health CARE-AI 提供经审慎建立的专业共识,但尚未证明采用框架能改善学习、专业实践或患者成效。参与者也主要来自加拿大、美国及其他英语高资源环境,应用于其他地方时需要情境判断。
这些限制并不令框架失去价值,而是提醒我们把它视为课程、教师发展与治理的有力起点,并配合评估与调整。
我现在会问的问题
“我是否应在这项工作使用人工智能?”仍是行动前很好的停顿。在健康专业教育中,我会再问:我们能否以切合情境、集体问责、专业负责及结构公平的方式使用人工智能?
这个转变把讨论由许可推进至专业判断,也把责任由学生扩展至教师设计的学习活动、院校提供的工具、团队维持的保障,以及专业所选择保护的价值。
参考资料
- Olivier, B., & Rowe, M. (2026). Should I use AI for this? A decision guide for doctoral researchers [决策指南]. Still Yours; Springer Nature. 原指南。
- Sonnenberg, L. K., 等(2026)。Principles for responsible AI in health professions education, research, and care: Health CARE-AI Framework Delphi consensus study。JMIR Medical Education, 12, e91626。https://doi.org/10.2196/91626。