适用场景
计划或正在将人工智能（AI）技术应用于医疗、健康、生物技术等受监管领域，并计划进入或已进入美国市场的中国出海企业，特别是在产品研发、上市前合规准备阶段。
核心要点
1. 美国FDA AI治理规则的适用范围
该规则主要针对计划在美国市场上市、涉及人工智能技术的医疗设备、诊断工具及相关软件。它旨在为这些AI驱动的医疗产品建立一个清晰的监管框架，确保其安全性和有效性。企业需明确自身产品是否落入FDA的监管范畴。
2. 基于风险的可信度评估框架
FDA规则的核心是要求企业对AI模型进行系统化的可信度评估。这包括明确AI要解决的目标问题、界定具体应用场景、评估模型潜在风险、制定并执行评估方案，最终确认模型在特定场景下的适用性。这是一个动态、迭代的过程。
3. AI模型评估的关键方法论
评估需特别关注AI模型可能存在的歧视性与公平性问题。企业需要建立科学的评估方法，识别并缓解算法偏见，确保模型决策对不同人群的公平性，这是获得监管认可的关键环节。
4. 规则的法律效力与行业影响
该规则虽为拟定规则，但代表了美国对医疗AI领域强监管的趋势。它将成为相关产品上市前审批（如PMA、510(k)）的重要依据。不合规可能导致产品无法在美国上市，或面临后续监管处罚。
实务建议
- 在产品规划早期，即对照FDA规则判断AI组件的监管分类和适用要求。
- 建立并文档化AI模型的“可信度评估”内部流程，涵盖从目标定义到结果确认的七个步骤。
- 将公平性（Fairness）和反歧视（Anti-bias）测试作为模型验证的强制性环节，并使用多样化数据集进行训练和测试。
- 详细记录所有评估活动、数据来源、模型决策逻辑及任何偏离预期的结果，以备监管审查。
- 考虑引入外部专家或顾问，对AI模型的科学性和合规性进行独立审查。
风险提示
- 切勿认为AI模型技术先进就等于自动符合监管要求，监管关注的是安全、有效和可控。
- 避免使用存在偏见或代表性不足的数据训练模型，这会导致严重的公平性缺陷和合规风险。
- 不要将国内或其他市场的合规经验直接套用于美国FDA监管，需进行针对性适配。
- 注意规则动态，拟定规则可能最终定稿，需持续关注其正式生效日期和具体要求变化。