当AI决策影响业务结果，如何避免“看不见的偏差”？

人工智能非期望偏差评测与治理定制培训

随着人工智能技术在金融风控、身份识别、内容推荐、营销分析等场景的广泛应用，机器学习系统的可靠性、公平性和可信性受到越来越多企业关注。其中，非期望偏差（Unwanted Bias）已成为AI治理与合规管理中的重要议题。

为帮助企业理解人工智能非期望偏差的定义与风险，Intertek天祥集团正式推出人工智能非期望偏差评测与治理定制培训，该培训参考 ISO/IEC TS 12791:2024 为参考，帮助学员掌握分类与回归模型的偏差评测思路与测试方法，并结合 Intertek 测评服务，指导企业开展偏差整改、复测验证与持续治理。

课程大纲

1. 基础概念与风险：认识人工智能非期望偏差
   • 人工智能非期望偏差与公平性的基本概念。
   • 整体性能良好，为什么仍可能存在群体偏差?
   • 分类与回归任务中的偏差表现有何不同?
   • 数据、标注、模型与应用环节的偏差来源。
   • 智能产品中的偏差案例与业务风险。
   • ISO/IEC TS 12791:2024 的适用范围与处理思路。
2. 评测设计与数据准备：明确群体、样本与评价指标
   • 测试任务与应用场景的确认。
   • 评测范围、测试对象与模型版本的界定。
   • 如何识别业务相关的敏感属性？
   • 性别、年龄等群体的划分与依据。
   • 单一属性与交叉属性的群体分析。
   • 参考群体的选择与比较原则。
   • 测试数据、真实标签与预测结果的准备。
   • 测试样本的代表性与群体覆盖检查。
   • 样本量不足与群体不平衡的处理。
   • 缺失值、异常值与重复数据的检查。
   • 训练数据与测试数据的隔离要求。
   • 历史标签与代理变量的偏差风险。
   • 群体属性数据的隐私保护与使用边界。
   • 如何根据业务风险选择评测指标？
   • 评测判据、测试记录与证据清单的准备。
3. 测试方法与结果解读：分类与回归模型的偏差评测
   • 整体性能与分群体性能的比较。
   • 分类模型的混淆矩阵与结果统计。
   • 各群体准确率、召回率等性能指标。
   • 误报率、漏报率差异的计算与解读。
   • 预测为正的比例与群体间差异。
   • 机会均等与均衡几率的含义及适用条件。
   • 回归模型的平均绝对误差与均方根误差。
   • 回归模型的群体误差与残差差异。
   • 样本量、置信区间与结果不确定性。
   • 综合案例：分类模型偏差评测与结果解读。
   • 综合案例：回归模型偏差评测与结果解读。
4. 整改验证与持续治理：形成企业偏差治理实施方案
   • 评测报告的结构与必要信息。
   • 偏差发现的业务影响与风险分级。
   • 如何定位数据、模型与应用环节的问题？
   • 数据补充、重采样与样本加权的改进思路。
   • 模型训练阶段的偏差缓解方法。
   • 预测结果与决策阈值的调整方法。
   • 公平性与模型性能之间的权衡。
   • 整改后的复测与改进效果验证。
   • 模型更新与数据变化后的再评测。
   • 持续监测、异常预警与反馈处理。
   • Intertek 偏差测评服务与企业配合事项。
   • 企业偏差评测与治理实施路线图。

授课收益

1. 识别偏差风险：
   理解非期望偏差的主要来源及其对业务的影响。
2. 掌握评测方法：
   了解群体划分、数据准备、指标选择与测试流程。
3. 解读测试结果：
   识别分类与回归模型的群体差异及评测局限。
4. 形成治理思路：
   明确偏差整改、复测验证与持续监测的实施路径。

课程对象

1. AI 产品、算法研发、数据管理、测试验证、质量、合规及业务管理等相关岗位人员。 
2. 参训学员建议具备人工智能与数据分析基础，了解分类、回归及常见模型性能指标。

专家简介

唐浩然 Tom Tang
Intertek天祥集团
AI合规资深专家

• 新加坡国立大学AI系统专业硕士，拥有人工智能技术研发与全球AI合规双重实战经验。
• 精通 EU AI Act、UL 3115 等国际法规标准，擅长将监管要求转化为落地制度与执行方案。牵头构建了一体化 AI 合规评估框架，包括AI系统透明度评估、AI系统风险管理评估及人工智能法案风险定级与合规差距分析框架等。