|
人工智能非期望偏差评测与治理定制培训
随着人工智能技术在金融风控、身份识别、内容推荐、营销分析等场景的广泛应用，机器学习系统的可靠性、公平性和可信性受到越来越多企业关注。其中，非期望偏差（Unwanted Bias）已成为AI治理与合规管理中的重要议题。
为帮助企业理解人工智能非期望偏差的定义与风险，Intertek天祥集团正式推出人工智能非期望偏差评测与治理定制培训，该培训参考 ISO/IEC TS 12791:2024 为参考，帮助学员掌握分类与回归模型的偏差评测思路与测试方法，并结合 Intertek 测评服务，指导企业开展偏差整改、复测验证与持续治理。
课程大纲
- 基础概念与风险：认识人工智能非期望偏差
- 人工智能非期望偏差与公平性的基本概念。
- 整体性能良好，为什么仍可能存在群体偏差?
- 分类与回归任务中的偏差表现有何不同?
- 数据、标注、模型与应用环节的偏差来源。
- 智能产品中的偏差案例与业务风险。
- ISO/IEC TS 12791:2024 的适用范围与处理思路。
- 评测设计与数据准备：明确群体、样本与评价指标
- 测试任务与应用场景的确认。
- 评测范围、测试对象与模型版本的界定。
- 如何识别业务相关的敏感属性？
- 性别、年龄等群体的划分与依据。
- 单一属性与交叉属性的群体分析。
- 参考群体的选择与比较原则。
- 测试数据、真实标签与预测结果的准备。
- 测试样本的代表性与群体覆盖检查。
- 样本量不足与群体不平衡的处理。
- 缺失值、异常值与重复数据的检查。
- 训练数据与测试数据的隔离要求。
- 历史标签与代理变量的偏差风险。
- 群体属性数据的隐私保护与使用边界。
- 如何根据业务风险选择评测指标？
- 评测判据、测试记录与证据清单的准备。
- 测试方法与结果解读：分类与回归模型的偏差评测
- 整体性能与分群体性能的比较。
- 分类模型的混淆矩阵与结果统计。
- 各群体准确率、召回率等性能指标。
- 误报率、漏报率差异的计算与解读。
- 预测为正的比例与群体间差异。
- 机会均等与均衡几率的含义及适用条件。
- 回归模型的平均绝对误差与均方根误差。
- 回归模型的群体误差与残差差异。
- 样本量、置信区间与结果不确定性。
- 综合案例：分类模型偏差评测与结果解读。
- 综合案例：回归模型偏差评测与结果解读。
- 整改验证与持续治理：形成企业偏差治理实施方案
- 评测报告的结构与必要信息。
- 偏差发现的业务影响与风险分级。
- 如何定位数据、模型与应用环节的问题？
- 数据补充、重采样与样本加权的改进思路。
- 模型训练阶段的偏差缓解方法。
- 预测结果与决策阈值的调整方法。
- 公平性与模型性能之间的权衡。
- 整改后的复测与改进效果验证。
- 模型更新与数据变化后的再评测。
- 持续监测、异常预警与反馈处理。
- Intertek 偏差测评服务与企业配合事项。
- 企业偏差评测与治理实施路线图。
授课收益
- 识别偏差风险：
理解非期望偏差的主要来源及其对业务的影响。
- 掌握评测方法：
了解群体划分、数据准备、指标选择与测试流程。
- 解读测试结果：
识别分类与回归模型的群体差异及评测局限。
- 形成治理思路：
明确偏差整改、复测验证与持续监测的实施路径。
课程对象
- AI 产品、算法研发、数据管理、测试验证、质量、合规及业务管理等相关岗位人员。
- 参训学员建议具备人工智能与数据分析基础，了解分类、回归及常见模型性能指标。
专家简介
唐浩然 Tom Tang
Intertek天祥集团
AI合规资深专家
- 新加坡国立大学AI系统专业硕士，拥有人工智能技术研发与全球AI合规双重实战经验。
- 精通 EU AI Act、UL 3115 等国际法规标准，擅长将监管要求转化为落地制度与执行方案。牵头构建了一体化 AI 合规评估框架，包括AI系统透明度评估、AI系统风险管理评估及人工智能法案风险定级与合规差距分析框架等。
|
