华电新疆公司 · 集团 AI 竞赛赛前培训 · 第三天 · 数据治理

数据治理(一)· 题型解读、检测方法与平台流程

上午课配套材料:读题、看数据,然后用可操作的模拟平台把 6 种检测方法、每个参数、每个按钮讲清;最后给出三条铁律、方法选择表和赛场建议顺序。下午课逐题拆解 12 题。

素材:数据治理_介绍文档.pdf + 数据.xlsx(5000 行 × 24 列)+ 平台截图对应日程:10/21 上午(线上)

1题目是什么:一份数据、12 道题

背景
某燃机电厂 A,9 号机组压气机状态监测数据。受传输干扰、设备维护、传感器故障影响,数据中含各类异常、缺失和噪声。
考生需结合领域规则(压气机效率不可能大于 1、机组负荷不可为负等)与动态检测算法(IQR、3-sigma、Z-score、STL 等),
对数据集进行系统性的清洗、修复与版本管理,最终形成一套可复用的高质量数据流水线。

数据集
电厂 A#9 压气机实际运行记录,5000 条(采样间隔 5 分钟),24 列:时间、压气机效率、机组负荷、机组转速、
压气机排气温度(测点 1/2/3)、排气压力(1A/1B/1C)、进气温度、环境温度、进气湿度、大气压力、点火信号 等。
覆盖启停机、平稳运行等工况,人为构造了多种典型异常和缺失模式以考察治理能力。

评分(每题共性)
① 发现得对(用可视化 / 统计 / 对比定位到) ② 判断得对(物理越界 / 缺失 / 硬故障 / 漂移 / 卡死 / 关联异常)
③ 方法得当(物理约束用截断;统计异常用对应算法和参数) ④ 修复得当(不删行、不用全局均值,保持时序连续) ⑤ 保存清洗版本

12 题总览(每题详解见下午课材料《数据治理(二)》):

2数据长什么样

图 2-1 5000 行全貌。注意:大部分时间机组在停机(负荷≈0、点火=0、转速≈0),只有前 400 行和 600 行附近有运行 —— 很多"异常"要放在停机工况下看才看得出
列正常值长什么样这份数据里埋了什么
压气机效率0~1题 1:1648 个 <0、133 个 >1
机组负荷≥0(停机 0,满载 ~400 MW)题 2:停机段 −0.3~−0.6 共 4767 个
点火信号0 或 1题 3:4 个小数
排气温度 1/2/3三者几乎相等(停机 ~15℃,运行 300~400℃)题 4 极值、题 5 缺失、题 6 漂移、题 12 温度 2 关联异常
机组转速停机 ~4 rpm,运行 3000题 7 停机尖峰、题 8 启停跳变
排气压力 1B / 大气压力随工况变 / ~770题 9 卡死
进气湿度一天一峰,20~90%题 10 尖峰突降
环境温度缓变题 11 零散缺失

3模拟平台:左边照着点,右边跟着讲

下面是一个可操作的模拟赛场平台,用题 7(停机段转速尖峰)从头走一遍:进题目 → 看数据画图 → 筛工况 → 选方法填参数 → 开始检测 → 修复 → 标记答案 → 保存版本。左边是界面,点按钮会真的翻页;右边是解说,你点到哪它讲哪。换检测方法、点参数框、点顶部按钮都有解说。

① 进题目→② 看数据 · 画图→③ 筛工况 · 选方法 · 检测→④ 修复→⑤ 标记答案 · 历史版本→⑥ 提交点这里也能跳页
AI 大赛 | 数据治理 · 题目http://10.168.157.18:32572/…
🔖 标记答案🕘 历史版本↻ 恢复原始数据▦ 缺失值填充✎ 批量替换⌕ 条件筛选📈 图表⚠ 异常值检测点任一按钮看它干什么
题干 ① 点下面题干 · 看怎么读
背景
在工业智能化转型过程中,传感器采集的时序数据质量直接影响后续建模分析的准确性和可靠性。然而,受传输干扰、设备维护、传感器故障等因素影响,实际数据中常包含各类异常、缺失和噪声……本赛题以某燃机电厂 A,9 号机组的压气机状态监测数据为基础,构建一个融合"物理常识""统计方法"与"机器学习"的多维数据治理任务。考生需结合领域规则(如压气机效率不可能大于 1、机组负荷不可为负等)与动态检测算法(IQR、3-sigma、Z-score、STL 等),对数据集进行系统性的清洗、修复与版本管理,最终形成一套可复用的高质量数据流水线。

题目 7 出题位置:机组转速列(停机工况下的局部突发异常高值)
识别并修正"机组转速"列在停机阶段出现的突发性异常高值。该异常在全局 3-sigma 检测下不可见(全局范围为 [−1762.28, 2062.53]),需结合工况筛选、局部可视化曲线、滑动窗口 Z-score 及 K-means 聚类分析进行多维度定位,最后采用趋势插值或前向填充有效值替代法完成修复。
数据集 ② 点下面表格 · 看有哪些列 查看完整数据 ↗
时间压气机效率机组负荷机组转速排气温度1点火信号…共 24 列
2024-01-01 00:000.912396.93001.2378.21…
2024-01-01 00:050.911397.42998.9378.01…
……−299.5−0.34.10.394…
……共 5000 行
开始答题③ 读完点「开始答题」
图表:趋势图 · 全貌趋势图 · 放大停机段散点图 · 转速 vs 负荷先全貌再放大再散点
字段:机组负荷 / 点火信号 / 机组转速 行数:1–5000
← 返回题目去检测 →看明白工况后点「去检测」
条件筛选:机组负荷 < 5 且 点火信号 = 0 → 4761 行① 先筛停机段
字段:机组转速 行数:600–800(停机段) 
异常值检测 ② 换方法 · 点参数
机组转速 ▾
600 至 800
开始检测重置
修复对象:机组转速 · 行 696–731、1623–1628(42 个异常点)
修复前:红点为检出的异常
修复方式 点一种看适合什么
线性插值
前向填充
同工况均值(≈3.8 rpm)
指定列均值(冗余测点)
全局均值 ✗
删除行 ✗
应用修复
历史版本 点任一行 · 看这版做了什么
版本名称做了什么状态
v1物理约束三题效率截断 [0,1]、负荷截断 ≥0、点火二值化已标记
v2缺失两题排温1 用 T2/T3 均值填、环温线性插值已标记
v3排温多测点极值 / 漂移 / 温度2 关联 → 冗余测点替代已标记
v4转速_停机尖峰_滑动Z_插值筛停机段 → Z 窗口10 阈值3 → 线性插值 42 点刚保存
v5(下一题)启停跳变 / 卡死 / 湿度 STL …待做
回到修复恢复原始数据全部做完 · 提交
✔
已提交
评分看:标记的异常点对不对、修复后的数据合不合理、每题是否保存了版本
从头再走一遍

界面依据客户提供的平台截图绘制;真实截图:趋势图 | 散点图 | 相关系数图 | Z-score | 3σ | IQR | STL_IQR | STL_S_H_ESD | K-means

4三条铁律 + 方法选择一张图

铁律为什么
① 不删行24 列共用一个时间戳,删一行就把其他 23 列也删了,时序断裂。所有题的评分都写了"未删行"。
② 不用全局均值填这份数据大部分时间停机,全局均值是"半停半开"的假值;填进去把停机段填成运行值。要用:同工况值 / 冗余测点 / 前后点插值。
③ 先分工况再检测启停段波动大,把全局标准差撑得极大,全局 3σ / IQR 对停机段的尖峰完全失效(题 7 原话:全局范围 [−1762, 2062])。先筛工况(负荷<5 & 点火=0),再在局部用滑动窗口方法。
看到什么用什么
数值超出物理范围(效率>1、负荷<0、温度 1300)物理约束:截断 / 冗余测点替代,不用统计方法
该是 0/1 的列出现小数二值化 阈值 0.5
折线断了、统计里有空值缺失:有冗余测点 → 指定列均值;没有 → 线性插值;极短 → 前向填充
平稳段里突然尖峰,全局 3σ 看不见筛工况 + 滑动 Z-score(窗口 6–12、阈值 3);K-means 验证
一条线长时间不动卡死:差分 ≈ 0 定位,前向填充
数值合法但和同类测点差得多残差 / K-means(标准化 + 肘图)
有日周期、峰值还会漂STL period 288、阈值 3
图 4-1 同一段停机转速:全局 3σ 一个都抓不到;只算这 200 行的 IQR 能抓到;滑动 Z-score 抓到跳变的瞬间

5赛场建议流程

  1. 先画全貌:负荷、点火、转速三条折线,划出运行段 / 启停段 / 停机段。后面所有检测都按段做。
  2. 先做物理约束三题(效率、负荷、点火):排序看极值 → 筛选 → 批量替换。10 分钟搞定,保存版本 v1。
  3. 再做缺失两题(排温 1、环温):折线看黄色断点 → 有冗余测点用指定列均值,没有用线性插值。保存 v2。
  4. 再做多测点对比题(排温极值、漂移、温度 2 关联):三条温度线叠在一起看,谁跳谁坏,用另两条修。保存 v3。
  5. 最后做算法题(停机尖峰、启停跳变、卡死、湿度 STL):先筛工况,再用滑动 Z / 差分 / STL / K-means。每题一个版本。
  6. 每题修完画修复前后对比图,确认平滑、无残留,再「标记答案」「保存版本」。
口径:基于客户提供的样题介绍文档、数据文件与平台截图编写;图均由真实数据生成;平台界面为示意,实际以赛场版本为准;无平台实操环境,本日为理论与案例讲解。