公开医学数据准备指南
医学科研数据清洗怎么做?
先把清洗动作整理成可审阅的规则表 可请求的产物/交付目标: 清洗规则表、质量问题摘要和变更记录模板。
数据清洗不是把空白行删掉、把异常值改成平均数。研究者需要先确认字段含义、适用人群和特殊编码,再冻结可复核的清洗规则,保留原始数据与每一步变更;缺失值如何进入统计分析,则应在研究方案中另行决定。
本文面向有权使用的公开或合成医学研究数据,说明从原始文件到分析准备数据的保守流程。以 NHANES 文档说明如何核对变量语义,但不提供适用于所有数据库的自动清洗公式,也不把清洗后的数据视为已完成统计或伦理审查。
把这项任务交给RigorMed:材料、产物与核对
先把清洗动作整理成可审阅的规则表
下面是建议任务输入与整理目标,不是本轮实跑或客户成效;是否执行及具体交付仍须核对材料、能力与确认结果。
需要提供的材料: 有权使用的公开/合成数据字典、编码说明、确定性质量汇总和候选清洗规则。
可请求的产物/交付目标: 清洗规则表、质量问题摘要和变更记录模板。
可直接改写的任务输入
逐项写清原字段、问题、候选规则、依据和影响;区分空白、特殊编码与真实缺失,形成需我确认的清洗计划,不自动填补或删除。
如何检查结果
是否执行清洗需要另行确认;不能用模型猜测患者行、缺失值或数据语义。
先建数据字典,再判断什么需要清洗
同一个空格或数字代码,可能表示未被提问、拒答、低于检测限,或确实漏录。处理前先从对应版本的官方文档确定语义。
| 记录项 | 至少核对什么 | 清洗时的作用 |
|---|---|---|
| 来源和版本 | 官方文件、周期或版本、下载及文档链接、访问日期 | 避免把不同发布版本混为一份数据 |
| 变量定义 | 原始列名、标签、类型、单位、测量方式、允许取值 | 防止同名列或单位变化被误当作相同变量 |
| 适用人群 | 纳入条件、问卷跳题、子样本和记录粒度 | 区分结构性未询问与真正缺失,确定分母 |
| 特殊编码 | 拒答、不知道、检测限及其他保留码的逐变量说明 | 仅按有证据的规则映射,不把特殊码当连续数值 |
| 转换规则 | 目标字段、原始值、目标值、理由、执行版本与影响行数 | 让重编码、单位换算和排除都可追溯 |
NHANES 的 Data Documentation、Codebook 与 Frequencies 提供变量说明和频数;仍需核对对应组件、周期及 Analytic Notes。示例字典只是字段清单,不能代替目标数据源自己的官方定义。
从原始文件到可复核数据的六步
保留原始文件并写明研究问题
先确认数据使用条件、研究人群、主要暴露或预测变量、结局和所需周期。原始文件保持只读;记录来源版本、取得日期和使用范围。不要先改表格,再反推研究定义。
逐变量绑定官方字典
为核心字段记录类型、单位、取值、适用人群、问卷或测量方式、跳题逻辑和特殊编码。跨文件合并前核对参与者键、记录粒度、重复情况;跨周期合并前核对测量和编码是否可比。
先做质量概览,不立刻修值
分别统计原始行数、唯一键、重复记录、各变量及关键人群的缺失和特殊码、超出官方范围的取值。异常分布只是待核对信号,不自动等于录入错误;公开数据的抑制、顶端编码或检测限也可能是设计的一部分。
冻结保守的清洗计划
只对有文档依据的编码转换、类型解析、单位换算和预先定义的派生变量写明确规则。规则要说明触发条件、原值与新值、影响范围及无法判定时如何停止;不静默填补缺失、删除异常行或改写原始数据。
在副本上执行并复核变化
输出清洗后数据、确认后的字典与变更记录,对照转换前后行数、唯一键、特殊码和主要变量分布。每项排除和合并都应能解释样本流转;检查失败就回到规则或来源文档,不用人工改几个单元格掩盖问题。
把缺失值分析决策留给方案
按变量和人群报告缺失数量及比例,区分未询问、拒答、测量失败和未知原因。完整案例分析、插补或敏感性分析取决于研究设计、缺失机制假设、模型和抽样结构,不能凭缺失率阈值自动选定;在正式分析前写进方案,并在报告中说明实际处理。
“缺失”不只有一种:不要一键填 0 或删整行
因年龄、性别、跳题或子样本设计而没有测量的人,不等于应答却拒答的人;实验室低于检测限也不等于普通空值。先按官方字典与研究分母区分这些情况,无法判定时保留未知状态并停止自动转换。
把所有空值填 0 会制造不存在的观测;只保留完整行也可能改变目标人群和估计。插补属于预先论证的分析方法,不是清洗步骤的默认补丁。对 NHANES 等复杂抽样资料,还需在后续分析中保留适用权重、分层和 PSU。
数据进入分析前的检查清单
只有下列问题可回答,清洗结果才有条件交给下一阶段:
- 原始文件、版本、使用条件和官方字典是否可追溯?
- 核心变量的适用人群、单位、取值及特殊编码是否逐项核对?
- 结构性未询问、拒答、测量缺失和未知原因是否分开记录?
- 合并键、记录粒度、重复记录和跨周期可比性是否检查?
- 每项转换或排除是否有规则、理由、影响行数与变更记录?
- 清洗前后样本流转、关键变量分布与数据字典是否一致?
- 正式分析的缺失处理、抽样设计和敏感性分析是否另有预定方案?
STROBE 报告检查清单要求说明缺失数据的处理。清洗日志可以证明做过什么,但不能单独证明研究设计、统计方法或结论正确。
常见问题
公开数据里的 7、9、77、99 都是缺失值吗?
不能按数字猜。不同数据源、变量和周期可能使用不同编码,甚至同一数字是合法取值。必须打开对应版本的 Codebook、Frequencies 和问卷说明,按字段确认后再转换。
缺失少于 5%,就可以直接删行吗?
没有适用于所有研究的固定比例。删除后的样本可能与原人群不同,也会影响估计和精度。先描述缺失模式与原因,再按研究设计、分析方案和必要的敏感性分析决定。
离群值应该自动截尾或改成均值吗?
不应自动处理。先核对单位、量程、顶端编码、检测限和原始来源,区分合理极端值与确凿错误;任何截尾或排除都应有预设依据和变更记录。
清洗完成就能直接做统计或写论文吗?
不能。仍需确认研究问题、数据授权、变量定义、抽样或队列设计、缺失处理方案与适用报告规范。清洗后的数据只是后续受控分析的输入。
核验来源
以下官方来源核验于 2026 年 9 月 26 日 / RigorMed: 2026-10-13,页面发布前将再次检查访问条件和更新时间。
带着材料和产物目标开始
先把清洗动作整理成可审阅的规则表
登录工作台,说明你有权使用的材料和希望拿到的产物,可改写上面的任务输入。按执行前材料与积分提示确认,再核对实际交付中的依据、数字和待确认项。
