RigorMed
← 科研资源

公开医学数据准备指南

医学科研数据清洗怎么做?

先把清洗动作整理成可审阅的规则表 可请求的产物/交付目标: 清洗规则表、质量问题摘要和变更记录模板。

数据清洗与缺失值

数据清洗不是把空白行删掉、把异常值改成平均数。研究者需要先确认字段含义、适用人群和特殊编码,再冻结可复核的清洗规则,保留原始数据与每一步变更;缺失值如何进入统计分析,则应在研究方案中另行决定。

本文面向有权使用的公开或合成医学研究数据,说明从原始文件到分析准备数据的保守流程。以 NHANES 文档说明如何核对变量语义,但不提供适用于所有数据库的自动清洗公式,也不把清洗后的数据视为已完成统计或伦理审查。

把这项任务交给RigorMed:材料、产物与核对

  1. 先把清洗动作整理成可审阅的规则表

    下面是建议任务输入与整理目标,不是本轮实跑或客户成效;是否执行及具体交付仍须核对材料、能力与确认结果。

    需要提供的材料: 有权使用的公开/合成数据字典、编码说明、确定性质量汇总和候选清洗规则。

    可请求的产物/交付目标: 清洗规则表、质量问题摘要和变更记录模板。

  2. 可直接改写的任务输入

    逐项写清原字段、问题、候选规则、依据和影响;区分空白、特殊编码与真实缺失,形成需我确认的清洗计划,不自动填补或删除。

  3. 如何检查结果

    是否执行清洗需要另行确认;不能用模型猜测患者行、缺失值或数据语义。

先建数据字典,再判断什么需要清洗

同一个空格或数字代码,可能表示未被提问、拒答、低于检测限,或确实漏录。处理前先从对应版本的官方文档确定语义。

医学公开数据字典与清洗规则的最小记录
记录项至少核对什么清洗时的作用
来源和版本官方文件、周期或版本、下载及文档链接、访问日期避免把不同发布版本混为一份数据
变量定义原始列名、标签、类型、单位、测量方式、允许取值防止同名列或单位变化被误当作相同变量
适用人群纳入条件、问卷跳题、子样本和记录粒度区分结构性未询问与真正缺失,确定分母
特殊编码拒答、不知道、检测限及其他保留码的逐变量说明仅按有证据的规则映射,不把特殊码当连续数值
转换规则目标字段、原始值、目标值、理由、执行版本与影响行数让重编码、单位换算和排除都可追溯

NHANES 的 Data Documentation、Codebook 与 Frequencies 提供变量说明和频数;仍需核对对应组件、周期及 Analytic Notes。示例字典只是字段清单,不能代替目标数据源自己的官方定义。

从原始文件到可复核数据的六步

  1. 保留原始文件并写明研究问题

    先确认数据使用条件、研究人群、主要暴露或预测变量、结局和所需周期。原始文件保持只读;记录来源版本、取得日期和使用范围。不要先改表格,再反推研究定义。

  2. 逐变量绑定官方字典

    为核心字段记录类型、单位、取值、适用人群、问卷或测量方式、跳题逻辑和特殊编码。跨文件合并前核对参与者键、记录粒度、重复情况;跨周期合并前核对测量和编码是否可比。

  3. 先做质量概览,不立刻修值

    分别统计原始行数、唯一键、重复记录、各变量及关键人群的缺失和特殊码、超出官方范围的取值。异常分布只是待核对信号,不自动等于录入错误;公开数据的抑制、顶端编码或检测限也可能是设计的一部分。

  4. 冻结保守的清洗计划

    只对有文档依据的编码转换、类型解析、单位换算和预先定义的派生变量写明确规则。规则要说明触发条件、原值与新值、影响范围及无法判定时如何停止;不静默填补缺失、删除异常行或改写原始数据。

  5. 在副本上执行并复核变化

    输出清洗后数据、确认后的字典与变更记录,对照转换前后行数、唯一键、特殊码和主要变量分布。每项排除和合并都应能解释样本流转;检查失败就回到规则或来源文档,不用人工改几个单元格掩盖问题。

  6. 把缺失值分析决策留给方案

    按变量和人群报告缺失数量及比例,区分未询问、拒答、测量失败和未知原因。完整案例分析、插补或敏感性分析取决于研究设计、缺失机制假设、模型和抽样结构,不能凭缺失率阈值自动选定;在正式分析前写进方案,并在报告中说明实际处理。

“缺失”不只有一种:不要一键填 0 或删整行

因年龄、性别、跳题或子样本设计而没有测量的人,不等于应答却拒答的人;实验室低于检测限也不等于普通空值。先按官方字典与研究分母区分这些情况,无法判定时保留未知状态并停止自动转换。

把所有空值填 0 会制造不存在的观测;只保留完整行也可能改变目标人群和估计。插补属于预先论证的分析方法,不是清洗步骤的默认补丁。对 NHANES 等复杂抽样资料,还需在后续分析中保留适用权重、分层和 PSU。

数据进入分析前的检查清单

只有下列问题可回答,清洗结果才有条件交给下一阶段:

  • 原始文件、版本、使用条件和官方字典是否可追溯?
  • 核心变量的适用人群、单位、取值及特殊编码是否逐项核对?
  • 结构性未询问、拒答、测量缺失和未知原因是否分开记录?
  • 合并键、记录粒度、重复记录和跨周期可比性是否检查?
  • 每项转换或排除是否有规则、理由、影响行数与变更记录?
  • 清洗前后样本流转、关键变量分布与数据字典是否一致?
  • 正式分析的缺失处理、抽样设计和敏感性分析是否另有预定方案?

STROBE 报告检查清单要求说明缺失数据的处理。清洗日志可以证明做过什么,但不能单独证明研究设计、统计方法或结论正确。

常见问题

公开数据里的 7、9、77、99 都是缺失值吗?

不能按数字猜。不同数据源、变量和周期可能使用不同编码,甚至同一数字是合法取值。必须打开对应版本的 Codebook、Frequencies 和问卷说明,按字段确认后再转换。

缺失少于 5%,就可以直接删行吗?

没有适用于所有研究的固定比例。删除后的样本可能与原人群不同,也会影响估计和精度。先描述缺失模式与原因,再按研究设计、分析方案和必要的敏感性分析决定。

离群值应该自动截尾或改成均值吗?

不应自动处理。先核对单位、量程、顶端编码、检测限和原始来源,区分合理极端值与确凿错误;任何截尾或排除都应有预设依据和变更记录。

清洗完成就能直接做统计或写论文吗?

不能。仍需确认研究问题、数据授权、变量定义、抽样或队列设计、缺失处理方案与适用报告规范。清洗后的数据只是后续受控分析的输入。

核验来源

以下官方来源核验于 2026 年 9 月 26 日 / RigorMed: 2026-10-13,页面发布前将再次检查访问条件和更新时间。

  1. CDC/NCHS:NHANES 2021–2023 人口学数据文档、Codebook 与 Frequencies
  2. CDC/NCHS:NHANES 调查方法与分析指南
  3. STROBE:观察性研究报告检查清单

带着材料和产物目标开始

先把清洗动作整理成可审阅的规则表

登录工作台,说明你有权使用的材料和希望拿到的产物,可改写上面的任务输入。按执行前材料与积分提示确认,再核对实际交付中的依据、数字和待确认项。