RigorMed
← 科研資源

公開醫學數據準備指南

醫學科研數據清洗怎麼做?

先把清理動作整理成可審閱的規則表 可請求的產物/交付目標: 清理規則表、品質問題摘要與變更紀錄範本。

數據清洗與缺失值

數據清洗不是把空白行刪掉、把異常值改成平均數。研究者需要先確認字段含義、適用人群和特殊編碼,再凍結可復核的清洗規則,保留原始數據與每一步變更;缺失值如何進入統計分析,則應在研究方案中另行決定。

本文面向有權使用的公開或合成醫學研究數據,說明從原始文件到分析準備數據的保守流程。以 NHANES 文檔說明如何核對變量語義,但不提供適用於所有數據庫的自動清洗公式,也不把清洗後的數據視為已完成統計或倫理審查。

用 RigorMed 交付這項任務

  1. 先把清理動作整理成可審閱的規則表

    以下為建議任務輸入與可請求整理產物,不是本輪實跑、客戶成果或保證完成。

    已有材料: 有權使用的公開或合成資料字典、編碼說明、確定性品質彙總與候選清理規則。

    可請求的產物/交付目標: 清理規則表、品質問題摘要與變更紀錄範本。

  2. 可直接改寫的任務輸入

    逐項寫清原欄位、問題、候選規則、依據與影響;區分空白、特殊編碼與真正缺失,形成需要我確認的清理計畫,不自動填補或刪除。

  3. 人工核對

    是否執行清理須另行確認;不能用模型猜測患者逐筆資料、缺失值或資料語義。

先建數據字典,再判斷什麼需要清洗

同一個空格或數字代碼,可能表示未被提問、拒答、低於檢測限,或確實漏錄。處理前先從對應版本的官方文檔確定語義。

醫學公開數據字典與清洗規則的最小記錄
記錄項至少核對什麼清洗時的作用
來源和版本官方文件、週期或版本、下載及文檔鏈接、訪問日期避免把不同發佈版本混為一份數據
變量定義原始列名、標籤、類型、單位、測量方式、允許取值防止同名列或單位變化被誤當作相同變量
適用人群納入條件、問卷跳題、子樣本和記錄粒度區分結構性未詢問與真正缺失,確定分母
特殊編碼拒答、不知道、檢測限及其他保留碼的逐變量說明僅按有證據的規則映射,不把特殊碼當連續數值
轉換規則目標字段、原始值、目標值、理由、執行版本與影響行數讓重編碼、單位換算和排除都可追溯

NHANES 的 Data Documentation、Codebook 與 Frequencies 提供變量說明和頻數;仍需核對對應組件、週期及 Analytic Notes。示例字典只是字段清單,不能代替目標數據源自己的官方定義。

從原始文件到可復核數據的六步

  1. 保留原始文件並寫明研究問題

    先確認數據使用條件、研究人群、主要暴露或預測變量、結局和所需週期。原始文件保持只讀;記錄來源版本、取得日期和使用範圍。不要先改表格,再反推研究定義。

  2. 逐變量綁定官方字典

    為核心字段記錄類型、單位、取值、適用人群、問卷或測量方式、跳題邏輯和特殊編碼。跨文件合併前核對參與者鍵、記錄粒度、重復情況;跨週期合併前核對測量和編碼是否可比。

  3. 先做質量概覽,不立刻修值

    分別統計原始行數、唯一鍵、重復記錄、各變量及關鍵人群的缺失和特殊碼、超出官方範圍的取值。異常分布只是待核對信號,不自動等於錄入錯誤;公開數據的抑制、頂端編碼或檢測限也可能是設計的一部分。

  4. 凍結保守的清洗計劃

    只對有文檔依據的編碼轉換、類型解析、單位換算和預先定義的派生變量寫明確規則。規則要說明觸發條件、原值與新值、影響範圍及無法判定時如何停止;不靜默填補缺失、刪除異常行或改寫原始數據。

  5. 在副本上執行並復核變化

    輸出清洗後數據、確認後的字典與變更記錄,對照轉換前後行數、唯一鍵、特殊碼和主要變量分布。每項排除和合併都應能解釋樣本流轉;檢查失敗就回到規則或來源文檔,不用人工改幾個單元格掩蓋問題。

  6. 把缺失值分析決策留給方案

    按變量和人群報告缺失數量及比例,區分未詢問、拒答、測量失敗和未知原因。完整案例分析、插補或敏感性分析取決於研究設計、缺失機制假設、模型和抽樣結構,不能憑缺失率閾值自動選定;在正式分析前寫進方案,並在報告中說明實際處理。

“缺失”不只有一種:不要一鍵填 0 或刪整行

因年齡、性別、跳題或子樣本設計而沒有測量的人,不等於應答卻拒答的人;實驗室低於檢測限也不等於普通空值。先按官方字典與研究分母區分這些情況,無法判定時保留未知狀態並停止自動轉換。

把所有空值填 0 會製造不存在的觀測;只保留完整行也可能改變目標人群和估計。插補屬於預先論證的分析方法,不是清洗步驟的默認補丁。對 NHANES 等複雜抽樣資料,還需在後續分析中保留適用權重、分層和 PSU。

數據進入分析前的檢查清單

只有下列問題可回答,清洗結果才有條件交給下一階段:

  • 原始文件、版本、使用條件和官方字典是否可追溯?
  • 核心變量的適用人群、單位、取值及特殊編碼是否逐項核對?
  • 結構性未詢問、拒答、測量缺失和未知原因是否分開記錄?
  • 合併鍵、記錄粒度、重復記錄和跨週期可比性是否檢查?
  • 每項轉換或排除是否有規則、理由、影響行數與變更記錄?
  • 清洗前後樣本流轉、關鍵變量分布與數據字典是否一致?
  • 正式分析的缺失處理、抽樣設計和敏感性分析是否另有預定方案?

STROBE 報告檢查清單要求說明缺失數據的處理。清洗日誌可以證明做過什麼,但不能單獨證明研究設計、統計方法或結論正確。

常見問題

公開數據里的 7、9、77、99 都是缺失值嗎?

不能按數字猜。不同數據源、變量和週期可能使用不同編碼,甚至同一數字是合法取值。必須打開對應版本的 Codebook、Frequencies 和問卷說明,按字段確認後再轉換。

缺失少於 5%,就可以直接刪行嗎?

沒有適用於所有研究的固定比例。刪除後的樣本可能與原人群不同,也會影響估計和精度。先描述缺失模式與原因,再按研究設計、分析方案和必要的敏感性分析決定。

離群值應該自動截尾或改成均值嗎?

不應自動處理。先核對單位、量程、頂端編碼、檢測限和原始來源,區分合理極端值與確鑿錯誤;任何截尾或排除都應有預設依據和變更記錄。

清洗完成就能直接做統計或寫論文嗎?

不能。仍需確認研究問題、數據授權、變量定義、抽樣或隊列設計、缺失處理方案與適用報告規範。清洗後的數據只是後續受控分析的輸入。

核驗來源

以下官方來源核驗於 2026-09-26 / RigorMed: 2026-10-13,發布前將再次檢查存取條件與更新時間。

  1. CDC/NCHS:NHANES 2021–2023 人口學數據文檔、Codebook 與 Frequencies
  2. CDC/NCHS:NHANES 調查方法與分析指南
  3. STROBE:觀察性研究報告檢查清單

帶著材料開始

先把清理動作整理成可審閱的規則表

帶著有權使用的材料,依本頁任務範例提交到工作台;按執行前的材料與積分提示確認,再複核可審閱的成果。