公開醫學數據準備指南
醫學科研數據清洗怎麼做?
先把清理動作整理成可審閱的規則表 可請求的產物/交付目標: 清理規則表、品質問題摘要與變更紀錄範本。
數據清洗不是把空白行刪掉、把異常值改成平均數。研究者需要先確認字段含義、適用人群和特殊編碼,再凍結可復核的清洗規則,保留原始數據與每一步變更;缺失值如何進入統計分析,則應在研究方案中另行決定。
本文面向有權使用的公開或合成醫學研究數據,說明從原始文件到分析準備數據的保守流程。以 NHANES 文檔說明如何核對變量語義,但不提供適用於所有數據庫的自動清洗公式,也不把清洗後的數據視為已完成統計或倫理審查。
用 RigorMed 交付這項任務
先把清理動作整理成可審閱的規則表
以下為建議任務輸入與可請求整理產物,不是本輪實跑、客戶成果或保證完成。
已有材料: 有權使用的公開或合成資料字典、編碼說明、確定性品質彙總與候選清理規則。
可請求的產物/交付目標: 清理規則表、品質問題摘要與變更紀錄範本。
可直接改寫的任務輸入
逐項寫清原欄位、問題、候選規則、依據與影響;區分空白、特殊編碼與真正缺失,形成需要我確認的清理計畫,不自動填補或刪除。
人工核對
是否執行清理須另行確認;不能用模型猜測患者逐筆資料、缺失值或資料語義。
先建數據字典,再判斷什麼需要清洗
同一個空格或數字代碼,可能表示未被提問、拒答、低於檢測限,或確實漏錄。處理前先從對應版本的官方文檔確定語義。
| 記錄項 | 至少核對什麼 | 清洗時的作用 |
|---|---|---|
| 來源和版本 | 官方文件、週期或版本、下載及文檔鏈接、訪問日期 | 避免把不同發佈版本混為一份數據 |
| 變量定義 | 原始列名、標籤、類型、單位、測量方式、允許取值 | 防止同名列或單位變化被誤當作相同變量 |
| 適用人群 | 納入條件、問卷跳題、子樣本和記錄粒度 | 區分結構性未詢問與真正缺失,確定分母 |
| 特殊編碼 | 拒答、不知道、檢測限及其他保留碼的逐變量說明 | 僅按有證據的規則映射,不把特殊碼當連續數值 |
| 轉換規則 | 目標字段、原始值、目標值、理由、執行版本與影響行數 | 讓重編碼、單位換算和排除都可追溯 |
NHANES 的 Data Documentation、Codebook 與 Frequencies 提供變量說明和頻數;仍需核對對應組件、週期及 Analytic Notes。示例字典只是字段清單,不能代替目標數據源自己的官方定義。
從原始文件到可復核數據的六步
保留原始文件並寫明研究問題
先確認數據使用條件、研究人群、主要暴露或預測變量、結局和所需週期。原始文件保持只讀;記錄來源版本、取得日期和使用範圍。不要先改表格,再反推研究定義。
逐變量綁定官方字典
為核心字段記錄類型、單位、取值、適用人群、問卷或測量方式、跳題邏輯和特殊編碼。跨文件合併前核對參與者鍵、記錄粒度、重復情況;跨週期合併前核對測量和編碼是否可比。
先做質量概覽,不立刻修值
分別統計原始行數、唯一鍵、重復記錄、各變量及關鍵人群的缺失和特殊碼、超出官方範圍的取值。異常分布只是待核對信號,不自動等於錄入錯誤;公開數據的抑制、頂端編碼或檢測限也可能是設計的一部分。
凍結保守的清洗計劃
只對有文檔依據的編碼轉換、類型解析、單位換算和預先定義的派生變量寫明確規則。規則要說明觸發條件、原值與新值、影響範圍及無法判定時如何停止;不靜默填補缺失、刪除異常行或改寫原始數據。
在副本上執行並復核變化
輸出清洗後數據、確認後的字典與變更記錄,對照轉換前後行數、唯一鍵、特殊碼和主要變量分布。每項排除和合併都應能解釋樣本流轉;檢查失敗就回到規則或來源文檔,不用人工改幾個單元格掩蓋問題。
把缺失值分析決策留給方案
按變量和人群報告缺失數量及比例,區分未詢問、拒答、測量失敗和未知原因。完整案例分析、插補或敏感性分析取決於研究設計、缺失機制假設、模型和抽樣結構,不能憑缺失率閾值自動選定;在正式分析前寫進方案,並在報告中說明實際處理。
“缺失”不只有一種:不要一鍵填 0 或刪整行
因年齡、性別、跳題或子樣本設計而沒有測量的人,不等於應答卻拒答的人;實驗室低於檢測限也不等於普通空值。先按官方字典與研究分母區分這些情況,無法判定時保留未知狀態並停止自動轉換。
把所有空值填 0 會製造不存在的觀測;只保留完整行也可能改變目標人群和估計。插補屬於預先論證的分析方法,不是清洗步驟的默認補丁。對 NHANES 等複雜抽樣資料,還需在後續分析中保留適用權重、分層和 PSU。
數據進入分析前的檢查清單
只有下列問題可回答,清洗結果才有條件交給下一階段:
- 原始文件、版本、使用條件和官方字典是否可追溯?
- 核心變量的適用人群、單位、取值及特殊編碼是否逐項核對?
- 結構性未詢問、拒答、測量缺失和未知原因是否分開記錄?
- 合併鍵、記錄粒度、重復記錄和跨週期可比性是否檢查?
- 每項轉換或排除是否有規則、理由、影響行數與變更記錄?
- 清洗前後樣本流轉、關鍵變量分布與數據字典是否一致?
- 正式分析的缺失處理、抽樣設計和敏感性分析是否另有預定方案?
STROBE 報告檢查清單要求說明缺失數據的處理。清洗日誌可以證明做過什麼,但不能單獨證明研究設計、統計方法或結論正確。
常見問題
公開數據里的 7、9、77、99 都是缺失值嗎?
不能按數字猜。不同數據源、變量和週期可能使用不同編碼,甚至同一數字是合法取值。必須打開對應版本的 Codebook、Frequencies 和問卷說明,按字段確認後再轉換。
缺失少於 5%,就可以直接刪行嗎?
沒有適用於所有研究的固定比例。刪除後的樣本可能與原人群不同,也會影響估計和精度。先描述缺失模式與原因,再按研究設計、分析方案和必要的敏感性分析決定。
離群值應該自動截尾或改成均值嗎?
不應自動處理。先核對單位、量程、頂端編碼、檢測限和原始來源,區分合理極端值與確鑿錯誤;任何截尾或排除都應有預設依據和變更記錄。
清洗完成就能直接做統計或寫論文嗎?
不能。仍需確認研究問題、數據授權、變量定義、抽樣或隊列設計、缺失處理方案與適用報告規範。清洗後的數據只是後續受控分析的輸入。
核驗來源
以下官方來源核驗於 2026-09-26 / RigorMed: 2026-10-13,發布前將再次檢查存取條件與更新時間。
帶著材料開始
先把清理動作整理成可審閱的規則表
帶著有權使用的材料,依本頁任務範例提交到工作台;按執行前的材料與積分提示確認,再複核可審閱的成果。
