Categories
K-12 教育階段 教育行政及領導

WWC的實證成果有多大的推廣性?

近期教育研究經費的削減突顯了可靠的教育成效證據之重要性。自 2002年以來,「有效教學策略資料中心」(What Works Clearinghouse,WWC)通過檢驗教育干預的因果研究並評估其品質,為教育成效提供了參考資源。然而,WWC優先考慮內部效度(成效是否由干預引起) 而不是外部效度(研究結果可否推廣到其他情況、群體或成果)。雖然這種方法加強了因果關係的論述,但它也可能限制研究結果在研究環境之外的適用性。為了更好地了解WWC證據在不同情況下的可推廣性,Wolf 於2023年的一項研究檢視了WWC所檢視的研究中所涵蓋的學生群體和環境。

為了探討這個問題,Wolf建立了一個證據差距圖(Evidence Gap Map EGM),這是一個視覺化工具,用於展示現有研究的分布並識別需要進一步研究的領域。EGM可顯示研究豐富的領域和需要更多高品質研究的領域。EGM通常將研究數據組織成一個網格,其中點的大小反映研究數量,顏色表示研究品質,為未來研究和政策決定提供提示。EGM結果揭示了WWC的資料裡,在學校類型、年級和學生人口統計數據的代表性上存在差異。具體來說,WWC檢驗的研究對私立學校和幼兒年級的代表性不足,而沿海和城市地區的公立學校則過度代表。儘管學生樣本大致符合美國的人口統計,但某些群體仍呈現代表性過高或不足的現象。

WWC的證據在數學和讀寫能力方面最可靠,對其他學科如科學、社交情緒學習,以及教育者成果等覆蓋較少。Wolf還指出,缺少有關學生和環境特徵的數據限制了研究結果的可推廣性。WWC把研究分級別的方法傾向於採用研究者自創測量的狹窄領域,而不是標準化測量的較廣泛領域,這產生了對研究可重複性的質疑。儘管如此,WWC仍然是最受廣泛認可的教育證據資源之一。這篇文章強調了研究領域的關鍵缺口,並強調需要更廣泛、更具代表性的研究。

 

文獻來源:Wolf, B. (2025). What works for whom: Exploring the students, settings, and outcomes in What Works Clearinghouse study data. Journal of Research on Educational Effectiveness, 0(0), 1–26. https://doi.org/10.1080/19345747.2024.2427762Read the rest

Categories
K-12 教育階段 教育行政及領導

教育干預研究實施指南

美國教育部教育科學研究所(Institute of Education Sciences: IES)發佈了一份指南,旨在幫助研究人員規劃、執行和報告所實施研究的結果,為提高學生成績提供實證基礎。該指南概述了四個關鍵領域:(1) 制定研究問題,(2) 制定數據收集和分析計劃,(3) 詳細說明干預及其實施、背景和干預對照條件,以及 (4) 分析和報告有關干預及其實施的細節。

為了在這過程中為研究人員提供支援,該指南強調從涉及干預組成部分、它們在實施中的分別、背景和對照條件的研究問題開始。數據收集計劃應具體指出其目的、測量、數據來源和假設。為了全面描述干預措施,研究人員應使用邏輯模型(概念框架)、文件記錄和專家意見來檢查其核心活動和支援策略。他們應系統性地考慮內容、數量、模式和品質,確保對干預設計的精確性。調查結果應將干預細節與影響聯繫起來,為未來的研究和實踐提供洞見。

 

文獻來源(開放取用):Hill, C. J., Scher, L., Haimson, J., & Granito, K. (2023). Conducting implementation research in impact studies of education interventions: A guide for researchers. Toolkit. NCEE 2023-005. National Center for Education Evaluation and Regional Assistancehttps://ies.ed.gov/ncee/pubs/2023005/index.aspRead the rest

Categories
K-12 教育階段 教育行政及領導

為什麼分析時要考慮基線特徵?

標準化平均差是通常用於比較干預組和對照組之間量化成果差異的效應值。然而,原始研究中提供的用於計算效應值的數據各不相同。有時,有多種選擇可用,並且總是不清楚哪種方法最佳。

在2021年的一篇文章中,Taylor及其團隊提供了在原始研究中報告數據以計算效應值的指南,並就應優先考慮哪些數據進行統合分析提出了建議。

作者對統合分析的主要建議是:

  • 使用調整了基綫協變量的效應值,至少是成果測量的前測分數,也可能使用人口統計變量。這將產生更具解釋性和準確性的效應估計值。
  • 當協變量調整的平均值可用時,避免使用未調整的平均值,因為未調整均值的效應值會減低準確性,並在統合分析中人為地增加效應值的異質性。
  • 在學校或班級的群集研究中,計算效應值和變異數時調整基線協變量和群集效應。

遵循這些建議需要在原始研究中更好地報告必要的數據。對於以個體為單位的研究,這包括協變量調整的平均值、未經調整的標準差和經調整平均差的標準誤差。對於群集研究,它還需要報告組內相關係數(ICC)和來自解釋群集模型經調整平均差的標準誤差。作者提供了一個在線工具來執行所有計算。

 

文獻來源:Taylor, J. A., Pigott, T., & Williams, R. (2022). Promoting knowledge accumulation about intervention effects: Exploring strategies for standardizing statistical approaches and effect size reporting. Educational Researcher, 51(1), 72–80. https://doi.org/10.3102/0013189X211051319Read the rest