Hot Issues of Skills Development

本ページでは、スキルディベロプメントに関する先行研究などをまとめて記事にして紹介しています

SKY[Skills and Knowledge for Youth] ホーム Hot Issues of Skills Development 実証研究における効果を正しく測定するためには

実証研究における効果を正しく測定するためには 水谷文

近年、開発現場ではランダム化比較試験(RCT)を使用して、その介入効果を正しく図ろうという動きが強まってきています。ランダム化比較試験については、以前少し記事にしましたが、介入の効果を見るためには前後比較が欠かせません。では、その前後比較を行う際にどのようなことに気を付ける必要があるでしょうか。

結果に影響を与え得る有名なものとしてホーソン効果があります。ホーソン効果は1920年代後半に労働者の生産性を上げる方法を調べる際に発見された事象で、ここでは労働環境が悪くなったにも関わらず労働者の生産性が上っていました。これは、労働者の「見られている」という意識から、モチベーションないしは相手の期待に沿うという労働者の心の持ち方に影響を与え、結果として労働環境に関わらず生産性が上ったとされました(大橋、竹林, 2008)。ホーソン効果はRCTに限られたものではなく一般的なグループ比較や前後比較でみられる現象です。

次に不満、もしくはモチベーションの低下による影響というものがあります。例えば、RCTで訓練を受けるグループと訓練を受けないグループに参加者を分けた場合、訓練を受けないグループに割り当てられた参加者はそれを不満に感じ、もしくはモチベーションが低下しその後の生産性が下がるということがあります。これは、モチベーションが生産性に寄与すると多くの論文で示されていることも鑑みると、RCTで介入を行う場合には必ず考慮しなければならない要因であると思われます。

また、RCTでは波及効果も考慮する必要があります。必ずしも、介入を受けていなくても介入を受けた人による情報共有や技術移転など、介入を受けた人以外が介入の効果を享受できる場合があります。この場合に、単純に介入群と統制群を比べても介入の効果は実際よりも希釈されて示される可能性があります。一方、介入群に入っているにもかかわらず介入に参加しないなどで、介入の効果が正しく反映されないこともあります(ÖZLER, 2016)。

しかしながら、介入群に入っているにもかかわらず介入を受けなかった人たちについては、解析から除外するのではなく介入群に入れて解析を行う必要があります。これはIntention to treat analysis (ITT)解析と呼ばれるもので(Gupta, 2011)、参加者をランダム割付した後は、たとえ参加者が別の群に入ろうが、介入から外れようが、解析には元の群のままで取り込む必要があるというものです。これは、介入から外れる参加者や統制群から介入に入り込む参加者は、おそらく同じ群に留まる参加者とは異なった性質を有しており、彼らを除外することにより、ランダムに割り付けたことが台無しになってしまい、バイアスに繋がるからです。

このように、介入の効果を正しく図るためには、様々な意図しない要因を事前に考慮しておく必要があります。これらを考慮せずに解析を行っても、真の正しい効果は得ることは難しいと考えられます。

 

Gupta S. K. (2011). Intention-to-treat concept: A review. Perspectives in clinical research2(3), 109–112. https://doi.org/10.4103/2229-3485.83221

ÖZLER B (2016) Definitions in RCTs with interference. World Bank Blogs. https://blogs.worldbank.org/impactevaluations/definitions-rcts-interference, (2021-05-10)

大橋昭一、竹林浩志『ホーソン実験の研究』同文館出版、2008年