方差分析
方差分析(analysis of variance,简称 ANOVA)是一类用于检验两个以上总体均值是否存在显著差异的统计方法,它的名称来自所依赖的核心手段——把观测数据围绕总平均数的全部变异,分解为可由不同来源解释的几个部分,再以这些部分的相对大小作出判断。这一方法由英国统计学家罗纳德·费希尔(Ronald Fisher,1890—1962)在20世纪20年代为农业实验的需要而发展,此后成为实验心理学、医学与社会科学中最常用的推断工具之一。方差分析的重要性不只在它能一次比较多个组的均值,更在于它把“实验设计”与“变异控制”联系了起来,使研究者必须事先想清楚:哪些变异来自处理,哪些只是个体差异与测量误差。
提出背景
方差分析诞生于实际问题的逼迫,而非纯粹的理论兴趣。费希尔在20世纪20年代于英国罗瑟姆斯特德农业实验站工作,面对的是如何比较多种肥料、多个品种对作物产量的影响。田间试验的麻烦在于,同一块地里的作物产量本来就参差不齐,土壤肥力、光照、水分都在波动,研究者无法让所有条件完全一致,只能通过合理的安排把干扰因素分散开。费希尔由此提出随机化与重复的原则,并把总变异切成“由处理造成”和“由误差造成”两堆,用两者的比值来判断处理是否真的起了作用。这一思路集中体现在他1925年出版的《研究工作者用统计方法》中。
在方差分析之前,人们比较多组均值时惯常的做法是两两做t检验。当组数增多,这种做法的缺陷很快暴露:比较 k 个组需要 k(k−1)/2 次检验,每一次都以一定概率犯“把无差异误判为有差异”的错误,检验次数一多,整体上至少犯一次错误的概率便迅速膨胀。方差分析用一个总的检验替代成串的两两比较,把族错误率控制在设定水平,这正是它在方法上的关键贡献。
变异的分解
方差分析的数学内核可以用一句话概括:总平方和等于组间平方和加组内平方和。把所有观测值与总平均数的偏差平方累加,得到总变异;把这部分变异拆开,一部分反映各组均值偏离总均值的程度,称为组间变异,另一部分反映各组内部个体围绕本组均值的散布,称为组内变异。自由度也相应拆分:若有 k 个组、总数 N,则总自由度为 N−1,组间自由度为 k−1,组内自由度为 N−k。
把平方和除以各自的自由度,得到均方。组间均方与组内均方之比就是 F 统计量。其直观含义是:如果处理真的没有效果,各组均值只应该因抽样误差而略有出入,组间均方与组内均方应当接近,F 值接近于一;反之,若组间均方明显大于组内均方,说明组与组之间的差距超出了随机波动的范围,就有理由怀疑处理起了作用。F 值越大,在虚无假设下出现这样大值的概率越小,研究者据此判断是否拒绝“各组均值相等”的假设。F 分布的形状取决于两个自由度,这也是它需要成对标注自由度的原因。[1]
需要强调的是,方差分析检验的对象始终是均值,之所以叫“方差分析”,是因为它借助对方差的剖析来完成对均值的推断,名称容易让初学者误解。理解这一点,才能明白为什么方差不齐会动摇整个检验的基础。
模型假定与稳健性
方差分析建立在三条假定之上。其一是观测相互独立,即一个被试的得分不受另一个被试影响,这一条最为根本,一旦违反,诸如把同班学生、同一家庭的成员当作独立样本,检验结果就会严重失真。其二是各组数据服从正态分布,其三是各组总体方差相等,即方差齐性。后两条主要影响检验的准确性,其中方差齐性尤为关键,因为 F 检验本质上是在比较两类均方,若各组方差相差悬殊,组内均方就不能代表一个统一的误差水平。
在实践里,完全满足假定的数据并不多见,研究者因此关心方法的稳健性。经验表明,当各组样本量相等或接近时,F 检验对正态性和方差齐性的轻度违反并不敏感,结论大体可靠;但当样本量悬殊、方差差异又大时,偏差就会显现,此时宜改用对方差不齐更稳健的校正方法,或先对数据作变换。方差齐性常通过 Levene 检验或巴特利特检验来考察,若检验显示方差不齐,可考虑 Welch 校正的方差分析。[2] 值得提醒的是,假定检验本身也有局限:样本很小时它难以发现问题,样本很大时又会把微不足道的偏离判为显著,因而不能机械地以“先检验再决定”为唯一准则。
设计与类型
方差分析不是一个孤立的公式,而是一个可以随设计扩展的框架。最简单的单因素方差分析只考察一个自变量,例如三种教学方法对学生成绩的影响。当研究同时操纵两个或多个因素时,就进入多因素方差分析,它不仅能检验每个因素的主效应,还能检验因素之间的交互作用。交互作用是这一框架最有价值的概念之一:它意味着一个因素的效应依赖于另一个因素所处的水平,比如某种教学方法对基础好的学生有效、对基础差的学生反而有害,这种“效应因条件而异”的现象,靠分别看主效应是看不出来的。
针对不同的数据结构,方差分析衍生出多种变体。被试内设计或被试间设计混合时,用重复测量方差分析,它把个体差异从误差中剥离出来,因而检验更为灵敏;当需要同时分析多个相关的因变量时,用多元方差分析;当希望在比较组均值的同时统计控制某个连续协变量的影响时,用协方差分析,其原理与回归分析相通。总体检验显著之后,研究往往还需知道究竟哪几组之间存在差异,这就进入事后比较。常用的有 Tukey 检验,它在所有两两比较中控制族错误率;有 Scheffé 检验,它适用于任意线性组合的比较,代价是较为保守;也有更简单的 Bonferroni 校正,把显著性水平按比较次数分摊。事前就已计划好的对比检验与事后挖掘出来的比较,在统计性质上并不相同,前者更为可靠。
争议与误用
方差分析最常见的误用,是把一个显著的 F 值当作研究的终点。F 检验是一个总体检验,它只能告诉你“这些组的均值不全相等”,却无法指出差别落在哪几组,也无法说明差别的方向与大小。若就此收笔,读者得到的只是一个模糊的结论。更严重的是对 p 值的误读:显著性并不等于效应重要,样本足够大时,微小的、毫无实际意义的差异也可能显著;反过来,样本不足时,真实的效应也可能被淹没。因此现代统计实践强调在报告 F 值与 p 值之外,还要报告效应量,如 eta 平方或偏 eta 平方,以说明变异被解释的比例。
另一类争议围绕假定的处理。心理与教育研究中大量使用李克特式量表,所得数据严格说来是等级变量,把它们直接当作等距数据投入方差分析,在方法上是有争议的;支持者认为只要量表点数足够多、分布不太偏,近似处理是可以接受的,反对者则主张改用非参数检验。此外,方差分析属于线性模型的一个特例,它假定效应可加、误差同分布,当真实关系是非线性的或存在异质性时,结论就会偏离。多重比较中的选择性报告、看到结果后再补做检验等做法,也会悄悄抬高错误率,损害结论的可信度。
应用与评价
在实验心理学中,方差分析几乎是处理多组实验数据的标准语言。从感知觉的阈限比较,到记忆实验的条件差异,再到临床干预的效果评估,凡是有多个处理水平、需要控制个体差异的研究,都能看到它的身影。在医学临床试验、农业育种、工业质量控制里,它同样是分析多因素影响的基本工具。随着统计模型的发展,方差分析的思想被进一步推广到混合效应模型与多层模型之中,用以处理嵌套数据与重复测量的复杂结构,其“分解变异、比较均方”的内核一脉相承。[3]
评价一种统计方法,要看它解决了什么问题,也要看它设下了什么门槛。方差分析的长处在于结构清晰:它迫使研究者在收集数据之前就规划好设计,明确变异的来源,用一次检验替代成串的两两比较,从而在控制错误率的同时保持检验力。它的短处则在于对假定的依赖和对总体检验的局限,一旦使用者在假定上疏于检查、在解释上止步于显著性,方法的力量就会被误用抵消。真正妥当的做法,是把方差分析放回它的设计语境中理解——它不是一台自动给出结论的机器,而是一套帮助研究者理清“差异从何而来”的推理工具。[4]
参考资料
- ↑ APA Dictionary of Psychology,American Psychological Association,2024年访问
- ↑ PubMed Central,National Center for Biotechnology Information,2024年访问
- ↑ 中国心理学会官网,中国心理学会,2024年访问
- ↑ Psychological Testing,Encyclopaedia Britannica,2024年访问