方差分析.docx

1、方差分析方差分析 (Analysis of Variance) 考虑以下情境: 一位研究者感兴趣影响儿童阅读能力的因素.研究者认为儿童的年龄和每次阅读时间可能是重要的影响因素。研究者设计了以下实验：选取三个年龄组的儿童: 3 岁, 8 岁, 和 14 岁.将每个年龄组的儿童随机分配到三个阅读条件. 组 1阅读时间为 5 分钟; 组 2为15 分钟; 对于组 3为30 分钟.两个星期之后测试了这些儿童的阅读能力。 阅读时间5 分钟15 分钟30 分钟年龄 3 岁8 岁14 岁这个研究有3 X 3 样本 (即 9个). 如何分析数据? t-检验和 z-检验不能用于多于 2 组的数据. 处理这类数据

2、需要用 一种新的推论统计程序: 方差分析 (ANOVA). ANOVA能够处理数据的类型： 在上例中有两个自变量 (称为因素): 年龄和阅读时间. 两个都是组间 (独立样本) 变量. ANOVA 亦可用于分析包含组内 (重复测量) 因素的研究设计，同时包含组间和组内因素的混合设计(e.g. 假设上例中我们用同一些儿童作纵向研究。年龄是组内变量,阅读时间是组间变量). 在方差分析中,因素就是自变量. 包含一个自变量的研究称为单因素设计（single-factor design）. 具有多于一个自变量研究称为因素设计（factorial design）. 构成因素的个别处理条件称为因素的水平. 上

3、述研究称为因素设计, 两个组间因素,每一个因素有 3 个水平 (称为 3 X 3 组间设计). 最基本的ANOVA.集中讨论单因素, 独立测量的研究设计. 1. ANOVA的逻辑 2. ANOVA的符号. 3. ANOVA的过程和例题4. 事后检验1. ANOVA的逻辑 与假设检验的逻辑是同样的, 只是具体内容有变化 step 1: 陈述 H0 (和H1 ?) ，确定标准: = ?step 2: ANOVA 检验总是 单尾step 3: 指出检验的df (有两个 df) step 4: 查表找出临界 F统计量 step 5: 对于样本，计算 F统计量 step 6: 比较 F统计量 和临界 F

4、统计量step 7: 对于H0 作出结论 单因素, 独立测量研究设计的例子： 检验三个不同的学习方法的效应。将学生随机分配到3个处理组 方法 A：让学生只读课本, 不去上课.方法 B：上课,记笔记，不读课本.方法 C：不读课本，不去上课, 只看别人的笔记Step 1: 陈述假设和设定标准 (选择 ) H0: 1 = 2 = 3 H1: 其中一个组与另一个（或更多）的组均值不同。备择假设 可能的形式很多：1不等于 2 = 3 1 = 3 不等于 2 1 = 2 不等于 3 1 不等于 2 不等于 3 因此，只需给出虚无假设就够了 step 2: ANOVA 检验总是单尾. 因为不存在负的方差.

5、F分布表也只有单侧的Alpha.（F分布图） step 3: 找出检验的 df. 注意要考虑几个 df (step 4: 从表找出临界 F统计量 分子的df分母的df 1 2 3 4 5 11614052 2004999 2165403 2255625 2305764 218.5198.49 19.0099.00 19.1699.17 19.2599.25 19.3099.30 310.1334.12 9.5530.92 9.2829.46 9.1228.71 9.0128.24 : : : : : : : : : : : 与 t分布表类似, F分布表也是描述一族 F分布. 需要用到两个df,

6、用一个找出正确的行另一个找出正确的列.上面一行对应于 = 0.05, 下面一行对应于 = 0.01. step 5: 计算样本 的F统计量观测值概念的水平的讨论：ANOVA 非常类似 两个独立样本的 t检验 tobs = 得到的样本均值间差异 期望的机会差异对于 ANOVA检验统计量 (称为 F比率) 类似 F = 样本均值间方差 (差异)期望的机会(误差)方差(差异) 为什么用方差? 因为有多于两个组. 如何计算一个分数来描述差异间分布? 差异不能够分割, 但是方差能够分割。这就是ANOVA -方差分析名字的由来. 首先考虑方差的来源. 什么造成样本的不同(处理间变异) ？ 处理/组效应 -

7、 处理造成的差异个体差异效应 - 个体差异变异随机误差 每一个样本内部的变异 (处理内变异) 个体差异效应随机误差 F比率 可以表达为: F比率 =样本均值间的方差 (差异) 期望的机会 (误差)方差(差异) F比率 =处理间方差 处理内方差F比率 = 处理效应 + 个体差异 + 随机误差 个体差异 + 随机误差注意: 有时分母叫做误差部分，其量度了由于机会造成的方差 如果 H0 为真,处理效应的值应该如何? H0: 1 = 2 = 3 如果没有差异, 效应方差 = 0如果效应方差 = 0, F比率值? F比率 = 0 + 个体差异 + 随机误差 = 1 = 1.0 个体差异 + 随机误差 1

8、如果 H0 为假， F比率应该大于 1. step 6: 比较 F统计量的观测值与临界 F统计量 如果 F统计量的观测值 (Fobs) 在统计上显著地大于 1.0 则拒绝 H0 2. ANOVA的专用符号K = 处理条件(或组)的数目n = 每一个组的数目(如果它们相等) ni = 第i组的数目(如果 它们不等) N = ni = 总的样本容量Ti = Xij G = Xij =总的和G-bar = G / N = 总的均值SSi = 每一个组的和方 = (Xij - i)2 在上例中： 研究方法 方法 A只读课本方法 B只作笔记方法 C借别人笔记041132362130040T1 = 5T2

9、 = 20T3 = 5SS1 = 6SS2 = 6SS3 = 4n1 = 5n2 = 5n3 = 51 = 12 = 43 = 1X2 = 106G = 30 = 总的和N = 15 = 总的样本容量G-bar = 30/15 = 2 = 总的均值K = 3 =处理条件 (或组) 的数目3. ANOVA的过程和例题 F比率 = 处理间方差 处理内方差需要找出两个方差. 最基本公式s2 = SS/df. SS和 = X2 - (G2/N) SS和 = 106 - (302/15) =106 - 60 = 46需要将其分解为组间变异和组内变异. SS和 = SS组间 + SS组内 如何得到SS组内

10、? 将每一个组SS相加 SSwithin = SS每一个 处理内部 = SSi = 6 + 6 + 4 = 16 如何得到SS组间? 快捷的方法是: SS和- SS组内 若数据足够，不推荐用这种方法,因为: 无法检查计算错误 未涉及SS组间 是如何组成. 直接计算 SS组间的两个公式 :定义公式和计算公式 定义公式 计算公式 SS间 = ni( - G-bar)2 SS间 = (T2/ni) - G2/N = 5(1 - 2) 2 + 5(4 - 2) 2 + 5(1 - 2)2 = 5 + 20 + 5 = 30 = 52/5 + 202/5 + 52/5 - 302/15 = 5 + 80

11、 + 5 - 60 = 30 SS和 = SS组间 + SS组内 = 16 + 30 = 46 s2 = SS/df. 已计算出SS, 找出 df: 共有两个 (或三个) 自由度, 一个组间方差df,一个组内方差df (以及一个总的 df). df和 = N - 1 df组内 = = N - K df组间= K - 1 df和 = df组内 + df组间 在例子中: df组内 = 15 - 3 = 12 df组间= 3 - 1 = 2 df和 = 15 - 1 = 14, = 12 + 2 现在计算方差. 这里称为均方. 方差 = 均方 = MS = SS/df MS组间= SS组间/df组内

12、 - 上例中 = 30/2 = 15 注意: 有时 MS组间称为误差的均方.MS组内 = MS误差 =误差的均方 = SS组内/df组内- 上例中 = 16/12 = 1.33 F比率 = 处理间方差 = MS组间 处理内方差 MSw组间上例中的F比率是: 15/1.33 = 11.28 将结果总结到方差分析表中：来源SSdfMS处理间30215.0F = 11.28处理内16121.33总的4614查 F表 确定 Fcrit 对假设作出结论 df组间 = 分子的dfdf组内 = 分母的df (误差) - 上例中: df组内 = 12; df组间 = 2 分子的df 分母的df 1 2 3 4

13、 5 11614052 2004999 2165403 2255625 2305764 218.5198.49 19.0099.00 19.1699.17 19.2599.25 19.3099.30 310.1334.12 9.5530.92 9.2829.46 9.1228.71 9.0128.24 : : : : : : : : : : : 124.75 9.333.88 6.933.49 5.953.26 5.413.11 5.06134.67 9.073.80 6.703.41 5.743.18 5.203.02 4.86: : : : : : : : : : : 如果选择 = .05

14、, Fcrit = 3.88如果选择 = .01, Fcrit = 6.93 F比率的观测值11.28大于 Fcrit., 所以拒绝 H0 (1 = 2 = 3). 报告结果 F(df组间,df组内) = Fobs, p ?单因素方差分析发现学习方法有显著的效应, F(2,12) = 11.28, p 0.01. 注意:电脑的结果输出 会给出实际 p-值. 假设检验的逻辑 是必须事前预设Alpha水平. 如果选择了 .01, 就必须 将其用于所有的检验.所以,如果有两个实验, 电脑程序得到实验 1的 p值 = .001,实验 2的 p -值 = .01. 它们都在统计上显著. 假设检验是 ye

15、s/no 决策. 上例中,结论 都是 YES.实验 1 的结果并不比实验 2更显著. 4. 事后检验（Post hoc tests）ANOVA 的结果是检验H0: 1 = 2 = 3 ,这是一个两点 (拒绝/不拒绝) 决策. 并未提供哪个备择假设得到支持. 也就是说, 只知道一些组与其它组不同, 但并知道差别在哪些组之间. 所以从ANOVA得到显著差异的结果 (拒绝H0)后,一定要做作 some 事后检验. 事后检验 使我们能够比较各组, 发现差异产生在什么地方. 事后检验就是比较每一个处理组与另一个处理组, 一次比较两个. 这称为成对比较. 在上例中, 可以比较 1 与 2, 1与 3, 以

16、及 2与 3. 这样的做法有没有问题？ 每一个比较 都是一个单独的假设检验, 每一个都有犯I类错误的风险. 所以,比较对数越多, 作结论的风险越大。即容易发现实际不存在的差异。 这称为实验导致的（experimentwise）alpha 水平 (或族系（familywise） 误差) EW = 1 - (1 - a)c c = 比较对数 对于上述例子, 如果选择 = 0.05 作3 对比较 EW = 1 - (1 - a)c = 1 - (.95)3 = 1 - .857 = .143 I类错误的机会增加到14.7%而不再是5%，多数事后检验设计中都控制了实验导致误差. 这里介绍两个事后检验:

17、 Tukeys HSD 检验 (honestly差异显著性) 检验和 Scheff 检验. a) Tukeys HSD 检验 可以计算出单一的值确定处理均值间的最小差异，考查此差异在统计上是否显著. 此检验要求各组有相等的样本容量. HSD = q * sqrt（MS组内/n）q 值 可以从表中查出(附表6). 需要用到K和 df组内, 以及EW在上例中 (用EW = .05): HSD = q * sqrt（MS组内/n）=(3.77) sqrt（1.33/5） = (3.77)(.516) = 1.94 比较 1: H0: 1 = 2 2 -1 = 4.0 - 1.0 = 3.0 HSD

18、= 1.94 0.0，不能 拒绝 H0 比较 3: H0: 2 = 3 2 -3 = 4.0 - 1.0 = 3.0 HSD = 1.94 3.88, 拒绝 H0 比较 2: H0: 1 = 3 SS组间= + - = 0 MS组间 = = 0/2 = 0 MS组内 = = 16/12 = 1.33 F比率 = MS间 = 0/1.33 = 0 MS组内查 F表. = .05, Fcrit(2,12) = 3.88 0 3.88, 拒绝 H0 注意: 与t-检验的关系 差异间独立样本 t-检验与两个水平的单因素组间 ANOVA有和区别? 没有. F比率 = t2 差异间t-检验和 ANOVA, t-检验是考察两个均值间的差异ANOVA 是考察方差. 如果只有两个组, t 统计量的平方就是F 统计量. 例：一位研究者研究三种键盘设计。记录了三组被试的错误次数：键盘A： 0 4 0 1 0 键盘B： 6 8 5 4 2键盘C： 6 5 9 4 6键盘类型对打字错误有无显著的影响？