1、t检验与F检验1,T检验和F检验的由来 一般而言,为了确定从样本(sample)统计结果推论至总体时所犯错的概率,我们会利用统计学家所开发的一些统计方法,进行统计检定。 通过把所得到的统计检定值,与统计学家建立了一些随机变量的概率分布(probability distribution)进行比较,我们可以知道在多少%的机会下会得到目前的结果。倘若经比较后发现,出现这结果的机率很少,亦即是说,是在机会很少、很罕有的情况下才出现;那我们便可以有信心的说,这不是巧合,是具有统计学上的意义的(用统计学的话讲,就是能够拒绝虚无假设null hypothesis,Ho)。相反,若比较后发现,出现的机率很高,
2、并不罕见;那我们便不能很有信心的直指这不是巧合,也许是巧合,也许不是,但我们没能确定。 F值和t值就是这些统计检定值,与它们相对应的概率分布,就是F分布和t分布。统计显著性(sig)就是出现目前样本这结果的机率。 2,统计学意义(P值或sig值) 结果的统计学意义是结果真实程度(能够代表总体)的一种估计方法。专业上,p值为结果可信程度的一个递减指标,p值越大,我们越不能认为样本中变量的关联是总体中各变量关联的可靠指标。p值是将观察结果认为有效即具有总体代表性的犯错概率。如p=0.05提示样本中变量关联有5%的可能是由于偶然性造成的。即假设总体中任意变量间均无关联,我们重复类似实验,会发现约20
3、个实验中有一个实验,我们所研究的变量关联将等于或强于我们的实验结果。(这并不是说如果变量间存在关联,我们可得到5%或95%次数的相同结果,当总体中的变量存在关联,重复研究和发现关联的可能性与设计的统计学效力有关。)在许多研究领域,0.05的p值通常被认为是可接受错误的边界水平。 3,T检验和F检验至於具体要检定的内容,须看你是在做哪一个统计程序。 举一个例子,比如,你要检验两独立样本均数差异是否能推论至总体,而行的t检验。 两样本(如某班男生和女生)某变量(如身高)的均数并不相同,但这差别是否能推论至总体,代表总体的情况也是存在著差异呢? 会不会总体中男女生根本没有差别,只不过是你那麼巧抽到这
4、2样本的数值不同? 为此,我们进行t检定,算出一个t检定值。 与统计学家建立的以总体中没差别作基础的随机变量t分布进行比较,看看在多少%的机会(亦即显著性sig值)下会得到目前的结果。 若显著性sig值很少,比如比较,依赖于总体数据集里结论一致的支持性证据的数量,依赖于以往该研究领域的惯例。通常,许多的科学领域中产生P值的结果0.05被认为是统计学意义的边界线,但是这显著性水平还包含了相当高的犯错可能性。结果 0.05P0.01被认为是具有统计学意义,而0.01P0.001被认为具有高度统计学意义。但要注意这种分类仅仅是研究基础上非正规的判断常规。5、问:所有的检验统计都是正态分布的吗?答:并
5、不完全如此,但大多数检验都直接或间接与之有关,可以从正态分布中推导出来,如t检验、F检验或卡方检验。这些检验一般都要求:所分析变量在总体中呈正态分布,即满足所谓的正态假设。许多观察变量的确是呈正态分布的,这也是正态分布是现实世界的基本特征的原因。当人们用在正态分布基础上建立的检验分析非正态分布变量的数据时问题就产生了,(参阅非参数和方差分析的正态性检验)。这种条件下有两种方法:一是用替代的非参数检验(即无分布性检验),但这种方法不方便,因为从它所提供的结论形式看,这种方法统计效率低下、不灵活。另一种方法是:当确定样本量足够大的情况下,通常还是可以使用基于正态分布前提下的检验。后一种方法是基于一
6、个相当重要的原则产生的,该原则对正态方程基础上的总体检验有极其重要的作用。即,随着样本量的增加,样本分布形状趋于正态,即使所研究的变量分布并不呈正态。6、问:假设检验的内涵及步骤答:在假设检验中,由于随机性我们可能在决策上犯两类错误,一类是假设正确,但我们拒绝了假设,这类错误是“弃真”错误,被称为第一类错误;一类是假设不正确,但我们没拒绝假设,这类错误是“取伪”错误,被称为第二类错误。一般来说,在样本确定的情况下,任何决策无法同时避免两类错误的发生,即在避免第一类错误发生机率的同时,会增大第二类错误发生的机率;或者在避免第二类错误发生机率的同时,会增大第一类错误发生的机率。人们往往根据需要选择
7、对那类错误进行控制,以减少发生这类错误的机率。大多数情况下,人们会控制第一类错误发生的概率。 发生第一类错误的概率被称作显著性水平,一般用表示,在进行假设检验时,是通过事先给定显著性水平的值而来控制第一类错误发生的概率。在这个前提下,假设检验按下列步骤进行: 1)、确定假设; 2)、进行抽样,得到一定的数据; 3)、根据假设条件下,构造检验统计量,并根据抽样得到的数据计算检验统计量在这次抽样中的具体值; 4)、依据所构造的检验统计量的抽样分布,和给定的显著性水平,确定拒绝域及其临界值; 5)、比较这次抽样中检验统计量的值与临界值的大小,如果检验统计量的值在拒绝域内,则拒绝假设;到这一步,假设检
8、验已经基本完成,但是由于检验是利用事先给定显著性水平的方法来控制犯错概率的,所以对于两个数据比较相近的假设检验,我们无法知道那一个假设更容易犯错,即我们通过这种方法只能知道根据这次抽样而犯第一类错误的最大概率(即给定的显著性水平),而无法知道具体在多大概率水平上犯错。计算 P值有效的解决了这个问题,P值其实就是按照抽样分布计算的一个概率值,这个值是根据检验统计量计算出来的。通过直接比较P值与给定的显著性水平的大小就可以知道是否拒绝假设,显然这就代替了比较检验统计量的值与临界值的大小的方法。而且通过这种方法,我们还可以知道在p值小于的情况下犯第一类错误的实际概率是多少,p0.03,那么假设不被拒
9、绝,在这种情况下,第一类错误并不会发生。7、问:卡方检验的结果,值是越大越好,还是越小越好?答:与其它检验一样,所计算出的统计量越大,在分布中越接近分布的尾端,所对应的概率值越小。如果试验设计合理、数据正确,显著或不显著都是客观反映。没有什么好与不好。8、问:配对样本的T检验和相关样本检验有何差别?答:配对样本有同源配对(如动物实验中双胞胎)、条件配对(如相同的环境)、自身配对(如医学实验中个体的用药前后)等。(好像没有解释清楚啊,同问这个,到底什么区别呢?)9、问:在比较两组数据的率是否相同时,二项分布和卡方检验有什么不同?答:卡方分布主要用于多组多类的比较,是检验研究对象总数与某一类别组的
10、观察频数和期望频数之间是否存在显著差异,要求每格中频数不小于5,如果小于5则合并相邻组。二项分布则没有这个要求。如果分类中只有两类还是采用二项检验为好。如果是2*2表格可以用fisher精确检验,在小样本下效果更好。10、问:如何比较两组数据之间的差异性答:从四个方面来回答, 1).设计类型是完全随机设计两组数据比较,不知道数据是否是连续性变量? 2).比较方法:如果数据是连续性数据,且两组数据分别服从正态分布&方差齐(方差齐性检验),则可以采用t检验,如果不服从以上条件可以采用秩和检验。 3).想知道两组数据是否有明显差异?不知道这个明显差异是什么意思?是问差别有无统计学意义(即差别的概率有
11、多大)还是两总体均数差值在哪个范围波动?如果是前者则可以用第2步可以得到P值,如果是后者,则是用均数差值的置信区间来完成的。当然两者的结果在SPSS中均可以得到。11、问:回归分析和相关分析的联系和区别答:回归分析(Regression):Dependant variable is defined and can be forecasted by independent variable.相关分析(Correlation):The relationship btw two variables. - A dose not define or determine B.回归更有用自变量解释因变量的意
12、思,有一点点因果关系在里面,并且可以是线性或者非线形关系;相关更倾向于解释两两之间的关系,但是一般都是指线形关系,特别是相关指数,有时候图像显示特别强二次方图像,但是相关指数仍然会很低,而这仅仅是因为两者间不是线形关系,并不意味着两者之间没有关系,因此在做相关指数的时候要特别注意怎么解释数值,特别建议做出图像观察先。不过,无论回归还是相关,在做因果关系的时候都应该特别注意,并不是每一个显著的回归因子或者较高的相关指数都意味着因果关系,有可能这些因素都是受第三,第四因素制约,都是另外因素的因或果。对于此二者的区别,我想通过下面这个比方很容易理解:对于两个人关系,相关关系只能知道他们是恋人关系,至
13、于他们谁是主导者,谁说话算数,谁是跟随者,一个打个喷嚏,另一个会有什么反应,相关就不能胜任,而回归分析则能很好的解决这个问题回歸未必有因果關係。回歸的主要有二:一是解釋,一是預測。在於利用已知的自變項預測未知的依變數。相關係數,主要在了解兩個變數的共變情形。如果有因果關係,通常會進行路徑分析(path analysis)或是線性結構關係模式。我觉得应该这样看,我们做回归分析是在一定的理论和直觉下,通过自变量和因变量的数量关系探索是否有因果关系。楼上这位仁兄说“回归未必有因果关系如果有因果关系,通常进行路径分析或线性结构关系模式”有点值得商榷吧,事实上,回归分析可以看成是线性结构关系模式的一个特
14、例啊。我觉得说回归是探索因果关系的并没错,因为实际上最后我们并不是完全依据统计的结果来判断因果性,只有在统计结果和理论及现实比较吻合的基础上我们才肯定这种因果关系。任何统计方法只是一种工具,但是不能完全依赖于这种工具。即使是SEM,我们也不能说完全认定其准确性,因为即使方法是好的,但是变量的复杂关系呈现的方式也是多种多样的,可能统计只能告诉你一个方向上的最优解,可未必是最符合实际的,更何况抽样数据的质量好坏也会使得结果不符合事实,从而导致人们怀疑统计方法的准确性。统计只说明统计关联。不证明因素关系。回归有因果关系,相关未必。回归分析是处理两个及两个以上变量间线性依存关系的统计方法。此类问题很普
15、遍,如人头发中某种金属元素的含量与血液中该元素的含量有关系,人的体表面积与身高、体重有关系;等等。回归分析就是用于说明这种依存变化的数学关系。任何事物的存在都不是孤立的,而是相互联系、相互制约的。身高与体重、体温与脉搏、年龄与血压等都存在一定的联系。说明客观事物相互间关系的密切程度并用适当的统计指标表示出来,这个过程就是相关分析.统计学笔记(2)-随机抽样与统计推断的逻辑前天麦小兜问我怎样构造置信区间,在电话里我似乎没有解释清楚,这里重新整理出一份笔记。同时有感于在国内做课题时,同行们的窘态历历在目(他们不知道如何去检验一个变量是否符合正态分布),故记之,以勉励自己尽力思考清楚所学所用之物。学
16、过统计学的人都知道可以对一个未知总体(population)进行随机抽样,通过对样本(sample)的描述、计算(例如计算样本均值、样本方差),进而推断总体的一些特征(对某些假设进行检验,构造置信区间等等)。当然,很多现代的推断方法都是“菜谱(cook book)”性质的,不需要非专业人士进行详细掌握,例如,搞经济学的人往往在不知道什么是F分布的情况下也能知道如何检验F统计量并对结论进行解释,甚至不用亲手计算F统计量。但是,如果仔细思考一下其中的关系,可以看到这种随机抽样-推断中包含着某种哲学,而这种哲学在某些地方的确显式出了人类的智慧。本质上,这种方法是用一组我们掌握了100%信息的数据(样
17、本),对一组我们几乎不掌握信息或只掌握部分信息的数据(总体),进行拟合的过程。换句话说,以有知推未知的过程。因为是对“未知”的推断,我们不可能有100%的把握,但同时是用“有知”的数据,所以我们不会一点把握都没有。也许通过一个极为简单例子我们可以看到背后的这种思维。下面就开始这个练习。例子:假设一个学校有20000名学生,从中随机抽取1000名学生,问,这个学校20000名学生的某门课的平均成绩是否为70/100?注意,这里并没有作出有关总体的分布的假设。问题1:我们能够用样本进行统计推断了吗?似乎还不可以,逻辑上缺一步。这里值得注意的是,所抽取的1000学生是否是“随机样本”?答案是否定的。
18、随机抽样的思想是:抽出来的样本(sample)的分布是和总体(population)的分布是一致的,这一点对于每一个观测值而言,能够成立。但随机样本还要求每个观测值(observation)相互独立(independent),在这里狭义的理解便是,每一个观察值被取到的概率是相同的。但是在上面例子里,这个条件显然并不能被满足(很多囫囵的学者往往忽略这个条件)。如果你收集了1000个学生的成绩单,那么这1000个学生的成绩被抽到概率取决于其被取到的顺序。由于一次抽取1000个学生的成绩,每个学生被抽到的次数只是一次,不能被重复抽样。于是,样本中第一个学生被抽到的概率是1/20000,第二个学生被抽到的概率则是1/19999,第三个学生是1/19998,第1000个学生为1/19000。也就是说,在一些学生被抽走之后,下一个学生被抽到的概率绝对不会等于1/20000。只有在有放回(with replacement)的抽样中,我们才能说每个学生被抽中的概率是1/20000,也才能保证,我们抽取的是随机样本(random sample)。但是那样的话,我们又很可能抽不到1000个样本,因为一个学生被抽到大于一次重复的可能性不是零。幸运的是,注意到这一千个概率值相差并不大(因为总体值够大),那么,可以近似地认为这1000个学生的成绩是随机样本(random s
copyright@ 2008-2022 冰豆网网站版权所有
经营许可证编号:鄂ICP备2022015515号-1