oracle海量查询的数据优化Word文档格式.docx

oracle海量查询的数据优化Word文档格式.docx

《oracle海量查询的数据优化Word文档格式.docx》由会员分享，可在线阅读，更多相关《oracle海量查询的数据优化Word文档格式.docx（21页珍藏版）》请在冰豆网上搜索。

下面的表总结了何时使用聚集索引或非聚集索引（很重要）。

动作描述

使用聚集索引

使用非聚集索引

列经常被分组排序

应

返回某范围内的数据

不应

一个或极少不同值

小数目的不同值

大数目的不同值

频繁更新的列

外键列

主键列

频繁修改索引列

事实上，我们可以通过前面聚集索引和非聚集索引的定义的例子来理解上表。

如：

返回某范围内的数据一项。

比如您的某个表有一个时间列，恰好您把聚合索引建立在了该列，这时您查询2004年1月1日至2004年10月1日之间的全部数据时，这个速度就将是很快的，因为您的这本字典正文是按日期进行排序的，聚类索引只需要找到要检索的所有数据中的开头和结尾数据即可；

而不像非聚集索引，必须先查到目录中查到每一项数据对应的页码，然后再根据页码查到具体内容。

（三）结合实际，谈索引使用的误区

理论的目的是应用。

虽然我们刚才列出了何时应使用聚集索引或非聚集索引，但在实践中以上规则却很容易被忽视或不能根据实际情况进行综合分析。

下面我们将根据在实践中遇到的实际问题来谈一下索引使用的误区，以便于大家掌握索引建立的方法。

1、主键就是聚集索引

这种想法笔者认为是极端错误的，是对聚集索引的一种浪费。

虽然SQLSERVER默认是在主键上建立聚集索引的。

通常，我们会在每个表中都建立一个ID列，以区分每条数据，并且这个ID列是自动增大的，步长一般为1。

我们的这个办公自动化的实例中的列Gid就是如此。

此时，如果我们将这个列设为主键，SQLSERVER会将此列默认为聚集索引。

这样做有好处，就是可以让您的数据在数据库中按照ID进行物理排序，但笔者认为这样做意义不大。

显而易见，聚集索引的优势是很明显的，而每个表中只能有一个聚集索引的规则，这使得聚集索引变得更加珍贵。

从我们前面谈到的聚集索引的定义我们可以看出，使用聚集索引的最大好处就是能够根据查询要求，迅速缩小查询范围，避免全表扫描。

在实际应用中，因为ID号是自动生成的，我们并不知道每条记录的ID号，所以我们很难在实践中用ID号来进行查询。

这就使让ID号这个主键作为聚集索引成为一种资源浪费。

其次，让每个ID号都不同的字段作为聚集索引也不符合“大数目的不同值情况下不应建立聚合索引”规则；

当然，这种情况只是针对用户经常修改记录内容，特别是索引项的时候会负作用，但对于查询速度并没有影响。

在办公自动化系统中，无论是系统首页显示的需要用户签收的文件、会议还是用户进行文件查询等任何情况下进行数据查询都离不开字段的是“日期”还有用户本身的“用户名”。

通常，办公自动化的首页会显示每个用户尚未签收的文件或会议。

虽然我们的where语句可以仅仅限制当前用户尚未签收的情况，但如果您的系统已建立了很长时间，并且数据量很大，那么，每次每个用户打开首页的时候都进行一次全表扫描，这样做意义是不大的，绝大多数的用户1个月前的文件都已经浏览过了，这样做只能徒增数据库的开销而已。

事实上，我们完全可以让用户打开系统首页时，数据库仅仅查询这个用户近3个月来未阅览的文件，通过“日期”这个字段来限制表扫描，提高查询速度。

如果您的办公自动化系统已经建立的2年，那么您的首页显示速度理论上将是原来速度8倍，甚至更快。

在这里之所以提到“理论上”三字，是因为如果您的聚集索引还是盲目地建在ID这个主键上时，您的查询速度是没有这么高的，即使您在“日期”这个字段上建立的索引（非聚合索引）。

下面我们就来看一下在1000万条数据量的情况下各种查询的速度表现（3个月内的数据为25万条）：

（1）仅在主键上建立聚集索引，并且不划分时间段：

Selectgid,fariqi,neibuyonghu,titlefromtgongwen

用时：

128470毫秒（即：

128秒）

（2）在主键上建立聚集索引，在fariq上建立非聚集索引：

selectgid,fariqi,neibuyonghu,titlefromTgongwen

wherefariqi>

dateadd（day,-90,getdate（））

53763毫秒（54秒）

（3）将聚合索引建立在日期列（fariqi）上：

2423毫秒（2秒）

虽然每条语句提取出来的都是25万条数据，各种情况的差异却是巨大的，特别是将聚集索引建立在日期列时的差异。

事实上，如果您的数据库真的有1000万容量的话，把主键建立在ID列上，就像以上的第1、2种情况，在网页上的表现就是超时，根本就无法显示。

这也是我摒弃ID列作为聚集索引的一个最重要的因素。

得出以上速度的方法是：

在各个select语句前加：

declare@ddatetime

set@d=getdate（）

并在select语句后加：

select[语句执行花费时间（毫秒）]=datediff（ms,@d,getdate（））

2、只要建立索引就能显著提高查询速度

事实上，我们可以发现上面的例子中，第2、3条语句完全相同，且建立索引的字段也相同；

不同的仅是前者在fariqi字段上建立的是非聚合索引，后者在此字段上建立的是聚合索引，但查询速度却有着天壤之别。

所以，并非是在任何字段上简单地建立索引就能提高查询速度。

从建表的语句中，我们可以看到这个有着1000万数据的表中fariqi字段有5003个不同记录。

在此字段上建立聚合索引是再合适不过了。

在现实中，我们每天都会发几个文件，这几个文件的发文日期就相同，这完全符合建立聚集索引要求的：

“既不能绝大多数都相同，又不能只有极少数相同”的规则。

由此看来，我们建立“适当”的聚合索引对于我们提高查询速度是非常重要的。

3、把所有需要提高查询速度的字段都加进聚集索引，以提高查询速度

上面已经谈到：

在进行数据查询时都离不开字段的是“日期”还有用户本身的“用户名”。

既然这两个字段都是如此的重要，我们可以把他们合并起来，建立一个复合索引（compoundindex）。

很多人认为只要把任何字段加进聚集索引，就能提高查询速度，也有人感到迷惑：

如果把复合的聚集索引字段分开查询，那么查询速度会减慢吗？

带着这个问题，我们来看一下以下的查询速度（结果集都是25万条数据）：

（日期列fariqi首先排在复合聚集索引的起始列，用户名neibuyonghu排在后列）

（1）selectgid,fariqi,neibuyonghu,titlefromTgongwenwherefariqi>

'

2004-5-5'

查询速度：

2513毫秒

（2）selectgid,fariqi,neibuyonghu,titlefromTgongwenwherefariqi>

andneibuyonghu='

办公室'

2516毫秒

（3）selectgid,fariqi,neibuyonghu,titlefromTgongwenwhereneibuyonghu='

60280毫秒

从以上试验中，我们可以看到如果仅用聚集索引的起始列作为查询条件和同时用到复合聚集索引的全部列的查询速度是几乎一样的，甚至比用上全部的复合索引列还要略快（在查询结果集数目一样的情况下）；

而如果仅用复合聚集索引的非起始列作为查询条件的话，这个索引是不起任何作用的。

当然，语句1、2的查询速度一样是因为查询的条目数一样，如果复合索引的所有列都用上，而且查询结果少的话，这样就会形成“索引覆盖”，因而性能可以达到最优。

同时，请记住：

无论您是否经常使用聚合索引的其他列，但其前导列一定要是使用最频繁的列。

（四）其他书上没有的索引使用经验总结

1、用聚合索引比用不是聚合索引的主键速度快

下面是实例语句：

（都是提取25万条数据）

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenwherefariqi='

2004-9-16'

使用时间：

3326毫秒

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenwheregid<

=250000

4470毫秒

这里，用聚合索引比用不是聚合索引的主键速度快了近1/4。

2、用聚合索引比用一般的主键作orderby时速度快，特别是在小数据量情况下

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenorderbyfariqi

12936

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenorderbygid

18843

这里，用聚合索引比用一般的主键作orderby时，速度快了3/10。

事实上，如果数据量很小的话，用聚集索引作为排序列要比使用非聚集索引速度快得明显的多；

而数据量如果很大的话，如10万以上，则二者的速度差别不明显。

3、使用聚合索引内的时间段，搜索时间会按数据占整个数据表的百分比成比例减少，而无论聚合索引使用了多少个

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenwherefariqi>

2004-1-1'

6343毫秒（提取100万条）

2004-6-6'

3170毫秒（提取50万条）

3326毫秒（和上句的结果一模一样。

如果采集的数量一样，那么用大于号和等于号是一样的）

andfariqi<

3280毫秒

4、日期列不会因为有分秒的输入而减慢查询速度

下面的例子中，共有100万条数据，2004年1月1日以后的数据有50万条，但只有两个不同的日期，日期精确到日；

之前有数据50万条，有5000个不同的日期，日期精确到秒。

orderbyfariqi

6390毫秒

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenwherefariqi<

6453毫秒

（五）其他注意事项

“水可载舟，亦可覆舟”，索引也一样。

索引有助于提高检索性能，但过多或不当的索引也会导致系统低效。

因为用户在表中每加进一个索引，数据库就要做更多的工作。

过多的索引甚至会导致索引碎片。

所以说，我们要建立一个“适当”的索引体系，特别是对聚合索引的创建，更应精益求精，以使您的数据库能得到高性能的发挥。

当然，在实践中，作为一个尽职的数据库管理员，您还要多测试一些方案，找出哪种方案效率最高、最为有效。

二、改善SQL语句

很多人不知道SQL语句在SQLSERVER中是如何执行的，他们担心自己所写的SQL语句会被SQLSERVER误解。

比如：

select*fromtable1wherename='

zhangsan'

andtID>

10000

和执行:

select*fromtable1wheretID>

10000andname='

一些人不知道以上两条语句的执行效率是否一样，因为如果简单的从语句先后上看，这两个语句的确是不一样，如果tID是一个聚合索引，那么后一句仅仅从表的10000条以后的记录中查找就行了；

而前一句则要先从全表中查找看有几个name='

的，而后再根据限制条件条件tID>

10000来提出查询结果。

事实上，这样的担心是不必要的。

SQLSERVER中有一个“查询分析优化器”，它可以计算出where子句中的搜索条件并确定哪个索引能缩小表扫描的搜索空间，也就是说，它能实现自动优化。

虽然查询优化器可以根据where子句自动的进行查询优化，但大家仍然有必要了解一下“查询优化器”的工作原理，如非这样，有时查询优化器就会不按照您的本意进行快速查询。

在查询分析阶段，查询优化器查看查询的每个阶段并决定限制需要扫描的数据量是否有用。

如果一个阶段可以被用作一个扫描参数（SARG），那么就称之为可优化的，并且可以利用索引快速获得所需数据。

SARG的定义：

用于限制搜索的一个操作，因为它通常是指一个特定的匹配，一个值得范围内的匹配或者两个以上条件的AND连接。

形式如下：

列名操作符<

常数或变量>

或

<

操作符列名

列名可以出现在操作符的一边，而常数或变量出现在操作符的另一边。

Name=’张三’

价格>

5000

5000<

价格

Name=’张三’and价格>

如果一个表达式不能满足SARG的形式，那它就无法限制搜索的范围了，也就是SQLSERVER必须对每一行都判断它是否满足WHERE子句中的所有条件。

所以一个索引对于不满足SARG形式的表达式来说是无用的。

介绍完SARG后，我们来总结一下使用SARG以及在实践中遇到的和某些资料上结论不同的经验：

1、Like语句是否属于SARG取决于所使用的通配符的类型

namelike‘张%’，这就属于SARG

而：

namelike‘%张’,就不属于SARG。

原因是通配符%在字符串的开通使得索引无法使用。

2、or会引起全表扫描

5000符号SARG，而：

Name=’张三’or价格>

5000则不符合SARG。

使用or会引起全表扫描。

3、非操作符、函数引起的不满足SARG形式的语句

不满足SARG形式的语句最典型的情况就是包括非操作符的语句，如：

NOT、!

=、<

>

、!

、NOTEXISTS、NOTIN、NOTLIKE等，另外还有函数。

下面就是几个不满足SARG形式的例子：

ABS（价格）<

Namelike‘%三’

有些表达式，如：

WHERE价格*2>

SQLSERVER也会认为是SARG，SQLSERVER会将此式转化为：

WHERE价格>

2500/2

但我们不推荐这样使用，因为有时SQLSERVER不能保证这种转化与原始表达式是完全等价的。

4、IN的作用相当与OR

语句：

Select*fromtable1wheretidin（2,3）

和

Select*fromtable1wheretid=2ortid=3

是一样的，都会引起全表扫描，如果tid上有索引，其索引也会失效。

5、尽量少用NOT

6、exists和in的执行效率是一样的

很多资料上都显示说，exists要比in的执行效率要高，同时应尽可能的用notexists来代替notin。

但事实上，我试验了一下，发现二者无论是前面带不带not，二者之间的执行效率都是一样的。

因为涉及子查询，我们试验这次用SQLSERVER自带的pubs数据库。

运行前我们可以把SQLSERVER的statisticsI/O状态打开。

（1）selecttitle,pricefromtitleswheretitle_idin（selecttitle_idfromsaleswhereqty>

30）

该句的执行结果为：

表'

sales'

。

扫描计数18，逻辑读56次，物理读0次，预读0次。

titles'

扫描计数1，逻辑读2次，物理读0次，预读0次。

（2）selecttitle,pricefromtitleswhereexists（select*fromsaleswheresales.title_id=titles.title_idandqty>

第二句的执行结果为：

我们从此可以看到用exists和用in的执行效率是一样的。

7、用函数charindex（）和前面加通配符%的LIKE执行效率一样

前面，我们谈到，如果在LIKE前面加上通配符%，那么将会引起全表扫描，所以其执行效率是低下的。

但有的资料介绍说，用函数charindex（）来代替LIKE速度会有大的提升，经我试验，发现这种说明也是错误的：

selectgid,title,fariqi,readerfromtgongwenwherecharindex（'

刑侦支队'

reader）>

0andfariqi>

7秒，另外：

扫描计数4，逻辑读7155次，物理读0次，预读0次。

selectgid,title,fariqi,readerfromtgongwenwherereaderlike'

%'

+'

andfariqi>

8、union并不绝对比or的执行效率高

我们前面已经谈到了在where子句中使用or会引起全表扫描，一般的，我所见过的资料都是推荐这里用union来代替or。

事实证明，这种说法对于大部分都是适用的。

orgid>

9990000

68秒。

扫描计数1，逻辑读404008次，物理读283次，预读392163次。

union

selectgid,fariqi,neibuyonghu,reader,titlefromTgongwenwheregid>

9秒。

扫描计数8，逻辑读67489次，物理读216次，预读7499次。

看来，用union在通常情况下比用or的效率要高的多。

但经过试验，笔者发现如果or两边的查询列是一样的话，那么用union则反倒和用or的执行速度差很多，虽然这里union扫描的是索引，而or扫描的是全表。

orfariqi='

2004-2-5'

6423毫秒。

扫描计数2，逻辑读14726次，物理读1次，预读7176次。

11640毫秒。

扫描计数8，逻辑读14806次，物