【转帖】SQL索引了解

（一）深入浅出理解索引结构

OT0P~K$L#M.RQ_051Testing软件测试网#AMK)N'n6a]

　　实际上，您可以把索引理解为一种特殊的目录。微软的SQL SERVER提供了两种索引：聚集索引（clustered index，也称聚类索引、簇集索引）和非聚集索引（nonclustered index，也称非聚类索引、非簇集索引）。下面，我们举例来说明一下聚集索引和非聚集索引的区别：51Testing软件测试网hUexK t

R
{&M6TU3X0

　　其实，我们的汉语字典的正文本身就是一个聚集索引。比如，我们要查“安”字，就会很自然地翻开字典的前几页，因为“安”的拼音是“an”，而按照拼音排序汉字的字典是以英文字母“a”开头并以“z”结尾的，那么“安”字就自然地排在字典的前部。如果您翻完了所有以“a”开头的部分仍然找不到这个字，那么就说明您的字典中没有这个字；同样的，如果查“张”字，那您也会将您的字典翻到最后部分，因为“张”的拼音是“zhang”。也就是说，字典的正文部分本身就是一个目录，您不需要再去查其他目录来找到您需要找的内容。

　　我们把这种正文内容本身就是一种按照一定规则排列的目录称为“聚集索引”。51Testing软件测试网-K3x`gw7E%u w5z

ov)b8]l Q[,{0

　　如果您认识某个字，您可以快速地从自动中查到这个字。但您也可能会遇到您不认识的字，不知道它的发音，这时候，您就不能按照刚才的方法找到您要查的字，而需要去根据“偏旁部首”查到您要找的字，然后根据这个字后的页码直接翻到某页来找到您要找的字。但您结合“部首目录”和“检字表”而查到的字的排序并不是真正的正文的排序方法，比如您查“张”字，我们可以看到在查部首之后的检字表中“张”的页码是672页，检字表中“张”的上面是“驰”字，但页码却是63页，“张”的下面是“弩”字，页面是390页。很显然，这些字并不是真正的分别位于“张”字的上下方，现在您看到的连续的“驰、张、弩”三字实际上就是他们在非聚集索引中的排序，是字典正文中的字在非聚集索引中的映射。我们可以通过这种方式来找到您所需要的字，但它需要两个过程，先找到目录中的结果，然后再翻到您所需要的页码。

4Y4b@%z\h8Q0

　　我们把这种目录纯粹是目录，正文纯粹是正文的排序方式称为“非聚集索引”。

　　通过以上例子，我们可以理解到什么是“聚集索引”和“非聚集索引”。51Testing软件测试网 N%M1y,Atqa%\

(S)RAV bCA~0

　　进一步引申一下，我们可以很容易的理解：每个表只能有一个聚集索引，因为目录只能按照一种方法进行排序。

 （二）何时使用聚集索引或非聚集索引51Testing软件测试网F[ nCo

　　下面的表总结了何时使用聚集索引或非聚集索引（很重要）。51Testing软件测试网s2o[UK-b

51Testing软件测试网+iG |gE

　　事实上，我们可以通过前面聚集索引和非聚集索引的定义的例子来理解上表。如：返回某范围内的数据一项。比如您的某个表有一个时间列，恰好您把聚合索引建立在了该列，这时您查询2004年1月1日至2004年10月1日之间的全部数据时，这个速度就将是很快的，因为您的这本字典正文是按日期进行排序的，聚类索引只需要找到要检索的所有数据中的开头和结尾数据即可；而不像非聚集索引，必须先查到目录中查到每一项数据对应的页码，然后再根据页码查到具体内容。51Testing软件测试网T9j}vL1EZ:Xe

（三）结合实际，谈索引使用的误区

51Testing软件测试网:^lR5cS9X

　　理论的目的是应用。虽然我们刚才列出了何时应使用聚集索引或非聚集索引，但在实践中以上规则却很容易被忽视或不能根据实际情况进行综合分析。下面我们将根据在实践中遇到的实际问题来谈一下索引使用的误区，以便于大家掌握索引建立的方法。

Ujmh?Y-l-j0

1、主键就是聚集索引

vjUiR C8w-c0

　　这种想法笔者认为是极端错误的，是对聚集索引的一种浪费。虽然SQL SERVER默认是在主键上建立聚集索引的。

A#K ?$el2gI0

　　通常，我们会在每个表中都建立一个ID列，以区分每条数据，并且这个ID列是自动增大的，步长一般为1。我们的这个办公自动化的实例中的列Gid就是如此。此时，如果我们将这个列设为主键，SQL SERVER会将此列默认为聚集索引。这样做有好处，就是可以让您的数据在数据库中按照ID进行物理排序，但笔者认为这样做意义不大。51Testing软件测试网s;`%m0tSdv

q(^I d^h#Nc2FEPl0

　　显而易见，聚集索引的优势是很明显的，而每个表中只能有一个聚集索引的规则，这使得聚集索引变得更加珍贵。

8?%E%{o!f3c&{Y~ {[0

　　从我们前面谈到的聚集索引的定义我们可以看出，使用聚集索引的最大好处就是能够根据查询要求，迅速缩小查询范围，避免全表扫描。在实际应用中，因为ID号是自动生成的，我们并不知道每条记录的ID号，所以我们很难在实践中用ID号来进行查询。这就使让ID号这个主键作为聚集索引成为一种资源浪费。其次，让每个ID号都不同的字段作为聚集索引也不符合“大数目的不同值情况下不应建立聚合索引”规则；当然，这种情况只是针对用户经常修改记录内容，特别是索引项的时候会负作用，但对于查询速度并没有影响。51Testing软件测试网
V]m}~}m%]

　　在办公自动化系统中，无论是系统首页显示的需要用户签收的文件、会议还是用户进行文件查询等任何情况下进行数据查询都离不开字段的是“日期”还有用户本身的“用户名”。51Testing软件测试网J5]-|oJ

v)f9~y/r%i1zI0

　　通常，办公自动化的首页会显示每个用户尚未签收的文件或会议。虽然我们的where语句可以仅仅限制当前用户尚未签收的情况，但如果您的系统已建立了很长时间，并且数据量很大，那么，每次每个用户打开首页的时候都进行一次全表扫描，这样做意义是不大的，绝大多数的用户1个月前的文件都已经浏览过了，这样做只能徒增数据库的开销而已。事实上，我们完全可以让用户打开系统首页时，数据库仅仅查询这个用户近3个月来未阅览的文件，通过“日期”这个字段来限制表扫描，提高查询速度。如果您的办公自动化系统已经建立的2年，那么您的首页显示速度理论上将是原来速度8倍，甚至更快。

　　在这里之所以提到“理论上”三字，是因为如果您的聚集索引还是盲目地建在ID这个主键上时，您的查询速度是没有这么高的，即使您在“日期”这个字段上建立的索引（非聚合索引）。下面我们就来看一下在1000万条数据量的情况下各种查询的速度表现（3个月内的数据为25万条）：51Testing软件测试网KD%^
bQo9}

（1）仅在主键上建立聚集索引，并且不划分时间段：

Select gid,fariqi,neibuyonghu,title from tgongwen51Testing软件测试网!i Xh ~c]

uP{(K,g.jX0

用时：128470毫秒（即：128秒）51Testing软件测试网bz ` `,m(a&C%WY

;A|?1F#x p0

（2）在主键上建立聚集索引，在fariq上建立非聚集索引：51Testing软件测试网h
@zEhv

9J%jP NwD v0

select gid,fariqi,neibuyonghu,title from Tgongwen

S~Lm@lMG4A0

where fariqi> dateadd(day,-90,getdate())

用时：53763毫秒（54秒）51Testing软件测试网)d m}j#Cy6E1d^

+}{juE9v1iw;}0

（3）将聚合索引建立在日期列（fariqi）上：

7z
c V|\b0

select gid,fariqi,neibuyonghu,title from Tgongwen51Testing软件测试网6e&nz\Hw8y

r(ah,L3NU0

where fariqi> dateadd(day,-90,getdate())

用时：2423毫秒（2秒）51Testing软件测试网b*k egK0x],sY$D

　　虽然每条语句提取出来的都是25万条数据，各种情况的差异却是巨大的，特别是将聚集索引建立在日期列时的差异。事实上，如果您的数据库真的有1000万容量的话，把主键建立在ID列上，就像以上的第1、2种情况，在网页上的表现就是超时，根本就无法显示。这也是我摒弃ID列作为聚集索引的一个最重要的因素。51Testing软件测试网L'd4d;^,J?B

xt\sJ(~u0

　　得出以上速度的方法是：在各个select语句前加：declare @d datetime51Testing软件测试网2h$? L)_7T[ G0`i

set @d=getdate()51Testing软件测试网7u)}D)[b^^ p#?

并在select语句后加：51Testing软件测试网0|.B o$?(} v

5bM+{,n"?I,B,M0

select [语句执行花费时间(毫秒)]=datediff(ms,@d,getdate())

2、只要建立索引就能显著提高查询速度

d8ax&n6iE P0

　　事实上，我们可以发现上面的例子中，第2、3条语句完全相同，且建立索引的字段也相同；不同的仅是前者在fariqi字段上建立的是非聚合索引，后者在此字段上建立的是聚合索引，但查询速度却有着天壤之别。所以，并非是在任何字段上简单地建立索引就能提高查询速度。51Testing软件测试网Q9`E;v S@*MU

　　从建表的语句中，我们可以看到这个有着1000万数据的表中fariqi字段有5003个不同记录。在此字段上建立聚合索引是再合适不过了。在现实中，我们每天都会发几个文件，这几个文件的发文日期就相同，这完全符合建立聚集索引要求的：“既不能绝大多数都相同，又不能只有极少数相同”的规则。由此看来，我们建立“适当”的聚合索引对于我们提高查询速度是非常重要的。

1h$`%X:rmKW)p a0

3、把所有需要提高查询速度的字段都加进聚集索引，以提高查询速度

　　上面已经谈到：在进行数据查询时都离不开字段的是“日期”还有用户本身的“用户名”。既然这两个字段都是如此的重要，我们可以把他们合并起来，建立一个复合索引（compound index）。

　　很多人认为只要把任何字段加进聚集索引，就能提高查询速度，也有人感到迷惑：如果把复合的聚集索引字段分开查询，那么查询速度会减慢吗？带着这个问题，我们来看一下以下的查询速度（结果集都是25万条数据）：（日期列fariqi首先排在复合聚集索引的起始列，用户名neibuyonghu排在后列）

（1）select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5'51Testing软件测试网pB(E|'n4e#A

s7mVh9r5S SI+Mb@0

查询速度：2513毫秒

9F
E5{'HW4S V,n0

（2）select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5' and neibuyonghu='办公室'

9} kO:{*zw5}#yoI0

查询速度：2516毫秒

（3）select gid,fariqi,neibuyonghu,title from Tgongwen where neibuyonghu='办公室'

查询速度：60280毫秒

XQ'^o$v7Eq.C0

　　从以上试验中，我们可以看到如果仅用聚集索引的起始列作为查询条件和同时用到复合聚集索引的全部列的查询速度是几乎一样的，甚至比用上全部的复合索引列还要略快（在查询结果集数目一样的情况下）；而如果仅用复合聚集索引的非起始列作为查询条件的话，这个索引是不起任何作用的。当然，语句1、2的查询速度一样是因为查询的条目数一样，如果复合索引的所有列都用上，而且查询结果少的话，这样就会形成“索引覆盖”，因而性能可以达到最优。同时，请记住：无论您是否经常使用聚合索引的其他列，但其前导列一定要是使用最频繁的列。

（四）其他书上没有的索引使用经验总结

jRl+A o Z3JA051Testing软件测试网0m&UQ5UP*_6]

1、用聚合索引比用不是聚合索引的主键速度快

O"z0E0Y'W WzI0

下面是实例语句：（都是提取25万条数据）

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'51Testing软件测试网j'B.?%]h!KS G'Q;m

使用时间：3326毫秒51Testing软件测试网4rhB0hOaO

-RJ1wFNK[VO0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid<=250000

%cp,`2v;P0

使用时间：4470毫秒51Testing软件测试网+Hb{,hD[,M4d7M

Rx5g!R~~G0

这里，用聚合索引比用不是聚合索引的主键速度快了近1/4。51Testing软件测试网^ r(T?VZ N`e

Cd o+TV\0}0

2、用聚合索引比用一般的主键作order by时速度快，特别是在小数据量情况下51Testing软件测试网6XmkO7B hM(\p

Jw9r'_,{#J^0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by fariqi51Testing软件测试网,ecC&eO

用时：1293651Testing软件测试网3Xo i;V$Tq%l

)n7ZG-tK+zHF:E0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by gid

用时：18843

这里，用聚合索引比用一般的主键作order by时，速度快了3/10。事实上，如果数据量很小的话，用聚集索引作为排序列要比使用非聚集索引速度快得明显的多；而数据量如果很大的话，如10万以上，则二者的速度差别不明显。

.w@dT'L!U8K@5r0

3、使用聚合索引内的时间段，搜索时间会按数据占整个数据表的百分比成比例减少，而无论聚合索引使用了多少个

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1'51Testing软件测试网`%T.U0?4qW'RXD

用时：6343毫秒（提取100万条）51Testing软件测试网ehMtd.G

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-6-6'51Testing软件测试网1W9am(VC`lo

-y){gtCl0

用时：3170毫秒（提取50万条）51Testing软件测试网(X(zw:C!im

ftZ;L@0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'

用时：3326毫秒（和上句的结果一模一样。如果采集的数量一样，那么用大于号和等于号是一样的）51Testing软件测试网e)KA"};J%iS)O,R

2sG4D/xl4\"Q2|0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' and fariqi<'2004-6-6'51Testing软件测试网,x]u9l[0i7g

J H mU
];HY0

用时：3280毫秒51Testing软件测试网E9N/A7P2}P

g/_,C5n$vURl.{0

4、日期列不会因为有分秒的输入而减慢查询速度51Testing软件测试网:K4KLMGjS H

Iu6i5ht0

下面的例子中，共有100万条数据，2004年1月1日以后的数据有50万条，但只有两个不同的日期，日期精确到日；之前有数据50万条，有5000个不同的日期，日期精确到秒。

:Jq5k)Uh |0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' order by fariqi

!OS4U&I*^WL0

用时：6390毫秒

7VL8}YX1nXx*o1T0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi<'2004-1-1' order by fariqi51Testing软件测试网j m{P[D

用时：53毫秒51Testing软件测试网9cy0]J5r~

X/r3J/m*j4C'T0

（五）其他注意事项51Testing软件测试网J3Z.P y
q/Oo

t E)}1l3P:A&p%n0

　　“水可载舟，亦可覆舟”，索引也一样。索引有助于提高检索性能，但过多或不当的索引也会导致系统低效。因为用户在表中每加进一个索引，数据库就要做更多的工作。过多的索引甚至会导致索引碎片。

　　所以说，我们要建立一个“适当”的索引体系，特别是对聚合索引的创建，更应精益求精，以使您的数据库能得到高性能的发挥。

　　当然，在实践中，作为一个尽职的数据库管理员，您还要多测试一些方案，找出哪种方案效率最高、最为有效。

二、改善SQL语句51Testing软件测试网%\8Cp8t4V!|T,d,[(s

j;X4[ gsZ+~0

　　很多人不知道SQL语句在SQL SERVER中是如何执行的，他们担心自己所写的SQL语句会被SQL SERVER误解。比如：51Testing软件测试网} Yz1r
i0T ^g

&Kqr8T5c0

select * from table1 where name='zhangsan' and tID > 10000

T3~Hw&H(^e4I0

和执行:

`#Z+sK/Y.jp2U%O0

select * from table1 where tID > 10000 and name='zhangsan'

　　一些人不知道以上两条语句的执行效率是否一样，因为如果简单的从语句先后上看，这两个语句的确是不一样，如果tID是一个聚合索引，那么后一句仅仅从表的10000条以后的记录中查找就行了；而前一句则要先从全表中查找看有几个name='zhangsan'的，而后再根据限制条件条件tID>10000来提出查询结果。51Testing软件测试网%V ](rWN
~y

dJms%nh0AS IoA0

　　事实上，这样的担心是不必要的。SQL SERVER中有一个“查询分析优化器”，它可以计算出where子句中的搜索条件并确定哪个索引能缩小表扫描的搜索空间，也就是说，它能实现自动优化。

　　虽然查询优化器可以根据where子句自动的进行查询优化，但大家仍然有必要了解一下“查询优化器”的工作原理，如非这样，有时查询优化器就会不按照您的本意进行快速查询。

　　在查询分析阶段，查询优化器查看查询的每个阶段并决定限制需要扫描的数据量是否有用。如果一个阶段可以被用作一个扫描参数（SARG），那么就称之为可优化的，并且可以利用索引快速获得所需数据。

0P*A7\&dZ1B%V/C$P8E0

　　SARG的定义：用于限制搜索的一个操作，因为它通常是指一个特定的匹配，一个值得范围内的匹配或者两个以上条件的AND连接。形式如下：51Testing软件测试网2t+fjA%c;bEx

列名 操作符<常数 或 变量>

或51Testing软件测试网s
ox/L.|5b[c

<常数 或 变量>操作符列名

H8^7~"@!Z7j0

列名可以出现在操作符的一边，而常数或变量出现在操作符的另一边。如：

8@\cu"bM,G0

Name=’张三’

"J{ax*q| cl0

价格>500051Testing软件测试网~s7r5LJP/a| U

5000<价格

r L~2@ F2T0

Name=’张三’and价格>500051Testing软件测试网h3q5Or St*\2R

(q4nc2CKIG4q0

　　如果一个表达式不能满足SARG的形式，那它就无法限制搜索的范围了，也就是SQL SERVER必须对每一行都判断它是否满足WHERE子句中的所有条件。所以一个索引对于不满足SARG形式的表达式来说是无用的。

　　介绍完SARG后，我们来总结一下使用SARG以及在实践中遇到的和某些资料上结论不同的经验：

J's-VM/h"{ R0

1、Like语句是否属于SARG取决于所使用的通配符的类型

如：name like‘张%’，这就属于SARG51Testing软件测试网cK1XRx}

DO4{?(e/JRW[0

而：name like‘%张’,就不属于SARG。51Testing软件测试网#wB-\Zv k.u|6Lu

^j7RU0B ^0Im w0

原因是通配符%在字符串的开通使得索引无法使用。

2、or会引起全表扫描

(s|#\ H$S"h{ x5h0

Name=’张三’and价格>5000符号SARG，而：Name=’张三’or价格>5000则不符合SARG。使用or会引起全表扫描。

8m`y@ J{2C$i/ns0

3、非操作符、函数引起的不满足SARG形式的语句

P
y^9xn
y0

　　不满足SARG形式的语句最典型的情况就是包括非操作符的语句，如：NOT、!=、<>、!<、!>、NOT EXISTS、NOT IN、NOT LIKE等，另外还有函数。下面就是几个不满足SARG形式的例子：

%y9q#lz og$t
p:W%l0

ABS(价格)<5000

Name like‘%三’51Testing软件测试网OW-jWUj/{m

有些表达式，如：51Testing软件测试网u]2Q#v Ms#Pk~,L

WHERE价格*2>5000

SQL SERVER也会认为是SARG，SQL SERVER会将此式转化为：51Testing软件测试网#`RN@ s

6r4g'Y)K-\HdE&Q6a0

WHERE价格>2500/251Testing软件测试网8T!GD4_z8m/yV.T

　　但我们不推荐这样使用，因为有时SQL SERVER不能保证这种转化与原始表达式是完全等价的。

4、IN的作用相当与OR51Testing软件测试网Bo4{pbxohlJ

语句：

[J%ei"?0

Select * from table1 where tid in (2,3)51Testing软件测试网V@-tZgX

和51Testing软件测试网gjb(shCk-p8N G

Qa!@uT0

Select * from table1 where tid=2 or tid=351Testing软件测试网9toH\.NCT[3_-[F

4B5E$s(Lp`0

是一样的，都会引起全表扫描，如果tid上有索引，其索引也会失效。

5、尽量少用NOT

/EM/mS.C/D ?K0

6、exists和in的执行效率是一样的51Testing软件测试网0S0{~ \d

　　很多资料上都显示说，exists要比in的执行效率要高，同时应尽可能的用not exists来代替not in。但事实上，我试验了一下，发现二者无论是前面带不带not，二者之间的执行效率都是一样的。因为涉及子查询，我们试验这次用SQL SERVER自带的pubs数据库。运行前我们可以把SQL SERVER的statistics I/O状态打开。51Testing软件测试网^P"}9vg6}.aY/cQ

（1）select title,price from titles where title_id in (select title_id from sales where qty>30)

表'sales'。扫描计数18，逻辑读56次，物理读0次，预读0次。51Testing软件测试网%j7Mg:z+uD g

   51Testing软件测试网h+C(gUO%H

*s}XV6X1FRw%a:Y0

（2）select title,price from titles where exists (select * from sales where sales.title_id=titles.title_id and qty>30)51Testing软件测试网,A \n!i5}Q$I7| JZ

4e9H[NA9XOT;u0

表'sales'。扫描计数18，逻辑读56次，物理读0次，预读0次。

;y!NwW
Ye5CK`0

我们从此可以看到用exists和用in的执行效率是一样的。

7、用函数charindex()和前面加通配符%的LIKE执行效率一样

Zh~y3KE,\6Z0

　　前面，我们谈到，如果在LIKE前面加上通配符%，那么将会引起全表扫描，所以其执行效率是低下的。但有的资料介绍说，用函数charindex()来代替LIKE速度会有大的提升，经我试验，发现这种说明也是错误的：

select gid,title,fariqi,reader from tgongwen where charindex('刑侦支队',reader)>0 and fariqi>'2004-5-5'51Testing软件测试网%{6?*AZB,x)|

用时：7秒，另外：扫描计数4，逻辑读7155次，物理读0次，预读0次。51Testing软件测试网 Du9?5dB~1p8K{T6gC

select gid,title,fariqi,reader from tgongwen where reader like '%' + '刑侦支队' + '%' and fariqi>'2004-5-5'51Testing软件测试网U0\ m[2WwrHOB

用时：7秒，另外：扫描计数4，逻辑读7155次，物理读0次，预读0次。

8、union并不绝对比or的执行效率高51Testing软件测试网m_y%gk+F

G*b:_(r[wJ0

　　我们前面已经谈到了在where子句中使用or会引起全表扫描，一般的，我所见过的资料都是推荐这里用union来代替or。事实证明，这种说法对于大部分都是适用的。

[ec r*dp0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or gid>9990000

用时：68秒。扫描计数1，逻辑读404008次，物理读283次，预读392163次。51Testing软件测试网 xi7w6rv0Pw1l }R

9].M V1ElZ{ aZx0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'51Testing软件测试网KUaA4F3j4_W$ej l

union51Testing软件测试网&^&fa`iG

_
w6M)mzj0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid>9990000

用时：9秒。扫描计数8，逻辑读67489次，物理读216次，预读7499次。

f|0IH+L b$Y0q0

看来，用union在通常情况下比用or的效率要高的多。51Testing软件测试网(p `Ldg'?(e~9\`T
}

但经过试验，笔者发现如果or两边的查询列是一样的话，那么用union则反倒和用or的执行速度差很多，虽然这里union扫描的是索引，而or扫描的是全表。

/LT;N{p0

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or fariqi='2004-2-5'

用时：23毫秒。扫描计数2，逻辑读14726次，物理读1次，预读7176次。

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'51Testing软件测试网:tR\M`;m\

p0OTtey0D0

union51Testing软件测试网z*V.}t5M;N
uU

select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-2-5'51Testing软件测试网'a@"AJpR} h!O

用时：110毫秒。扫描计数8，逻辑读14806次，物理读108次，预读1144次。51Testing软件测试网h^Y }4_W D.j

#[ VGuE|&N$Ff*E8K0

9、字段提取要按照“需多少、提多少”的原则，避免“select *”

2X.qD Z*}2E!g K;E0

我们来做一个试验：51Testing软件测试网Dsa wS p1o'C)M/X

Gk+BV'{5O0

select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc

用时：4673毫秒

select top 10000 gid,fariqi,title from tgongwen order by gid desc

用时：1376毫秒51Testing软件测试网#IE:qwV4uN

,B+T"X8{#@yhr0

select top 10000 gid,fariqi from tgongwen order by gid desc51Testing软件测试网/q2r'EyU%AVe

rL3kmo)kD9JD^1a0

用时：80毫秒

F;A'z V"G0

由此看来，我们每少提取一个字段，数据的提取速度就会有相应的提升。提升的速度还要看您舍弃的字段的大小来判断。51Testing软件测试网%PR Jqm"I)^

_,nl@o:]!Y\0

10、count(*)不比count(字段)慢

某些资料上说：用*会统计所有列，显然要比一个世界的列名效率低。这种说法其实是没有根据的。我们来看：51Testing软件测试网~(?MC2viW

select count(*) from Tgongwen

用时：1500毫秒

select count(gid) from Tgongwen51Testing软件测试网k_ pQ y5^2J~s_

(y ?t
se0

用时：1483毫秒

MOE$trX0g0

select count(fariqi) from Tgongwen

"b,A%]0jB!N0

用时：3140毫秒

select count(title) from Tgongwen

%F@ Jf Z [ a0

用时：52050毫秒51Testing软件测试网ue \,gd,a ^9eW)bN

gN A3P?*E0

从以上可以看出，如果用count(*)和用count(主键)的速度是相当的，而count(*)却比其他任何除主键以外的字段汇总速度要快，而且字段越长，汇总的速度就越慢。我想，如果用count(*)，SQL SERVER可能会自动查找最小字段来汇总的。当然，如果您直接写count(主键)将会来的更直接些。

11、order by按聚集索引列排序效率最高

"VDc-@Z0

我们来看：（gid是主键，fariqi是聚合索引列）51Testing软件测试网!h:sv8t2@^Do

select top 10000 gid,fariqi,reader,title from tgongwen

`
Gr,F&m!h;?^3d0

用时：196毫秒。 扫描计数1，逻辑读289次，物理读1次，预读1527次。51Testing软件测试网p:w-ur)^k2N

select top 10000 gid,fariqi,reader,title from tgongwen order by gid asc

Mv;Nzl!K&@3J5G0

用时：4720毫秒。 扫描计数1，逻辑读41956次，物理读0次，预读1287次。51Testing软件测试网R"C"U XT;N)ei

select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc

'oQ e\A4pZ0

用时：4736毫秒。 扫描计数1，逻辑读55350次，物理读10次，预读775次。51Testing软件测试网U&b9_sh3\Lv

select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi asc51Testing软件测试网BCST W/L

用时：173毫秒。 扫描计数1，逻辑读290次，物理读0次，预读0次。51Testing软件测试网Y0l9} Yi)H8rs\

Ns K8qs h0

select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi desc

"Gm+jc*Z9K3bj*e0

用时：156毫秒。 扫描计数1，逻辑读289次，物理读0次，预读0次。51Testing软件测试网'n9o#QK?M}My:TgC

从以上我们可以看出，不排序的速度以及逻辑读次数都是和“order by聚集索引列” 的速度是相当的，但这些都比“order by非聚集索引列”的查询速度是快得多的。51Testing软件测试网"MmA0M-r@Ug4U

s6]7`@&z@0

同时，按照某个字段进行排序的时候，无论是正序还是倒序，速度是基本相当的。51Testing软件测试网N`s!pf

]'I@-u iZ@uN:tZ0

12、高效的TOP

事实上，在查询和提取超大容量的数据集时，影响数据库响应时间的最大因素不是数据查找，而是物理的I/0操作。如：

select top 10 * from (51Testing软件测试网Vfunlt~P

select top 10000 gid,fariqi,title from tgongwen51Testing软件测试网&S4q"V `2}

where neibuyonghu='办公室'51Testing软件测试网#t2GEy-{

order by gid desc) as a51Testing软件测试网HQBu%u

5T(Rn
ZE3M(f0

order by gid asc51Testing软件测试网
xZ5z{7z }U*A

GuW(r$ea0

　　这条语句，从理论上讲，整条语句的执行时间应该比子句的执行时间长，但事实相反。因为，子句执行后返回的是10000条记录，而整条语句仅返回10条语句，所以影响数据库响应时间最大的因素是物理I/O操作。而限制物理I/O操作此处的最有效方法之一就是使用TOP关键词了。TOP关键词是SQL SERVER中经过系统优化过的一个用来提取前几条或前几个百分比数据的词。经笔者在实践中的应用，发现TOP确实很好用，效率也很高。但这个词在另外一个大型数据库ORACLE中却没有，这不能说不是一个遗憾，虽然在ORACLE中可以用其他方法（如：rownumber）来解决。在以后的关于“实现千万级数据的分页显示存储过程”的讨论中，我们就将用到TOP这个关键词。

　　到此为止，我们上面讨论了如何实现从大容量的数据库中快速地查询出您所需要的数据方法。当然，我们介绍的这些方法都是“软”方法，在实践中，我们还要考虑各种“硬”因素，如：网络性能、服务器的性能、操作系统的性能，甚至网卡、交换机等。51Testing软件测试网y*^lt;On gY

三、实现小数据量和海量数据的通用分页显示存储过程51Testing软件测试网,P
}:W#Q"P3yP

　　建立一个web应用，分页浏览功能必不可少。这个问题是数据库处理中十分常见的问题。经典的数据分页方法是:ADO纪录集分页法，也就是利用ADO自带的分页功能（利用游标）来实现分页。但这种分页方法仅适用于较小数据量的情形，因为游标本身有缺点：游标是存放在内存中，很费内存。游标一建立，就将相关的记录锁住，直到取消游标。游标提供了对特定集合中逐行扫描的手段，一般使用游标来逐行遍历数据，根据取出数据条件的不同进行不同的操作。而对于多表和大表中定义的游标（大的数据集合）循环很容易使程序进入一个漫长的等待甚至死机。

Hcre{7_%fod@2U0

　　更重要的是，对于非常大的数据模型而言，分页检索时，如果按照传统的每次都加载整个数据源的方法是非常浪费资源的。现在流行的分页方法一般是检索页面大小的块区的数据，而非检索所有的数据，然后单步执行当前行。51Testing软件测试网KD[wS\oH

   最早较好地实现这种根据页面大小和页码来提取数据的方法大概就是“俄罗斯存储过程”。这个存储过程用了游标，由于游标的局限性，所以这个方法并没有得到大家的普遍认可。51Testing软件测试网`%C{]mwF4n

(e'B_e6D;n-s0

CREATE procedure pagination1

"Gb~5_M W(^*x0

(@pagesize int, --页面大小，如每页存储20条记录

Xb)D/|M0

@pageindex int  --当前页码51Testing软件测试网y%s"PJ,W5i1xq

)51Testing软件测试网BVCf6w
IW

as51Testing软件测试网[%?)k2_ h0d&E

ZMr|BVb
W0

set nocount on51Testing软件测试网
?1D$G+Oa+Vb

begin

.iL(Uggjm}6_}B)x0

declare @indextable table(id int identity(1,1),nid int) --定义表变量

declare @PageLowerBound int --定义此页的底码51Testing软件测试网
MM7\$eu_L M)f4Sh

declare @PageUpperBound int --定义此页的顶码51Testing软件测试网q I,k!J*o8c

N"]P`.EC0

set @PageLowerBound=(@pageindex-1)*@pagesize

Z,P^c:bg[@I0

set @PageUpperBound=@PageLowerBound+@pagesize

set rowcount @PageUpperBound

O
Z E5] h0ERA4X0

insert into @indextable(nid) select gid from TGongwen where fariqi >dateadd(day,-365,getdate()) order by fariqi desc

2D hls){p&m&t0

select O.gid,O.mid,O.title,O.fadanwei,O.fariqi from TGongwen O,@indextable t where O.gid=t.nid

0R&R#Er!{ pH e_0

and t.id>@PageLowerBound and t.id<=@PageUpperBound order by t.id

end51Testing软件测试网
ieG!V]B

:bof$IXwV0

　　以上存储过程运用了SQL SERVER的最新技术――表变量。应该说这个存储过程也是一个非常优秀的分页存储过程。当然，在这个过程中，您也可以把其中的表变量写成临时表：CREATE TABLE #Temp。但很明显，在SQL SERVER中，用临时表是没有用表变量快的。所以笔者刚开始使用这个存储过程时，感觉非常的不错，速度也比原来的ADO的好。但后来，我又发现了比此方法更好的方法。51Testing软件测试网3U+D{.laA,A%F}

从publish表中取出第n条到第m条的记录：
3ii"e5MrKTf0SELECT TOP m-n+1 *51Testing软件测试网.[K r,G`$E1c
FROM publish
0e8V*M/?4pd)oQ,pl$J4C.n0WHERE (id NOT IN51Testing软件测试网2D6h6Q@mY5UE-s
　　　　(SELECT TOP n-1 id51Testing软件测试网.p#N*zr*@V(`?
　　　　FROM publish))51Testing软件测试网%Fh5L;ur4u7E

id为publish表的关键字

*A5b2?na0

CREATE PROCEDURE pagination2
{+zwJb|V6X2m*Y0(
0cf&V'Qv$W0 @SQL nVARCHAR(4000),   --不带排序语句的SQL语句51Testing软件测试网U-`Ld_$`5alG3g;A
 @Page int,             --页码51Testing软件测试网tS1~1\/rW
 @RecsPerPage int,      --每页容纳的记录数51Testing软件测试网*lm-Hx7M[b
 @ID VARCHAR(255),      --需要排序的不重复的ID号51Testing软件测试网)? Y.@'dQT&D
 @Sort VARCHAR(255)     --排序字段及规则51Testing软件测试网z1_!| cN
)51Testing软件测试网O.|D B/Q"p)IA;l6h
AS

Ik[
fA.x0

DECLARE @Str nVARCHAR(4000)51Testing软件测试网~#bjm.Ca:I%^

$}BU/V"W_0

SET @Str='SELECT  TOP '+CAST(@RecsPerPage AS VARCHAR(20))+' * FROM ('+@SQL+') T WHERE T.'+@ID+'NOT IN
-GG;~J.X6?b0(SELECT  TOP '+CAST((@RecsPerPage*(@Page-1)) AS VARCHAR(20))+' '+@ID+' FROM ('+@SQL+') T9 ORDER BY '+@Sort+') ORDER BY '+@Sort

PRINT @Str

eKh,FsUc0

其实，以上语句可以简化为：

SELECT TOP页大小*51Testing软件测试网*O%G!E+S$k8n'TQk

FROM Table151Testing软件测试网!P S+R
MD1c

WHERE (ID NOT IN51Testing软件测试网FJ;^~fD%m

9f,gX[ J~r/W0

         (SELECT TOP页大小*页数id51Testing软件测试网k;pM'R!b W:b

?{5vv0w3O%y0

        FROM表51Testing软件测试网X:G~/r-|

        ORDER BY id))

ORDER BY ID

但这个存储过程有一个致命的缺点，就是它含有NOT IN字样。虽然我可以把它改造为：

t]4F+p6O zh0

SELECT TOP页大小*51Testing软件测试网`_&t f7y~3Gn

FROM Table1

k*@8N
F;H;O)a+`U0

WHERE not exists51Testing软件测试网)N
{,VUT

-})svm$E2y0

(select * from (select top (页大小*页数) * from table1 order by id) b where b.id=a.id )

order by id

即，用not exists来代替not in，但我们前面已经谈过了，二者的执行效率实际上是没有区别的。

_#D-x#D*Ib(N0

既便如此，用TOP结合NOT IN的这个方法还是比用游标要来得快一些。

　　虽然用not exists并不能挽救上个存储过程的效率，但使用SQL SERVER中的TOP关键字却是一个非常明智的选择。因为分页优化的最终目的就是避免产生过大的记录集，而我们在前面也已经提到了TOP的优势，通过TOP即可实现对数据量的控制。

V4}E2Q~,m/~2H0

　　在分页算法中，影响我们查询速度的关键因素有两点：TOP和NOT IN。TOP可以提高我们的查询速度，而NOT IN会减慢我们的查询速度，所以要提高我们整个分页算法的速度，就要彻底改造NOT IN，同其他方法来替代它。51Testing软件测试网(X Q7{#PqW W(r[

　　我们知道，几乎任何字段，我们都可以通过max(字段)或min(字段)来提取某个字段中的最大或最小值，所以如果这个字段不重复，那么就可以利用这些不重复的字段的max或min作为分水岭，使其成为分页算法中分开每页的参照物。在这里，我们可以用操作符“>”或“<”号来完成这个使命，使查询语句符合SARG形式。如：

Select top 10 * from table1 where id>200

于是就有了如下分页方案：

Q*T9h4WZ#XcN;H"z0

select top页大小*

t sA(l-zk R@0

from table151Testing软件测试网 P+y3w%OM SQ
b2Kd

"CQ }3mi0

where id>51Testing软件测试网t/UK'{+C6RE'` R

N-ZS]C_G0

     (select max (id) from

     (select top ((页码-1)*页大小) id from table1 order by id) as T

      )    

4BOOP3ii,S"K0

 order by id51Testing软件测试网g C\x})Rz9e

0taH3}3t w8i2g3x"{0

　　在选择即不重复值，又容易分辨大小的列时，我们通常会选择主键。下表列出了笔者用有着1000万数据的办公自动化系统中的表，在以GID（GID是主键，但并不是聚集索引。）为排序列、提取gid,fariqi,title字段，分别以第1、10、100、500、1000、1万、10万、25万、50万页为例，测试以上三种分页方案的执行速度：（单位：毫秒）

51Testing软件测试网@*Q'd_-G

　　从上表中，我们可以看出，三种存储过程在执行100页以下的分页命令时，都是可以信任的，速度都很好。但第一种方案在执行分页1000页以上后，速度就降了下来。第二种方案大约是在执行分页1万页以上后速度开始降了下来。而第三种方案却始终没有大的降势，后劲仍然很足。

:~7HP
I(A [[0

--获取指定页的数据

#ZWiv+A
yg0

CREATE PROCEDURE pagination3

|(c'Ps$Q&LO0

@tblName  varchar(255),      --表名51Testing软件测试网rG%C r5`Q g
g

COL2Y+p6u&G+@z5@G0

@strGetFields varchar(1000) = '*', --需要返回的列

j8|8~xaK pJ'C0

@fldName varchar(255)='',     --排序的字段名51Testing软件测试网!MAizau0z;zC

&Nj$\x;c1k1ObK0

@PageSize  int = 10,         --页尺寸51Testing软件测试网(R,`Dhd$B0C

@PageIndex int = 1,          --页码

@doCount bit = 0,  --返回记录总数,非0值则返回

1A$wfw!qU
cXR~ `0

@OrderType bit = 0, --设置排序类型,非0值则降序

.s~ A SwR:u0

@strWhere varchar(1500) = '' --查询条件(注意:不要加where)51Testing软件测试网l"zNcy/S#T

AS51Testing软件测试网!|!Y5Go3EG/BY

declare @strSQL  varchar(5000)      --主语句51Testing软件测试网*eG.mo]

wuz/nd0

declare @strTmp  varchar(110)       --临时变量

g9Qr%nM`*s"I:t0

declare @strOrder varchar(400)       --排序类型

X^2F:v8G}0

if @doCount != 0

 begin51Testing软件测试网j];exA[q j1u

   if @strWhere !=''51Testing软件测试网+`6S'p)d%U8b*w

   set @strSQL = "select count(*) as Total from [" + @tblName + "] where "+@strWhere51Testing软件测试网rM7vj;HJ;Os

   else51Testing软件测试网 ~b/y}6I{L9p

   set @strSQL = "select count(*) as Total from [" + @tblName + "]"

end 

--以上代码的意思是如果@doCount传递过来的不是0，就执行总数统计。以下的所有代码都是@doCount为0的情况51Testing软件测试网2X$ZnY*a|$w

else

o#fzrx0

begin51Testing软件测试网Vvv-GM

#X&g?` s:d0

if @OrderType != 051Testing软件测试网h'@{)Kh~

begin

(e(L8kMT}7Z0

   set @strTmp = "<(select min"

set @strOrder = " order by [" + @fldName +"] desc"51Testing软件测试网kGu"on
w g~ DBk0t

--如果@OrderType不是0，就执行降序，这句很重要！

end

v[#C:M(]qj)U
Q+R$}0

else

begin51Testing软件测试网)ZF1u}!F@VC

   set @strTmp = ">(select max"51Testing软件测试网|5yA G]/_-W

^0^/W-BX0

   set @strOrder = " order by [" + @fldName +"] asc"

end51Testing软件测试网Vt(v u&C"P~

uZ(s;~Z0Z0

if @PageIndex = 1

begin

z$tAz#x"Nq0

   if @strWhere != ''  

#_N4w{;a(gF!u5`v0

   set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ " from [" + @tblName + "] where " + @strWhere + " " + @strOrder

    else

    set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ " from ["+ @tblName + "] "+ @strOrder51Testing软件测试网 kDnE[3Lm

JQ
N;s.Kv5o5DJ|0

--如果是第一页就执行以上代码，这样会加快执行速度51Testing软件测试网T\F0a I-?A

end51Testing软件测试网w8xnIo D&r\"k

else

begin51Testing软件测试网(V~FswbVs6g#y4T

1t5o B_TK6l+{9p2H0

--以下代码赋予了@strSQL以真正执行的SQL代码51Testing软件测试网[$@
}p6P8ZWM kIG8RX _

set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ " from ["

p9B"M%p Ohy0

   + @tblName + "] where [" + @fldName + "]" + @strTmp + "(["+ @fldName + "]) from (select top " + str((@PageIndex-1)*@PageSize) + " ["+ @fldName + "] from [" + @tblName + "]" + @strOrder + ") as tblTmp)"+ @strOrder51Testing软件测试网7G/?.muk*K

if @strWhere != ''

   set @strSQL = "select top " + str(@PageSize) +" "+@strGetFields+ " from ["

       + @tblName + "] where [" + @fldName + "]" + @strTmp + "(["

*U6~-gy i3k0

       + @fldName + "]) from (select top " + str((@PageIndex-1)*@PageSize) + " ["

       + @fldName + "] from [" + @tblName + "] where " + @strWhere + " "

2Hp QB"?9qA9e0

       + @strOrder + ") as tblTmp) and " + @strWhere + " " + @strOrder51Testing软件测试网:T4p2nG M/YA m5G

end51Testing软件测试网$[.DiQ H"k

y+KMr_9M]9H W*o$g0

end  51Testing软件测试网[H+Xf/AG#c-`

exec (@strSQL)51Testing软件测试网7?rEiG"u _

　　上面的这个存储过程是一个通用的存储过程，其注释已写在其中了。51Testing软件测试网 @U[U8nC&C

6Q bb|4VVsA0

　　在大数据量的情况下，特别是在查询最后几页的时候，查询时间一般不会超过9秒；而用其他存储过程，在实践中就会导致超时，所以这个存储过程非常适用于大容量数据库的查询。

'G3u+oKM Vj0

　　笔者希望能够通过对以上存储过程的解析，能给大家带来一定的启示，并给工作带来一定的效率提升，同时希望同行提出更优秀的实时数据分页算法。51Testing软件测试网1lL)[4|+t%H*Z
Ti

四、聚集索引的重要性和如何选择聚集索引

在上一节的标题中，笔者写的是：实现小数据量和海量数据的通用分页显示存储过程。这是因为在将本存储过程应用于“办公自动化”系统的实践中时，笔者发现这第三种存储过程在小数据量的情况下，有如下现象：51Testing软件测试网'ZT4^-q.V my W.S

-DrF!q2D+}I^.b0

1、分页速度一般维持在1秒和3秒之间。

2、在查询最后一页时，速度一般为5秒至8秒，哪怕分页总数只有3页或30万页。

+q#HL]6n;W9P0

虽然在超大容量情况下，这个分页的实现过程是很快的，但在分前几页时，这个1－3秒的速度比起第一种甚至没有经过优化的分页方法速度还要慢，借用户的话说就是“还没有ACCESS数据库速度快”，这个认识足以导致用户放弃使用您开发的系统。

d?{C+|Z S:C2`0

笔者就此分析了一下，原来产生这种现象的症结是如此的简单，但又如此的重要：排序的字段不是聚集索引！51Testing软件测试网9X`
fX
J D-`

本篇文章的题目是：“查询优化及分页算法方案”。笔者只所以把“查询优化”和“分页算法”这两个联系不是很大的论题放在一起，就是因为二者都需要一个非常重要的东西――聚集索引。51Testing软件测试网V(m4O/m9hDU R

4pP].sF\w0

在前面的讨论中我们已经提到了，聚集索引有两个最大的优势：51Testing软件测试网#{:Oo"Q]X?

V+`Z}*fEs2s0

1、以最快的速度缩小查询范围。

2、以最快的速度进行字段排序。51Testing软件测试网J8A_Z'[];E

第1条多用在查询优化时，而第2条多用在进行分页时的数据排序。51Testing软件测试网E
^ ^wy_4v

而聚集索引在每个表内又只能建立一个，这使得聚集索引显得更加的重要。聚集索引的挑选可以说是实现“查询优化”和“高效分页”的最关键因素。

b(X%D@``j0

但要既使聚集索引列既符合查询列的需要，又符合排序列的需要，这通常是一个矛盾。

　　笔者前面“索引”的讨论中，将fariqi，即用户发文日期作为了聚集索引的起始列，日期的精确度为“日”。这种作法的优点，前面已经提到了，在进行划时间段的快速查询中，比用ID主键列有很大的优势。

3Es^)VS5m9T+F0

　　但在分页时，由于这个聚集索引列存在着重复记录，所以无法使用max或min来最为分页的参照物，进而无法实现更为高效的排序。而如果将ID主键列作为聚集索引，那么聚集索引除了用以排序之外，没有任何用处，实际上是浪费了聚集索引这个宝贵的资源。

　　为解决这个矛盾，笔者后来又添加了一个日期列，其默认值为getdate()。用户在写入记录时，这个列自动写入当时的时间，时间精确到毫秒。即使这样，为了避免可能性很小的重合，还要在此列上创建UNIQUE约束。将此日期列作为聚集索引列。51Testing软件测试网!Fg/lv
}N&|

fkJ6@)R0

　　有了这个时间型聚集索引列之后，用户就既可以用这个列查找用户在插入数据时的某个时间段的查询，又可以作为唯一列来实现max或min，成为分页算法的参照物。

xR ` @|s:A4bbOl0

　　经过这样的优化，笔者发现，无论是大数据量的情况下还是小数据量的情况下，分页速度一般都是几十毫秒，甚至0毫秒。而用日期段缩小范围的查询速度比原来也没有任何迟钝。

聚集索引是如此的重要和珍贵，所以笔者总结了一下，一定要将聚集索引建立在：51Testing软件测试网u1AEp4M1n/ny(A

F#fZ6t``0

1、您最频繁使用的、用以缩小查询范围的字段上；

2、您最频繁使用的、需要排序的字段上。51Testing软件测试网-{hL4aD