SQL Server索引自动优化工具

上一篇 / 下一篇  2012-08-13 10:18:12 / 个人分类:数据库

51Testing软件测试网c'B q,b j*Z+D!rl

  前段接手了个优化项目,大概要求是对公司现有的1W多张表进行索引优化,完善现有的,剔除无效的索引。鉴于人手严重不足(当时算两个半人的资 源),打消了逐个库手动去改的念头。当前的程序结构不允许搞革命的做法,只能搞搞改良,所以准备搞个自动化工具去处理。原型刚开发完,开会的时候以拿出来 就遭到运维DBA团队强烈抵制,具体原因不详。最后无限延期。这里把思路分享下。欢迎拍砖。51Testing软件测试网0Zyz-a&J z

51Testing软件测试网Ca4Fb\,J:sd

  整个思路是这样的,索引都是为查询和更新服 务的,但是不合适的索引又会对插入和更新带来负面影响。面对表上现有的索引想识别那些是有效的不太可能。那么根据现有的数据使用情况重建所有的新索引不就 解决了嘛。根据查询生成全新索引,然后和现有对比,不吻合的全部删除,原来没有的创建。虽然说对于正在运行的系统来说风险还是蛮大的。但是可以做临界测试嘛。

[2?/V8V y0

2B+u-[5a2F3K0D0  具体解决方案如下:

W^_*u8VOxpli?0

+v!Zq| ^0  首先在热备的数据库服务器上定期抓取缓存的执行计划(原本想抓取SQL发现有些SQL实在掺不忍睹,没有自动化解析的可能性),然后连同该执行的执行次数即表的统计信息一起down到一个备用服务器的数据表中。

J%zv9f:T0

x`:i A2w:U*n0  执行计划积累几次后,开始解析。由于执行计划是格式良好的XML文件,加上微软提 供执行计划的XSD文件。我们可以反向推出各节点对应的SQL谓词(这个XSD到现在都没找到官方的说明,只能反向推出关联)。例如建立索引我们比较关心 三类谓词,分别为:Select,Join,Where。 只要拿到这些我们就能建立良好的索引。原理很简单,Join和Where都是索引键的依据,而Select可以斟请添加到Index的Include中。

SoN#c;[0

6|&`/p3_/X*e D~q)d0   解析的时候也不是针对单个执行计划,而是将所有执行计划全分解后进行统计处理。好处就是能够知道那些表字段被引用的最多,那些是外键列。那些数据被反复 查询。例如可以得出TableA的Col1列在一天的业务过程中被Join了10W次,被Where2W次。而Col2则被Select了10W次,仅仅 被Where了100次。这样我们建立索引的基础就是基于表的而不是基于单个查询的。最终生成的Index将权衡查询频率和查询的重要性,如果某个业务查 询特别重要,但执行频率不高我们可以提供权重,优先建立索引。当然创建Index还要参考表的数据分布以决定Index中字段的顺序。

/P;{\8t,v P4gx{)ZH6q051Testing软件测试网 d/sw^.f

  好了,准备工作完 成,开始建索引。当前拥有的条件,表数据分布,表字段分别被查询引用次数(Select,Join,Where),以及这些SQL谓词出现的次数。根据这 些如何创建索引开始的想法是逐个分析,考虑所有可能性然后创建。发现这种方式只适合人脑,让电脑做得先让电脑的智商增长到120以上才有可行性。发现逆向 思维这里同样大有用处,既然不能一下子创建最合适的,那我们就根据执行计划得出的组合创建所有的Index组合。凡是Join和Where都放到 Index的Key里。例如:51Testing软件测试网#h"o;^&M,ad~1pl

51Testing软件测试网G0r R_6N/Y9Os0^ @?

  select t1.A, t1.B, t1.C, t2.J, t2.k from Table1 t1 Join Table1 t2 on t1.A = t2.j Where t1.A = 'param'

~9I bSMkK `Q@$c"{051Testing软件测试网9zD,]6a sp&Kh6Ee

  草创的索引就是:51Testing软件测试网WfI&k!z4o1r

l,x!s7k.Xxee4It0  Index(A,B)includ(C) 和 Index(j)include(j,k)

G%U.^(XQ-j&d2\o0

S/md [W,`Zq0   关于Select如果是小数据类型且Alter的执行计划中该数据修改频率很小的都放到Include里去进去。大数据类型和修改比较频繁的就算了。这 样我们剔除相互覆盖的。部分重叠的,部分重叠到底保留那一个参考执行频率和查询重要性。差异很小的就合并并为一个,如:51Testing软件测试网 Q+T.Y&}3Tno

Z d;jgYn#j6d0  1、Index (A,B,C)Include(D)

-h[3vvCaaf)Ua0

+M.b4mGe O'd h0  2、Index(A,B,D)Include(C)51Testing软件测试网 u,l C,u#|

51Testing软件测试网Z*a R$shFWB

  直接合并为:

^+FY~I"u3m0

D%W;YAn0  Index(A,B)Include(C,D)

c2Ss8|~:m]0

5q"S/c!^V M]0mw M N0  当然如果Alert的特别少也可以合并成Index(A,B,C,D)这个要参考C,D字段的修改频率。和主键重叠的剔除。这样留下的基本上就是我们需要的索引了。51Testing软件测试网Zd(f@/VM D'e2V

/SrC6v b*I P-MY0   对比现有索引进行甄别覆盖的过程就略过。简单的拉出来Create Index 进行解析处理就好了。发布的时候很简单。写个脚本在业务比较少的时候做 Drop和Create就完成了。项目源代码因为设计到公司的保密问题就不上传了。一个注意的地方对于简单查询的SQL执行计划缓存的时候会比较短且一旦 缓存不够就会被清理掉。要注意这些SQL的执行频率的误差。

y4g8g evu'@R7g&i051Testing软件测试网5Fb)MrQb(Ey

  SqlserverR2 XSD:http://schemas.microsoft.com/sqlserver/2004/07/showplan/sql2008/showplanxml.xsd51Testing软件测试网G"F X3XF*nqC3P$s4u

!qj$}?+S's0  总结的节点映射列举如下:

t%cd7P)B!v@051Testing软件测试网,y V9jJ,b0Axc

  查询sql执行计划都包含在节点“StmtSimple”中,如果没有这个节点一般就是其它类型的SQL的执行计划。

Y6W1QQ0x$k0

m*n pB"_9i%Pp0   Join关联的节点和自身类型有关一般包含在Hash,Marger中,如何Join同时又是Where条件的话则会出现在SeekKey和 Compare节点中,因为Join的列都是成对出现,这里很容易识别,有一个是参数(@开头)或常量(type="Const")则必定是Where条 件。51Testing软件测试网U:Bg3ls3fOi#\|p@

w4@#mBC+Z6?b-H0  Select最终输出字段比较容易找到,第一个OutputList节点就是。

`_-Jxu&Aj hG051Testing软件测试网0j h.E mv

  需要注意的是有因为一般列每个ColumnReference都包含库名,表名,列信息,但是系统表则不会。注意剔除。51Testing软件测试网1Td8lvE5A?\/D


TAG:

 

评分:0

我来说两句

Open Toolbar