• 坚守一条红线 维护生态安全(在习近平新时代中国特色社会主义思想指引下——新时代新作为新篇章) 2019-11-12
  • 《辉煌中国》第五集《共享小康》 2019-11-12
  • 这事咋办No.2丨申请西安保障性住房必看 花生让你有房住 2019-11-11
  • 预热世界杯 玩法各异!3张竞彩红单了解一下 2019-10-18
  • 崇拜不劳而获是腐败的根源之一,正气不足是腐败的第二个根源,沉迷于初级趣味易滋生腐败,提高素质力争不想腐,以医者之心防治腐败。 2019-10-09
  • 人民日报评论员随笔:让文化热情涵养更多经典 2019-10-09
  • 国产手机跟进“刘海屏”,凸显苹果在智能手机市场的影响力 2019-10-05
  • 世界杯倒计时:球迷街头狂欢为自己的国家打Call 2019-10-02
  • 紫光阁中共中央国家机关工作委员会 2019-09-24
  • 洪崖洞客流激增 渝中开通2条应急通道12辆公交车驰援 2019-09-24
  • 中央环保督察“回头看”10省区问责630人 2019-09-19
  • 天津举办改善营商环境专题讲座 2019-09-19
  • 日本核能行业誓言日本将在今年内重新启用核电 2019-09-03
  • 中国保险行业协会发布汽车后市场配件合车标准 2019-09-02
  • 晋中市通报五起违反中央八项规定精神问题 2019-08-30
  • 当前位置 > CPDA数据分析师 > “数”业专攻 > 大数据量下的常用优化方法

    四川快乐12遗漏前3直:大数据量下的常用优化方法

    浙江快乐彩和值走势图 www.pn-vs.com 来源:数据分析师 CPDA | 时间:2015-07-28 | 作者:admin

    优化人员工作时免不了要接触到大数据量的问题,下面就将平时收集的一些关于大数据量的优化方法整理记录一下,也是和大家一起共享哦。

    1. 应尽量避免在 where 子句中对字段进行 null值判断,否则将导致引擎放弃使用索引而进行全表扫描,如:
    select id from t where numis null
    可以在num上设置默认值0,确保表中num列没有null值,然后这样查询:
    select id from t where num=0

    2. 应尽量避免在 where 子句中使用!=或<>操作符,否则将导致引擎放弃使用索引而进行全表扫描。优化器将无法通过索引来确定将要命中的行数,因此需要搜索该表的所有行。

    3. 应尽量避免在 where 子句中使用 or来连接条件,否则将导致引擎放弃使用索引而进行全表扫描,如:
    select id from t where num=10or num=20
    可以这样查询:
    select id from t where num=10
    union all
    select id from t where num=20

    4. in和 not in也要慎用,因为in会使系统无法使用索引,而只能直接搜索表中的数据。如:
    select id from t where numin(1,2,3)
    对于连续的数值,能用 between就不要用 in了:
    select id from t where numbetween 1 and 3

    5. 尽量避免在索引过的字符数据中,使用非打头字母搜索。这也使得引擎无法利用索引。 见如下例子:
    SELECT * FROM T1 WHERE NAME LIKE‘%L%’
    SELECT * FROM T1 WHERESUBSTING(NAME,2,1)=’L’
    SELECT * FROM T1 WHERE NAME LIKE‘L%’
    即使NAME字段建有索引,前两个查询依然无法利用索引完成加快操作,引擎不得不对全表所有数据逐条操作来完成任务。而第三个查询能够使用索引来加快操作。

    6. 必要时强制查询优化器使用某个索引,如在 where 子句中使用参数,也会导致全表扫描。因为SQL只有在运行时才会解析局部变量,但优化程序不能将访问计划的选择推迟到运行时;它必须在编译时进行选择。然而,如果在编译时建立访问计划,变量的值还是未知的,因而无法作为索引选择的输入项。如下面语句将进行全表扫描:
    select id from t where
    可以改为强制查询使用索引:
    select id from t with(index(索引名)) where

    7. 应尽量避免在 where 子句中对字段进行表达式操作,这将导致引擎放弃使用索引而进行全表扫描。如:
    SELECT* FROM T1 WHERE F1/2=100
    应改为:
    SELECT* FROM T1 WHERE F1=100*2
    SELECT *FROM RECORD WHERESUBSTRING(CARD_NO,1,4)=’5378’
    应改为:
    SELECT *FROM RECORD WHERE CARD_NO LIKE ‘5378%’
    SELECTmember_number,first_name,last_name FROM members
    WHEREDATEDIFF(yy,datofbirth,GETDATE())> 21
    应改为:
    SELECTmember_number,first_name,last_name FROM members
    WHEREdateofbirth
    即:任何对列的操作都将导致表扫描,它包括数据库函数、计算表达式等等,查询时要尽可能将操作移至等号右边。

    8. 应尽量避免在where子句中对字段进行函数操作,这将导致引擎放弃使用索引而进行全表扫描。如:
    select id from t where substring(name,1,3)=’abc’—name
    以abc开头的id
    select id from t wheredatediff(day,createdate,’2005-11-30′)=0–‘2005-11-30’
    生成的id
    应改为:
    select id from t where name like ‘abc%’
    select id from t where createdate>=’2005-11-30’and createdate<‘2005-12-1′

    9. 在使用索引字段作为条件时,如果该索引是复合索引,那么必须使用到该索引中的第一个字段作为条件时才能保证系统使用该索引,否则该索引将不会被使用,并且应尽可能的让字段顺序与索引顺序相一致。

    10. 很多时候用 exists是一个好的选择
    selectnum from a where num in(selectnum from b)
    用下面的语句替换:
    selectnum from a where exists(select 1 from b where num=a.num)
    SELECTSUM(T1.C1)FROM T1 WHERE(
    (SELECTCOUNT(*)FROM T2 WHERE T2.C2=T1.C2>0)
    SELECTSUM(T1.C1) FROM T1WHERE EXISTS(
    SELECT *FROM T2 WHERE T2.C2=T1.C2)
    两者产生相同的结果,但是后者的效率显然要高于前者。因为后者不会产生大量锁定的表扫描或是索引扫描。
    如果你想校验表里是否存在某条纪录,不要用count(*)那样效率很低,而且浪费服务器资源。可以用EXISTS代替。如:
    IF (SELECTCOUNT(*)FROMtable_name WHEREcolumn_name= ‘xxx’)
    可以写成:
    IF EXISTS (SELECT * FROMtable_name WHEREcolumn_name =’xxx’)
    经常需要写一个T_SQL语句比较一个父结果集和子结果集,从而找到是否存在在父结果集中有而在子结果集中没有的记录,如:
    SELECTa.hdr_key FROMhdr_tbl a—-tbla表示tbl用别名a代替
    WHERENOT EXISTS (SELECT * FROMdtl_tbl b WHEREa.hdr_key =b.hdr_key)
    SELECTa.hdr_key FROMhdr_tbla
    LEFTJOINdtl_tbl b ONa.hdr_key=b.hdr_key WHEREb.hdr_keyIS NULL
    SELECThdr_key FROMhdr_tbl
    WHEREhdr_key NOT IN (SELECThdr_keyFROMdtl_tbl)
    三种写法都可以得到同样正确的结果,但是效率依次降低。

    11. 避免频繁创建和删除临时表,以减少系统表资源的消耗

    12. 临时表并不是不可使用,适当地使用它们可以使某些例程更有效,例如,当需要重复引用大型表或常用表中的某个数据集时。但是,对于一次性事件,最好使用导出表。

    13. 在新建临时表时,如果一次性插入数据量很大,那么可以使用 select into 代替 create table,避免造成大量 log ,以提高速度;如果数据量不大,为了缓和系统表的资源,应先create table,然后insert

    14. 如果使用到了临时表,在存储过程的最后务必将所有的临时表显式删除,先 truncate table ,然后 drop table,这样可以避免系统表的较长时间锁定。

    15. 在所有的存储过程和触发器的开始处设置 SET NOCOUNT ON ,在结束时设置 SET NOCOUNT OFF。无需在执行存储过程和触发器的每个语句后向客户端发送 DONE_IN_PROC消息。

    16. 尽量避免大事务操作,提高系统并发能力。

    17. 尽量避免向客户端返回大数据量,若数据量过大,应该考虑相应需求是否合理,比如是否返回全对象,可不可以减少某些非必要字段。

    18.避免使用不兼容的数据类型。例如float和int、char和varchar、binary和varbinary是不兼容的。数据类型的不兼容可能使优化器无法执行一些本来可以进行的优化操作。例如:
    SELECT name FROM employee WHERE salary >60000
    在这条语句中,如salary字段是money型的,则优化器很难对其进行优化,因为60000是个整型数。我们应当在编程时将整型转化成为钱币型,而不要等到运行时转化。

    19. 充分利用连接条件,在某种情况下,两个表之间可能不只一个的连接条件,这时在 WHERE 子句中将连接条件完整的写上,有可能大大提高查询速度。 例:
    SELECTSUM(A.AMOUNT) FROM ACCOUNT A, CARD B WHERE A.CARD_NO =B.CARD_NO
    SELECTSUM(A.AMOUNT) FROM ACCOUNT A,CARD B WHERE A.CARD_NO =B.CARD_NO AND A.ACCOUNT_NO=B.ACCOUNT_NO
    第二句将比第一句执行快得多。

    20. 使用视图加速查询 把表的一个子集进行排序并创建视图,有时能加速查询。它有助于避免多重排序操作,而且在其他方面还能简化优化器的工作。

    21. 能用DISTINCT的就不用GROUP BY
    SELECTOrderIDFROM Details WHEREUnitPrice > 10 GROUP BYOrderID
    可改为:
    SELECT DISTINCTOrderIDFROM Details WHEREUnitPrice > 10

    22. 能用UNION ALL就不要用UNION UNIONALL不执行SELECT DISTINCT函数,这样就会减少很多不必要的资源

    23. 尽量不要用SELECT INTO语句。 SELECT INOT语句会导致表锁定,阻止其他用户访问该表。

    随着社会的发展,信息技术的不断成熟,越来越多的信息都想保存起来,还想加以分析,所以要求插入、查询的数据量也越来越大,以前可能是几百条、几千条数据的操作,现在几万、甚至几十万条数据的查询也是很常见的操作了,所以大数据量的优化工作还需要我们深入的研究。

    (本文转自:中国大数据)

  • 坚守一条红线 维护生态安全(在习近平新时代中国特色社会主义思想指引下——新时代新作为新篇章) 2019-11-12
  • 《辉煌中国》第五集《共享小康》 2019-11-12
  • 这事咋办No.2丨申请西安保障性住房必看 花生让你有房住 2019-11-11
  • 预热世界杯 玩法各异!3张竞彩红单了解一下 2019-10-18
  • 崇拜不劳而获是腐败的根源之一,正气不足是腐败的第二个根源,沉迷于初级趣味易滋生腐败,提高素质力争不想腐,以医者之心防治腐败。 2019-10-09
  • 人民日报评论员随笔:让文化热情涵养更多经典 2019-10-09
  • 国产手机跟进“刘海屏”,凸显苹果在智能手机市场的影响力 2019-10-05
  • 世界杯倒计时:球迷街头狂欢为自己的国家打Call 2019-10-02
  • 紫光阁中共中央国家机关工作委员会 2019-09-24
  • 洪崖洞客流激增 渝中开通2条应急通道12辆公交车驰援 2019-09-24
  • 中央环保督察“回头看”10省区问责630人 2019-09-19
  • 天津举办改善营商环境专题讲座 2019-09-19
  • 日本核能行业誓言日本将在今年内重新启用核电 2019-09-03
  • 中国保险行业协会发布汽车后市场配件合车标准 2019-09-02
  • 晋中市通报五起违反中央八项规定精神问题 2019-08-30
  • 永利排名在线 福彩原副主任 浙江快乐12开奖查询结果 2019cba全明星门票 大乐透走势图带连线近 12选五开奖结果走势 河北十一选五开了什么 买彩票的app 云南时时彩技巧 小狼狗心水论坛 四川时时诈骗案 有没有好的飞艇计划软件 幸运飞艇怎么定位胆技巧 体彩福建22选5开奖 六合彩香港