MySQL 利用多線程提升查詢性能的一種思路,問題的癥結(jié)在于只能單線程執(zhí)行。本方案提供一種引擎Multi-thread-query,讓MySQL能夠用
背景
報(bào)表統(tǒng)計(jì)類的查詢是一類耗時(shí)的查詢。使用場景是QPS并不大,單每個(gè)查詢由于需要訪問較多數(shù)據(jù),對大量數(shù)據(jù)做處理,執(zhí)行時(shí)間較長(通常秒級以上)。
分析
可以將一個(gè)大查詢分成多個(gè)子查詢,如果子查詢需要訪問的數(shù)據(jù)為整個(gè)查詢的1/n,則可估計(jì)執(zhí)行時(shí)間為1/n。但由于MySQL一個(gè)查詢只能在單線程中執(zhí)行,導(dǎo)致即使將一個(gè)大查詢拆分成多個(gè)子查詢,多個(gè)子查詢執(zhí)行后合并,需要時(shí)間為n*1/n=1,仍不能提升其性能。
問題的癥結(jié)在于只能單線程執(zhí)行。本方案提供一種引擎Multi-thread-query,讓MySQL能夠用多線程同時(shí)執(zhí)行多個(gè)子查詢。由于還要做一點(diǎn)合并工作,整個(gè)查詢的時(shí)間將略大于n個(gè)子查詢中查詢時(shí)間最長的一個(gè),即性能接近n倍。
最后一部分舉了一個(gè)例子,n=3。
方案說明
1、圖示
2、用戶對MTQ發(fā)起查詢,MTQ拆分成多個(gè)子查詢向?qū)嶓w表發(fā)起多線程查詢。
3、MTQ等待全部線程執(zhí)行完成后,可以在此基礎(chǔ)上執(zhí)行其他函數(shù)操作,如count、avg、group by等。
4、需要修改SQL查詢格式,子查詢?nèi)绾尾鸱郑捎脩粼诓樵兝锩嬷付ā?/P>
5、適用于每個(gè)子查詢都是計(jì)算量大,返回結(jié)果少的情況。(若返回結(jié)果越多,合并耗時(shí)越大)
舉例
以一個(gè)統(tǒng)計(jì)查詢需求為例(數(shù)據(jù)是構(gòu)造的,木有神馬泄密問題)
一個(gè)正常的查詢?nèi)缦拢?/P>
查詢結(jié)果
相同機(jī)器上使用MTQ查詢語法:
MTQ查詢結(jié)果
可以看到,,時(shí)間從3s減少為1.2s,查詢結(jié)果相同,查詢語句上可以直接做sum、group by操作。
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com