什么是線程同步? 當(dāng)使用多個(gè)線程來訪問同一個(gè)數(shù)據(jù)時(shí),非常容易出現(xiàn)線程安全問題(比如多個(gè)線程都在操作同一數(shù)據(jù)導(dǎo)致數(shù)據(jù)不一致),所以我們用同步機(jī)制來解決這些問題。 實(shí)現(xiàn)同步機(jī)制有兩個(gè)方法:
單庫單表
單庫單表是最常見的數(shù)據(jù)庫設(shè)計(jì),例如,有一張用戶(user)表放在數(shù)據(jù)庫db中,所有的用戶都可以在db庫中的user表中查到。
單庫多表
隨著用戶數(shù)量的增加,user表的數(shù)據(jù)量會(huì)越來越大,當(dāng)數(shù)據(jù)量達(dá)到一定程度的時(shí)候?qū)ser表的查詢會(huì)漸漸的變慢,從而影響整個(gè)DB的性能。如果使用mysql, 還有一個(gè)更嚴(yán)重的問題是,當(dāng)需要添加一列的時(shí)候,mysql會(huì)鎖表,期間所有的讀寫操作只能等待。
可以通過某種方式將user進(jìn)行水平的切分,產(chǎn)生兩個(gè)表結(jié)構(gòu)完全一樣的user_0000,user_0001等表,user_0000 + user_0001 + …的數(shù)據(jù)剛好是一份完整的數(shù)據(jù)。
多庫多表
隨著數(shù)據(jù)量增加也許單臺(tái)DB的存儲(chǔ)空間不夠,隨著查詢量的增加單臺(tái)數(shù)據(jù)庫服務(wù)器已經(jīng)沒辦法支撐。這個(gè)時(shí)候可以再對(duì)數(shù)據(jù)庫進(jìn)行水平區(qū)分。
分庫分表規(guī)則
設(shè)計(jì)表的時(shí)候需要確定此表按照什么樣的規(guī)則進(jìn)行分庫分表。例如,當(dāng)有新用戶時(shí),程序得確定將此用戶信息添加到哪個(gè)表中;同理,當(dāng)?shù)卿浀臅r(shí)候我們得通過用戶的賬號(hào)找到數(shù)據(jù)庫中對(duì)應(yīng)的記錄,所有的這些都需要按照某一規(guī)則進(jìn)行。
路由
通過分庫分表規(guī)則查找到對(duì)應(yīng)的表和庫的過程。如分庫分表的規(guī)則是user_id mod 4的方式,當(dāng)用戶新注冊(cè)了一個(gè)賬號(hào),賬號(hào)id的123,我們可以通過id mod 4的方式確定此賬號(hào)應(yīng)該保存到User_0003表中。當(dāng)用戶123登錄的時(shí)候,我們通過123 mod 4后確定記錄在User_0003中。
分庫分表產(chǎn)生的問題,及注意事項(xiàng)
1. 分庫分表維度的問題
假如用戶購買了商品,需要將交易記錄保存取來,如果按照用戶的緯度分表,則每個(gè)用戶的交易記錄都保存在同一表中,所以很快很方便的查找到某用戶的購買情況,但是某商品被購買的情況則很有可能分布在多張表中,查找起來比較麻煩。反之,按照商品維度分表,可以很方便的查找到此商品的購買情況,但要查找到買人的交易記錄比較麻煩。
所以常見的解決方式有:
a.通過掃表的方式解決,此方法基本不可能,效率太低了。
b.記錄兩份數(shù)據(jù),一份按照用戶緯度分表,一份按照商品維度分表。
c.通過搜索引擎解決,但如果實(shí)時(shí)性要求很高,又得關(guān)系到實(shí)時(shí)搜索。
2. 聯(lián)合查詢的問題
聯(lián)合查詢基本不可能,因?yàn)殛P(guān)聯(lián)的表有可能不在同一數(shù)據(jù)庫中。
3. 避免跨庫事務(wù)
避免在一個(gè)事務(wù)中修改db0中的表的時(shí)候同時(shí)修改db1中的表,一個(gè)是操作起來更復(fù)雜,效率也會(huì)有一定影響。
4. 盡量把同一組數(shù)據(jù)放到同一DB服務(wù)器上
例如將賣家a的商品和交易信息都放到db0中,當(dāng)db1掛了的時(shí)候,賣家a相關(guān)的東西可以正常使用。也就是說避免數(shù)據(jù)庫中的數(shù)據(jù)依賴另一數(shù)據(jù)庫中的數(shù)據(jù)。
一主多備
在實(shí)際的應(yīng)用中,絕大部分情況都是讀遠(yuǎn)大于寫。Mysql提供了讀寫分離的機(jī)制,所有的寫操作都必須對(duì)應(yīng)到Master,讀操作可以在Master和Slave機(jī)器上進(jìn)行,Slave與Master的結(jié)構(gòu)完全一樣,一個(gè)Master可以有多個(gè)Slave,甚至Slave下還可以掛Slave,通過此方式可以有效的提高DB集群的QPS.
所有的寫操作都是先在Master上操作,然后同步更新到Slave上,所以從Master同步到Slave機(jī)器有一定的延遲,當(dāng)系統(tǒng)很繁忙的時(shí)候,延遲問題會(huì)更加嚴(yán)重,Slave機(jī)器數(shù)量的增加也會(huì)使這個(gè)問題更加嚴(yán)重。
此外,可以看出Master是集群的瓶頸,當(dāng)寫操作過多,會(huì)嚴(yán)重影響到Master的穩(wěn)定性,如果Master掛掉,整個(gè)集群都將不能正常工作。
所以,1. 當(dāng)讀壓力很大的時(shí)候,可以考慮添加Slave機(jī)器的分式解決,但是當(dāng)Slave機(jī)器達(dá)到一定的數(shù)量就得考慮分庫了。 2. 當(dāng)寫壓力很大的時(shí)候,就必須得進(jìn)行分庫操作。
---------------------------------------------
MySQL使用為什么要分庫分表
可以用說用到MySQL的地方,只要數(shù)據(jù)量一大, 馬上就會(huì)遇到一個(gè)問題,要分庫分表.
這里引用一個(gè)問題為什么要分庫分表呢?MySQL處理不了大的表嗎?
其實(shí)是可以處理的大表的.我所經(jīng)歷的項(xiàng)目中單表物理上文件大小在80G多,單表記錄數(shù)在5億以上,而且這個(gè)表
屬于一個(gè)非常核用的表:朋友關(guān)系表.
但這種方式可以說不是一個(gè)最佳方式. 因?yàn)槊媾R文件系統(tǒng)如Ext3文件系統(tǒng)對(duì)大于大文件處理上也有許多問題.
這個(gè)層面可以用xfs文件系統(tǒng)進(jìn)行替換.但MySQL單表太大后有一個(gè)問題是不好解決: 表結(jié)構(gòu)調(diào)整相關(guān)的操作基
本不在可能.所以大項(xiàng)在使用中都會(huì)面監(jiān)著分庫分表的應(yīng)用.
從Innodb本身來講數(shù)據(jù)文件的Btree上只有兩個(gè)鎖, 葉子節(jié)點(diǎn)鎖和子節(jié)點(diǎn)鎖,可以想而知道,當(dāng)發(fā)生頁拆分或是添加
新葉時(shí)都會(huì)造成表里不能寫入數(shù)據(jù).
所以分庫分表還就是一個(gè)比較好的選擇了.
那么分庫分表多少合適呢?
經(jīng)測(cè)試在單表1000萬條記錄一下,寫入讀取性能是比較好的. 這樣在留點(diǎn)buffer,那么單表全是數(shù)據(jù)字型的保持在
800萬條記錄以下, 有字符型的單表保持在500萬以下.
如果按 100庫100表來規(guī)劃,如用戶業(yè)務(wù):
500萬*100*100 = 50000000萬 = 5000億記錄.
心里有一個(gè)數(shù)了,按業(yè)務(wù)做規(guī)劃還是比較容易的.
本站僅提供存儲(chǔ)服務(wù),所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)
點(diǎn)擊舉報(bào)。