官方彩票投注

Redis面試熱點工程架構篇之數據同步

溫馨提示 更佳閱讀體驗:

前言

前面用了3篇文章介紹了一些底層實現和工程架構相關的問題,鑒于Redis的熱點問題還是比較多的,因此今天繼續來看工程架構相關的問題,感興趣的可以先回顧一下之前的3篇文章,如下:


通過本文你將了解到以下內容:

  • Redis的數據同步機制
    持久化和數據同步的關系、Redis分布式存儲的CAP選擇、Redis數據同步復制和異步復制、全量復制和增量復制的原理、無盤復制等。

Q:談談你對Redis數據同步(復制)的理解吧!

持久化和數據同步的關系

理解持久化和數據同步的關系,需要從單點故障和高可用兩個角度來分析:

單點宕機故障

假如我們現在只有一臺作為緩存的Redis機器,通過持久化將熱點數據寫到磁盤,某時刻該Redis單點機器發生故障宕機,此期間緩存失效,主存儲服務將承受所有的請求壓力倍增,監控程序將宕機Redis機器拉起。

官方彩票投注重啟之后,該機器可以Load磁盤RDB數據進行快速恢復,恢復的時間取決于數據量的多少,一般秒級到分鐘級不等,恢復完成保證之前的熱點數據還在,這樣存儲系統的CacheMiss就會降低,有效降低了緩存擊穿的影響。

在單點Redis中持久化機制非常有用,只寫文字容易讓大家睡著,我畫了張圖

高可用的Redis系統

作為一個高可用的緩存系統單點宕機是不允許的,因此就出現了主從架構,對主節點的數據進行多個備份,如果主節點掛點,可以立刻切換狀態最好的從節點為主節點,對外提供寫服務,并且其他從節點向新主節點同步數據,確保整個Redis緩存系統的高可用。

官方彩票投注如圖展示了一個一主兩從讀寫分離的Redis系統主節點故障遷移的過程,整個過程并沒有停止正常工作,大大提高了系統的高可用:

從上面的兩點分析可以得出個小結論【劃重點】:
持久化讓單點故障不再可怕,數據同步為高可用插上翅膀。

官方彩票投注我們理解了數據同步對Redis的重要作用,接下來繼續看數據同步的實現原理和過程、重難點等細節問題吧!

Redis系統中的CAP理論

對分布式存儲有了解的讀者一定知道CAP理論,說來慚愧筆者在2018年3月份換工作的時候,去Face++曠視科技面后端開發崗位時就遇到了CAP理論,除了CAP理論問題之外其他問題都在射程內,所以最終還是拿了Offer。

但是印象很深T大畢業的面試官說前面的問題答得都不錯,為啥CAP問題答得這么菜…其實我當時只知道CAP理論就像高富帥一樣,不那么容易達到...細節不清楚...各位吃瓜讀者,筆者前面說這個小事情的目的是想表達:CAP理論對于理解分布式存儲非常重要,下回你們面試被問到CAP別怪我沒提醒。

 

在理論計算機科學中,CAP定理又被稱作布魯爾定理Brewer's theorem,這個定理起源于加州大學伯克利分校的計算機科學家埃里克·布魯爾在2000年的分布式計算原理研討會PODC上提出的一個猜想

在2002年麻省理工學院的賽斯·吉爾伯特和南希·林奇發表了布魯爾猜想的證明,使之成為一個定理官方彩票投注。它指出對于一個分布式計算系統來說,不可能同時滿足以下三點:

  1. C Consistent 一致性 連貫性
  2. A Availability 可用性
  3. P Partition Tolerance 分區容忍性

來看一張阮一峰大佬畫的圖:

舉個簡單的例子,說明一下CP和AP的兼容性:
CP和AP問題
理解CP和AP的關鍵在于分區容忍性P,網絡分區在分布式存儲中再平常不過了,即使機器在一個機房,也不可能全都在一個機架或一臺交換機。

這樣在局域網就會出現網絡抖動,筆者做過1年多DPI對于網絡傳輸中最深刻的三個名詞:丟包、亂序、重傳。所以我們看來風平浪靜的網絡,在服務器來說可能是風大浪急,一不小心就不通了,所以當網絡出現斷開時,這時就出現了網絡分區問題。


對于Redis數據同步而言,假設從結點和主結點在兩個機架上,某時刻發生網絡斷開,如果此時Redis讀寫分離,那么從結點的數據必然無法與主繼續同步數據。在這種情況下,如果繼續在從結點讀取數據就造成數據不一致問題,如果強制保證數據一致從結點就無法提供服務造成不可用問題,從而看出在P的影響下C和A無法兼顧。

其他幾種情況就不深入了,從上面我們可以得出結論:當Redis多臺機器分布在不同的網絡中,如果出現網絡故障,那么數據一致性和服務可用性無法兼顧,Redis系統對此必須做出選擇,事實上Redis選擇了可用性,或者說Redis選擇了另外一種最終一致性。

最終一致性
官方彩票投注Redis選擇了最終一致性,也就是不保證主從數據在任何時刻都是一致的,并且Redis主從同步默認是異步的,親愛的盆友們不要暈!不要蒙圈!

我來一下解釋同步復制和異步復制(注意:考慮讀者的感受 我并沒有寫成同步同步和異步同步 哈哈)

一圖勝千言,看紅色的數字就知道同步復制和異步復制的區別了:

  • 異步復制:當客戶端向主結點寫了hello world,主節點寫成功之后就向客戶端回復OK,這樣主節點和客戶端的交互就完成了,之后主節點向從結點同步hello world,從結點完成之后向主節點回復OK,整個過程客戶端不需要等待從結點同步完成,因此整個過程是異步實現的。
  • 同步復制:當客戶端向主結點寫了hello world,主節點向從結點同步hello world,從結點完成之后向主節點回復OK,之后主節點向客戶端回復OK,整個過程客戶端需要等待從結點同步完成,因此整個過程是同步實現的。

Redis選擇異步復制可以避免客戶端的等待,更符合現實要求,不過這個復制方式可以修改,根據自己需求而定吧。

從從復制
假如Redis高可用系統中有一主四從,如果四個從同時向主節點進行數據同步,主節點的壓力會比較大,考慮到Redis的最終一致性,因此Redis后續推出了從從復制,從而將單層復制結構演進為多層復制結構,筆者畫了個圖看下:

全量復制和增量復制

官方彩票投注全量復制是從結點因為故障恢復或者新添加從結點時出現的初始化階段的數據復制,這種復制是將主節點的數據全部同步到從結點來完成的,所以成本大但又不可避免。

官方彩票投注增量復制是主從結點正常工作之后的每個時刻進行的數據復制方式,涓涓細流同步數據,這種同步方式又輕又快,優點確實不少,不過如果沒有全量復制打下基礎增量復制也沒戲,所以二者不是矛盾存在而是相互依存的。

全量復制過程分析

Redis的全量復制過程主要分三個階段:

  • 快照階段:從結點向主結點發起SYNC全量復制命令,主節點執行bgsave將內存中全部數據生成快照并發送給從結點,從結點釋放舊內存載入并解析新快照,主節點同時將此階段所產生的新的寫命令存儲到緩沖區。
  • 緩沖階段:主節點向從節點同步存儲在緩沖區的操作命令,這部分命令主節點是bgsave之后到從結點載入快照這個時間段內的新增命令,需要記錄要不然就出現數據丟失。
  • 增量階段:緩沖區同步完成之后,主節點正常向從結點同步增量操作命令,至此主從保持基本一致的步調。

官方彩票投注借鑒參考1的一張圖表,寫的很好,我就不再重復畫圖了:

考慮一個多從并發全量復制問題
如果此時有多個從結點同時向主結點發起全量同步請求會怎樣?
Redis主結點是個聰明又誠實的家伙,比如現在有3個從結點A/B/C陸續向主節點發起SYNC全量同步請求。

  1. 主節點在對A進行bgsave的同時,B和C的SYNC命令到來了,那么主節點就一鍋燴,把針對A的快照數據和緩沖區數據同時同步給ABC,這樣提高了效率又保證了正確性。
  2. 主節點對A的快照已經完成并且現在正在進行緩沖區同步,那么只能等A完成之后,再對B和C進行和A一樣的操作過程,來實現新節點的全量同步,所以主節點并沒有偷懶而是重復了這個過程,雖然繁瑣但是保證了正確性。

再考慮一個快照復制循環問題
官方彩票投注主節點執行bgsave是比較耗時且耗內存的操作,期間從結點也經歷裝載舊數據->釋放內存->裝載新數據的過程,內存先升后降再升的動態過程,從而知道無論主節點執行快照還是從結點裝載數據都是需要時間和資源的。

拋開對性能的影響,試想如果主節點快照時間是1分鐘,在期間有1w條新命令到來,這些新命令都將寫到緩沖區,如果緩沖區比較小只有8k,那么在快照完成之后,主節點緩沖區也只有8k命令丟失了2k命令,那么此時從結點進行全量同步就缺失了數據,是一次錯誤的全量同步。

無奈之下,從結點會再次發起SYNC命令,從而陷入循環,因此緩沖區大小的設置很重要,二話不說再來一張圖:

增量復制過程分析

增量復制過程稍微簡單一些,但是非常有用,試想復雜的網絡環境下,并不是每次斷開都無法恢復,如果每次斷開恢復后就要進行全量復制,那豈不是要把主節點搞死,所以增量復制算是對復雜網絡環境下數據復制過程的一個優化,允許一段時間的落后,最終追上就行。

增量復制是個典型的生產者-消費者模型官方彩票投注,使用定長環形數組(隊列)來實現,如果buffer滿了那么新數據將覆蓋老數據,因此從結點在復制數據的同時向主節點反饋自己的偏移量,從而確保數據不缺失。

官方彩票投注這個過程非常好理解,kakfa這種MQ也是這樣的,所以在合理設置buffer大小的前提下,理論上從的消費能力是大于主的生產能力的,大部分只有在網絡斷開時間過長時會出現buffer被覆蓋,從結點消費滯后的情況,此時只能進行全量復制了。

無盤復制

理解無盤復制之前先看下什么是有盤復制呢?
所謂盤是指磁盤,可能是機械磁盤或者SSD,但是無論哪一種相比內存都更慢,我們都知道IO操作在服務端的耗時是占大頭的,因此對于全量復制這種高IO耗時的操作來說,尤其當服務并發比較大且還在進行其他操作時對Redis服務本身的影響是比較大大,之前的模式時這樣的:

在Redis2.8.18版本之后,開發了無盤復制,也就是避免了生成的RDB文件落盤再加載再網絡傳輸的過程,而是流式的遍歷發送過程,主節點一邊遍歷內存數據,一邊將數據序列化發送給從結點,從結點沒有變化,仍然將數據依次存儲到本地磁盤,完成傳輸之后進行內存加載,可見無盤復制是對IO更友好。

小結

時間原因只能寫這么多了,和大家一起學習不是把桶填滿而是把火點燃

回顧一下官方彩票投注:本文主要講述了持久化和數據同步的關系、Redis分布式存儲的CAP選擇、Redis數據同步復制和異步復制、全量復制和增量復制的原理、無盤復制等,相信耐心的讀者一定會有所收獲的。

最后可以思考一個問題:
官方彩票投注Redis的數據同步仍然會出現數據丟失的情況,比如主節點往緩沖區寫了10k條操作命令,此時主掛掉了,從結點只消費了9k操作命令,那么切主之后從結點的數據就丟失了1k,即使舊主節點恢復也只能作為從節點向新主節點發起全量復制,那么我們該如何優化這種情況呢?

巨人的肩膀

    1. 錢文品-《Redis深度歷險核心原理和應用實踐》
posted @ 2019-12-20 12:36  后端技術指南針  閱讀(...)  評論(...收藏