Django高并發負載均衡實現原理詳解_python

來源:腳本之家  責任編輯:小易  

如果我猜的沒錯的話,你這種情況應該是類似學校的選課系統等短時間高并發的情況吧,以我們的經驗來看,學校的這種吞吐量基本都要達到1G以上,一般來說,如果要解決高并發環境下的服務器壓力,你可能需要部署硬件的負載均衡設備了,傳統的軟件負載均衡已經遠遠不能滿足這種需求了。擴展一下軟件負載均衡和硬件負載均衡的區別:1、軟件負載均衡性能差,尤其在并發數和吞吐量等主要數據上不能同日而語,而且軟件安裝在服務器上,運行時需要消耗服務器的資源,加重了服務器的負擔。2、軟件負載均衡功能少,而有的硬件負載均衡是ALL_IN_ONE的架構,擁有包括鏈路負載均衡、服務器負載均衡、SSL加速、WEB加速等功能,完全能夠滿足用戶的各種需求。3、硬件負載均衡具有完善的健康檢查機制,不但有基于端口健康檢測,還能模擬用戶的應用,對于應用層對性檢測,保證了服務器正常運作www.13333515.buzz防采集請勿采集本網。

1 什么是負載均衡?

目前logstash沒有集群這個概覽,支持配置多個ES節點 好像是輪訓機制。這樣的ES負載,不同的logstash可以配置不同的es節點。

當一臺服務器的性能達到極限時,我們可以使用服務器集群來提高網站的整體性能。那么,在服務器集群中,需要有一臺服務器充當調度者的角色,用戶的所有請求都會首先由它接收,調度者再根據每臺服務器的負載情況將請求分配給某一臺后端服務器去處理。

常見的有LVS、Nginx和HAProxy,者者5、HAProxy可以對Mysql讀進行負載均衡,對后端的MySQL節點進行檢測和負載均衡,不過在后端的MySQL slaves數量超過10臺時性能不如LVS;6、HAProxy的算法多;

那么在這個過程中,調度者如何合理分配任務,保證所有后端服務器都將性能充分發揮,從而保持服務器集群的整體性能最優,這就是負載均衡問題。

高可用性集群中的節點一般是一主一備,或者一主多備,通過備份提高整個系統可用性。而負載均衡集群一般是多主,每個節點都分擔流量 希望對你能有所幫助。

下面詳細介紹負載均衡的四種實現方式

在windows2003的遠程訪問和路由設置里面設置靜態路由 1、設置默認路由,也就是沒有規定的目的地通過那條線路訪問 2、仔細設置非默認路由線路的同網路由 如果不明白加我MSN吧。[email protected]

2 HTTP重定向實現負載均衡

看你是服務器負載均衡還是鏈路負載均衡。2者是有區別的!服務器負載均衡主要看帶板背寬和一些均衡策略,dns等。鏈路負載均衡分靜態和動態,靜態的比較簡單了。動態的根據鏈路情況做出一些算法。

過程描述

當用戶向服務器發起請求時,請求首先被集群調度者截獲;調度者根據某種分配策略,選擇一臺服務器,并將選中的服務器的IP地址封裝在HTTP響應消息頭部的Location字段中,并將響應消息的狀態碼設為302,最后將這個響應消息返回給瀏覽器。

當瀏覽器收到響應消息后,解析Location字段,并向該URL發起請求,然后指定的服務器處理該用戶的請求,最后將結果返回給用戶。

在使用HTTP重定向來實現服務器集群負載均衡的過程中,需要一臺服務器作為請求調度者。用戶的一項操作需要發起兩次HTTP請求,一次向調度服務器發送請求,獲取后端服務器的IP,第二次向后端服務器發送請求,獲取處理結果。

調度策略

調度服務器收到用戶的請求后,究竟選擇哪臺后端服務器處理請求,這由調度服務器所使用的調度策略決定。

隨機分配策略

當調度服務器收到用戶請求后,可以隨機決定使用哪臺后端服務器,然后將該服務器的IP封裝在HTTP響應消息的Location屬性中,返回給瀏覽器即可。

輪詢策略(RR)

調度服務器需要維護一個值,用于記錄上次分配的后端服務器的IP。那么當新的請求到來時,調度者將請求依次分配給下一臺服務器。

由于輪詢策略需要調度者維護一個值用于記錄上次分配的服務器IP,因此需要額外的開銷;此外,由于這個值屬于互斥資源,那么當多個請求同時到來時,為了避免線程的安全問題,因此需要鎖定互斥資源,從而降低了性能。而隨機分配策略不需要維護額外的值,也就不存在線程安全問題,因此性能比輪詢要高。

優缺點分析

采用HTTP重定向來實現服務器集群的負載均衡實現起來較為容易,邏輯比較簡單,但缺點也較為明顯。

在HTTP重定向方法中,調度服務器只在客戶端第一次向網站發起請求的時候起作用。當調度服務器向瀏覽器返回響應信息后,客戶端此后的操作都基于新的URL進行的(也就是后端服務器),此后瀏覽器就不會與調度服務器產生關系,進而會產生如下幾個問題:

由于不同用戶的訪問時間、訪問頁面深度有所不同,從而每個用戶對各自的后端服務器所造成的壓力也不同。而調度服務器在調度時,無法知道當前用戶將會對服務器造成多大的壓力,因此這種方式無法實現真正意義上的負載均衡,只不過是把請求次數平均分配給每臺服務器罷了。

若分配給該用戶的后端服務器出現故障,并且如果頁面被瀏覽器緩存,那么當用戶再次訪問網站時,請求都會發給出現故障的服務器,從而導致訪問失敗

3 DNS負載均衡

DNS是什么

在了解DNS負載均衡之前,我們首先需要了解DNS域名解析的過程。

我們知道,數據包采用IP地址在網絡中傳播,而為了方便用戶記憶,我們使用域名來訪問網站。那么,我們通過域名訪問網站之前,首先需要將域名解析成IP地址,這個工作是由DNS完成的。也就是域名服務器。

我們提交的請求不會直接發送給想要訪問的網站,而是首先發給域名服務器,它會幫我們把域名解析成IP地址并返回給我們。我們收到IP之后才會向該IP發起請求。

那么,DNS服務器有一個天然的優勢,如果一個域名指向了多個IP地址,那么每次進行域名解析時,DNS只要選一個IP返回給用戶,就能夠實現服務器集群的負載均衡。

具體做法

首先需要將我們的域名指向多個后端服務器(將一個域名解析到多個IP上),再設置一下調度策略,那么我們的準備工作就完成了,接下來的負載均衡就完全由DNS服務器來實現。

當用戶向我們的域名發起請求時,DNS服務器會自動地根據我們事先設定好的調度策略選一個合適的IP返回給用戶,用戶再向該IP發起請求。

調度策略

一般DNS提供商會提供一些調度策略供我們選擇,如隨機分配、輪詢、根據請求者的地域分配離他最近的服務器。

優缺點分析

DNS負載均衡最大的優點就是配置簡單。服務器集群的調度工作完全由DNS服務器承擔,那么我們就可以把精力放在后端服務器上,保證他們的穩定性與吞吐量。而且完全不用擔心DNS服務器的性能,即便是使用了輪詢策略,它的吞吐率依然卓越。

此外,DNS負載均衡具有較強了擴展性,你完全可以為一個域名解析較多的IP,而且不用擔心性能問題。

但是,由于把集群調度權交給了DNS服務器,從而我們沒辦法隨心所欲地控制調度者,沒辦法定制調度策略。

DNS服務器也沒辦法了解每臺服務器的負載情況,因此沒辦法實現真正意義上的負載均衡。它和HTTP重定向一樣,只不過把所有請求平均分配給后端服務器罷了。

此外,當我們發現某一臺后端服務器發生故障時,即使我們立即將該服務器從域名解析中去除,但由于DNS服務器會有緩存,該IP仍然會在DNS中保留一段時間,那么就會導致一部分用戶無法正常訪問網站。這是一個致命的問題!好在這個問題可以用動態DNS來解決。

動態DNS

動態DNS能夠讓我們通過程序動態修改DNS服務器中的域名解析。從而當我們的監控程序發現某臺服務器掛了之后,能立即通知DNS將其刪掉。

綜上所述

DNS負載均衡是一種粗獷的負載均衡方法,這里只做介紹,不推薦使用。

4 反向代理負載均衡

什么是反向代理負載均衡?

反向代理服務器是一個位于實際服務器之前的服務器,所有向我們網站發來的請求都首先要經過反向代理服務器,服務器根據用戶的請求要么直接將結果返回給用戶,要么將請求交給后端服務器處理,再返回給用戶。

之前我們介紹了用反向代理服務器實現靜態頁面和常用的動態頁面的緩存。接下來我們介紹反向代理服務器更常用的功能——實現負載均衡。

我們知道,所有發送給我們網站的請求都首先經過反向代理服務器。那么,反向代理服務器就可以充當服務器集群的調度者,它可以根據當前后端服務器的負載情況,將請求轉發給一臺合適的服務器,并將處理結果返回給用戶。

優點

隱藏后端服務器。

與HTTP重定向相比,反向代理能夠隱藏后端服務器,所有瀏覽器都不會與后端服務器直接交互,從而能夠確保調度者的控制權,提升集群的整體性能。

故障轉移

與DNS負載均衡相比,反向代理能夠更快速地移除故障結點。當監控程序發現某一后端服務器出現故障時,能夠及時通知反向代理服務器,并立即將其刪除。

合理分配任務

HTTP重定向和DNS負載均衡都無法實現真正意義上的負載均衡,也就是調度服務器無法根據后端服務器的實際負載情況分配任務。但反向代理服務器支持手動設定每臺后端服務器的權重。我們可以根據服務器的配置設置不同的權重,權重的不同會導致被調度者選中的概率的不同。

缺點

調度者壓力過大

由于所有的請求都先由反向代理服務器處理,那么當請求量超過調度服務器的最大負載時,調度服務器的吞吐率降低會直接降低集群的整體性能。

制約擴展

當后端服務器也無法滿足巨大的吞吐量時,就需要增加后端服務器的數量,可沒辦法無限量地增加,因為會受到調度服務器的最大吞吐量的制約。

粘滯會話

反向代理服務器會引起一個問題。若某臺后端服務器處理了用戶的請求,并保存了該用戶的session或存儲了緩存,那么當該用戶再次發送請求時,無法保證該請求仍然由保存了其Session或緩存的服務器處理,若由其他服務器處理,先前的Session或緩存就找不到了。

解決辦法1:

可以修改反向代理服務器的任務分配策略,以用戶IP作為標識較為合適。相同的用戶IP會交由同一臺后端服務器處理,從而就避免了粘滯會話的問題。

解決辦法2:

可以在Cookie中標注請求的服務器ID,當再次提交請求時,調度者將該請求分配給Cookie中標注的服務器處理即可。

5 負載均衡組件

1.1、apache

—— 它是Apache軟件基金會的一個開放源代碼的跨平臺的網頁服務器,屬于老牌的web服務器了,支持基于Ip或者域名的虛擬主機,支持代理服務器,支持安全Socket層(SSL)等等,目前互聯網主要使用它做靜態資源服務器,也可以做代理服務器轉發請求(如:圖片鏈等),結合tomcat等servlet容器處理jsp。

1.2、ngnix

—— 俄羅斯人開發的一個高性能的 HTTP和反向代理服務器。由于Nginx 超越 Apache 的高性能和穩定性,使得國內使用 Nginx 作為 Web 服務器的網站也越來越多,其中包括新浪博客、新浪播客、網易新聞、騰訊網、搜狐博客等門戶網站頻道等,在3w以上的高并發環境下,ngnix處理能力相當于apache的10倍。

參考:apache和tomcat的性能分析和對比(Nginx 0.8.x + PHP 5.2.13(FastCGI)搭建勝過Apache十倍的Web服務器(第6版)[原創])

1.3、lvs

—— Linux Virtual Server的簡寫,意即Linux虛擬服務器,是一個虛擬的服務器集群系統。由畢業于國防科技大學的章文嵩博士于1998年5月創立,可以實現LINUX平臺下的簡單負載均衡。了解更多,訪問官網:http://zh.linuxvirtualserver.org/。

1.4、HAProxy

—— HAProxy提供高可用性、負載均衡以及基于TCP和HTTP應用的代理,支持虛擬主機,它是免費、快速并且可靠的一種解決方案。HAProxy特別適用于那些負載特大的web站點, 這些站點通常又需要會話保持或七層處理。HAProxy運行在當前的硬件上,完全可以支持數以萬計的并發連接。并且它的運行模式使得它可以很簡單安全的整合進您當前的架構中, 同時可以保護你的web服務器不被暴露到網絡上.

1.5、keepalived

—— 這里說的keepalived不是apache或者tomcat等某個組件上的屬性字段,它也是一個組件,可以實現web服務器的高可用(HA high availably)。它可以檢測web服務器的工作狀態,如果該服務器出現故障被檢測到,將其剔除服務器群中,直至正常工作后,keepalive會自動檢測到并加入到服務器群里面。實現主備服務器發生故障時ip瞬時無縫交接。它是LVS集群節點健康檢測的一個用戶空間守護進程,也是LVS的引導故障轉移模塊(director failover)。Keepalived守護進程可以檢查LVS池的狀態。如果LVS服務器池當中的某一個服務器宕機了。keepalived會通過一 個setsockopt呼叫通知內核將這個節點從LVS拓撲圖中移除。

1.6、memcached

—— 它是一個高性能分布式內存對象緩存系統。當初是Danga Interactive為了LiveJournal快速發展開發的系統,用于對業務查詢數據緩存,減輕數據庫的負載。其守護進程(daemon)是用C寫的,但是客戶端支持幾乎所有語言(客戶端基本上有3種版本[memcache client for Java;spymemcached;xMecache]),服務端和客戶端通過簡單的協議通信;在memcached里面緩存的數據必須序列化。

1.7、terracotta

—— 是一款由美國Terracotta公司開發的著名開源Java集群平臺。它在JVM與Java應用之間實現了一個專門處理集群功能的抽象層,允許用戶在不改變系統代碼的情況下實現java應用的集群。支持數據的持久化、session的復制以及高可用(HA)。

1、負載2113原理負載均衡建立在現有網絡結構之上,它提5261供了一種廉價有效透明的方法擴4102展網絡設備和服務器的帶1653寬、增加吞吐量、加強網絡數據處理能力、提高網絡的靈活性和可用性。負載均衡(Load Balance)其意思就是分攤到多個操作單元上進行執行,例如Web服務器、FTP服務器、企業關鍵應用服務器和其它關鍵任務服務器等,從而共同完成工作任務2、負載方案1)、硬負載---通過在應用服務上層添加負載設備(F5),對訪問請求根據后端應用服務的負載情況進行分發到各個服務器2)、軟負載----使用三方、開源軟件(proxy、nginx)的配置,部署負載架構簡單負載架構:3、高并發負載方案1、擴容服務集群節點,增加相應節點數2、擴容負載集群節點,減少單節點分流壓力內容來自www.13333515.buzz請勿采集。


  • 本文相關:
  • django多種支付、并發訂單處理實例代碼
  • 基于django的樂觀鎖與悲觀鎖解決訂單并發問題詳解
  • django解決訂單并發問題【推薦】
  • django如何防止定時任務并發淺析
  • django自定義列表 models字段顯示方式
  • 使用django清空數據庫并重新生成
  • django實現列表頁商品數據返回教程
  • python 自動重連wifi windows的方法
  • python去除文件中重復的行實例
  • python如何快速實現分布式任務
  • python對象轉換為json的方法步驟
  • python中使用scapy模擬數據包實現arp攻擊、dns放大攻擊例子
  • python+opencv實現旋轉文本校正方式
  • python集合操作方法詳解
  • 介紹python中的__future__模塊
  • python機器學習之svm支持向量機
  • python簡單實現控制電腦的方法
  • 請教一下:負載均衡服務器自身是怎樣抗住高并發的?
  • 如何解決高并發環境下網站Web Service負載均衡的實現
  • ubuntu django nginx負載均衡配置好了怎么用
  • 負載均衡原理
  • 并發數據給 ES集群,如何實現數據的負載均衡
  • nginx負載均衡的算法怎么實現的
  • 高可用與負載均衡的區別
  • [求助]大家好!請問怎么這樣的配能不能實現負載均衡
  • 負載均衡購買要考慮哪些條件? 例如流量或并發數之類的
  • 海量高并發處理網站的負載均衡如何設計
  • 網站首頁網頁制作腳本下載服務器操作系統網站運營平面設計媒體動畫電腦基礎硬件教程網絡安全vbsdos/bathtahtcpythonperl游戲相關vba遠程腳本coldfusionruby專題autoitseraphzonepowershelllinux shellluagolangerlang其它首頁django多種支付、并發訂單處理實例代碼基于django的樂觀鎖與悲觀鎖解決訂單并發問題詳解django解決訂單并發問題【推薦】django如何防止定時任務并發淺析django自定義列表 models字段顯示方式使用django清空數據庫并重新生成django實現列表頁商品數據返回教程python 自動重連wifi windows的方法python去除文件中重復的行實例python如何快速實現分布式任務python對象轉換為json的方法步驟python中使用scapy模擬數據包實現arp攻擊、dns放大攻擊例子python+opencv實現旋轉文本校正方式python集合操作方法詳解介紹python中的__future__模塊python機器學習之svm支持向量機python簡單實現控制電腦的方法python入門教程 超詳細1小時學會python 列表(list)操作方法詳解python 元組(tuple)操作詳解python 字典(dictionary)操作詳解pycharm 使用心得(一)安裝和首python strip()函數 介紹python 中文亂碼問題深入分析python中使用xlrd、xlwt操作excepython科學計算環境推薦——anacpython逐行讀取文件內容的三種方python函數式編程學習之yield表達式形式詳深入分析在python模塊頂層運行的代碼引起docker-py 用python調用docker接口的方法python基于id3思想的決策樹pandas將多個dataframe以多個sheet的形式python實現ftp客戶端示例分享python開發的實用計算器完整實例基于python的modbustcp客戶端實現詳解通過python來實現圖像分割詳解使用pandas read_table讀取csv文件的方法
    免責聲明 - 關于我們 - 聯系我們 - 廣告聯系 - 友情鏈接 - 幫助中心 - 頻道導航
    Copyright © 2017 www.13333515.buzz All Rights Reserved
    3排列五开奖结果