下面將介紹Nginx開源版內(nèi)置的4種負載均衡策略和2種三方負載均衡策略,他們分別是:
下面將介紹Nginx開源版內(nèi)置的4種負載均衡策略和2種三方負載均衡策略,他們分別是:
輪詢
最少連接數(shù)
ip_hash
hash
fair
consistent_hash
本文只是展示了部分nginx實現(xiàn)負載均衡時可以使用的策略模塊,另外在nginx商業(yè)版中還存在其他內(nèi)置的策略模塊。負載均衡的三方策略可以在三方模塊列表這里找到。
nginx將所有請求均勻的分給集群中的每臺服務(wù)器。
upstream test { server 127.0.0.1:7001; # 等同于server 127.0.0.1:7001 weight=1; server 150.109.118.85:7001; # 等同于server 150.109.118.85:7001 weight=1;}server { listen 8081; server_name localhost; location / { proxy_pass http://test/; }}
upstream:定義一個服務(wù)集群。
proxy_pass: 將匹配的請求代理轉(zhuǎn)發(fā)到proxy_pass后面配置的服務(wù)上,這里因為需要配置負載均衡,所以這里http://
后面必須要跟上upstream定義的服務(wù)集群。
注意:upstream定義服務(wù)集群時,配置的服務(wù)地址只能是域名+端口或者ip+端口,不能帶有協(xié)議和路徑,否則nginx會報nginx: [emerg] invalid host in upstream
這個錯誤信息。
upstream test { server 127.0.0.1:7001 weight=2; server 150.109.118.85:7001 weight=1;}
前面兩次請求都會轉(zhuǎn)發(fā)到127.0.0.1:7001
這個服務(wù),后面一次請求會轉(zhuǎn)發(fā)到150.109.118.85:7001
這個服務(wù),再后面兩次轉(zhuǎn)發(fā)到127.0.0.1:7001
,。。。
文件位置:src/http/modules/ngx_http_upstream_least_conn_module.c
nginx請求分配給active_connection/weight最小的服務(wù)器。
upstream test { least_conn; server 127.0.0.1:7001 weight=1; server 150.109.118.85:7001 weight=1;}
文件位置:src/http/modules/ngx_http_upstream_ip_hash_module.c
根據(jù)用戶的ip,計算出一個hash值,如果負載均衡緩存中有這個hash對應(yīng)的服務(wù)器,那就直接轉(zhuǎn)發(fā)到對應(yīng)的服務(wù)器上。
upstream test { ip_hash; server 127.0.0.1:7001; server 150.109.118.85:7001;}
nginx使用ip_hash策略后,只要用戶電腦的ip不變化,就會始終請求同一臺業(yè)務(wù)服務(wù)。
應(yīng)用場景:在實現(xiàn)文件上傳功能時,要實現(xiàn)一個大文件上傳,往往會將這個大文件分成多個片段,然后上傳到服務(wù)器,如果使用前面給的策略,就會出現(xiàn)同一個文件的分片被上傳到不同服務(wù)器,導致文件合并失敗,不能達到預期效果。nginx使用ip_hash策略后,客戶端只要上傳了當前文件的一個片段,后續(xù)文件片段上傳的時候,nginx通過計算ip的hash,自動把請求轉(zhuǎn)發(fā)到hash對應(yīng)的服務(wù)器。
文件位置:src/http/modules/ngx_http_upstream_hash_module.c
可以進行hash計算的有remote_addr(客戶端ip)(從測試結(jié)果上面看感覺可以直接替換掉ip_hash)、request_uri(請求uri)、args(請求參數(shù)),下面主要以request_uri的使用作為展示,其他兩個使用都類似。
根據(jù)請求的uri計算出一個hash值,然后將該請求轉(zhuǎn)發(fā)到一臺服務(wù)器上面,后續(xù)請求通過hash計算后,如果有相同的hash,那么就會將該請求轉(zhuǎn)發(fā)到該hash對應(yīng)的服務(wù)器。
如果集群中某臺服務(wù)器宕機之后會出現(xiàn)什么情況:假設(shè)r1命中a服務(wù)器;r2命中b服務(wù)器。當a服務(wù)器宕機,之前通過r1計算出來的hash與a服務(wù)器的對應(yīng)情況會失效,r1將重新分配給b服務(wù)器。后續(xù)a服務(wù)器恢復正常后,r1還是會分配給b服務(wù)器。
upstream test { hash $request_uri; server 127.0.0.1:7001; server 150.109.118.85:7001;}
應(yīng)用場景:所有請求相同的文件資源的請求都會被轉(zhuǎn)發(fā)到同一個服務(wù)器,資源更容易命中緩存,減少寬帶和資源下載時間。
consistent_hash(一致性hash)這個模塊使用方式和nginx內(nèi)置的hash模塊幾乎相同。能夠使用consistent_hash進行計算的內(nèi)容和前面提到的nginx內(nèi)置的hash模塊一樣,有remote_addr、request_uri、args。這是一個三方模塊,可以在ngx_http_consistent_hash這里下載。
upstream test { consistent_hash $request_uri; server 127.0.0.1:7001; server 150.109.118.85:7001;}
響應(yīng)時間短的服務(wù)優(yōu)先分配請求。這個是三方模塊,可以在nginx_upstream_fair這里下載模塊。這個模塊上次更新是8年前,可能需要考慮下是否需要使用這個。
upstream test { fair; server 127.0.0.1:7001; server 150.109.118.85:7001;}
測試中得出效果和輪詢默認情況效果一樣,暫時沒有找到問題在哪。。。
標識down
的服務(wù)器暫時不支持資源請求。
upstream test { server 127.0.0.1:7001 down; server 150.109.118.85:7001;}
上面負載均衡的例子中,因為127.0.0.1:7001
標識為down
,所以不會有請求轉(zhuǎn)發(fā)到這個服務(wù),所有的請求都會轉(zhuǎn)發(fā)到150.109.118.85:7001
這個服務(wù)。
集群中服務(wù)的權(quán)重值,默認是1。在只有weight這一個影響條件下,且集群中服務(wù)都正常,nginx會將更多的請求轉(zhuǎn)發(fā)到weight更大的服務(wù)。
upstream test { server 127.0.0.1:7001 weight=2; server 150.109.118.85:7001 weight=1;}
這個集群中127服務(wù)和150服務(wù)各處理的請求比例為2:1。
允許服務(wù)處理請求時服務(wù)出錯的次數(shù),默認為1。當服務(wù)處理請求發(fā)生錯誤的次數(shù)超過max_fails時,后面的請求暫時不會轉(zhuǎn)發(fā)到這臺發(fā)生錯誤的服務(wù)。
upstream test { server 127.0.0.1:7001 max_fail=1; server 150.109.118.85:7001;}
當服務(wù)處理請求發(fā)生錯誤的次數(shù)超過max_fails以后,nginx會暫時禁止將請求轉(zhuǎn)發(fā)到這個服務(wù)。當過去fail_timeout設(shè)置的時間以后,nginx會嘗試將請求轉(zhuǎn)發(fā)到剛才被禁止的服務(wù),如果服務(wù)正常,那么后續(xù)的請求可以繼續(xù)轉(zhuǎn)發(fā)到這臺服務(wù),如果服務(wù)錯誤,那么繼續(xù)等待fail_timeout時間后再來檢測。fail_timeout默認時間是10s。
upstream test { server 127.0.0.1:7001 max_fail=1 fail_timeout=10s; server 150.109.118.85:7001;}
備用服務(wù)器,當所有非backup服務(wù)發(fā)生錯誤被停用或者設(shè)置為down時,nginx會啟用標識為backup的服務(wù)。
upstream test { server 127.0.0.1:7001 backup; server 150.109.118.85:7001;}
這個功能存在于nginx商業(yè)版。同一服務(wù)同時處理請求的個數(shù)。防止服務(wù)因處理請求過多,服務(wù)器性能不足,發(fā)生宕機的情況。
upstream test { server 127.0.0.1:7001 max_conns=10000; server 150.109.118.85:7001;}
這個功能存在于nginx商業(yè)版。當集群中錯誤服務(wù)等待fail_timeout時間后,nginx檢測到這個服務(wù)能夠正常使用后,再等待slow_start時間后,才正式使用這個服務(wù)。
upstream test { server 127.0.0.1:7001 slow_start=30s; server 150.109.118.85:7001;}
本文參與 騰訊云自媒體分享計劃,分享自作者個人站點/博客。
如有侵權(quán)請聯(lián)系 cloudcommunity@tencent.com 刪除
來源:本文內(nèi)容搜集或轉(zhuǎn)自各大網(wǎng)絡(luò)平臺,并已注明來源、出處,如果轉(zhuǎn)載侵犯您的版權(quán)或非授權(quán)發(fā)布,請聯(lián)系小編,我們會及時審核處理。
聲明:江蘇教育黃頁對文中觀點保持中立,對所包含內(nèi)容的準確性、可靠性或者完整性不提供任何明示或暗示的保證,不對文章觀點負責,僅作分享之用,文章版權(quán)及插圖屬于原作者。
Copyright?2013-2024 JSedu114 All Rights Reserved. 江蘇教育信息綜合發(fā)布查詢平臺保留所有權(quán)利
蘇公網(wǎng)安備32010402000125
蘇ICP備14051488號-3技術(shù)支持:南京博盛藍睿網(wǎng)絡(luò)科技有限公司
南京思必達教育科技有限公司版權(quán)所有 百度統(tǒng)計