主要是依靠 redis + lua 來(lái)實(shí)現(xiàn)限流器, 使用 lua 的原因是將多條命令合并在一起作為一個(gè)原子操作, 無(wú)需過(guò)多考慮并發(fā).
計(jì)數(shù)器模式
原理
計(jì)數(shù)器算法是指在一段窗口時(shí)間內(nèi)允許通過(guò)的固定數(shù)量的請(qǐng)求, 比如10次/秒, 500次/30秒.
如果設(shè)置的時(shí)間粒度越細(xì), 那么限流會(huì)更平滑.
實(shí)現(xiàn)
所使用的 Lua 腳本
-- 計(jì)數(shù)器限流-- 此處支持的最小單位時(shí)間是秒, 若將 expire 改成 pexpire 則可支持毫秒粒度.-- KEYS[1] string 限流的key-- ARGV[1] int 限流數(shù)-- ARGV[2] int 單位時(shí)間(秒)local cnt = tonumber(redis.call("incr", KEYS[1]))if (cnt == 1) then -- cnt 值為1說(shuō)明之前不存在該值, 因此需要設(shè)置其過(guò)期時(shí)間 redis.call("expire", KEYS[1], tonumber(ARGV[2]))elseif (cnt > tonumber(ARGV[1])) then return -1end return cnt返回 -1 表示超過(guò)限流, 否則返回當(dāng)前單位時(shí)間已通過(guò)的請(qǐng)求數(shù)
key 可以但不限于以下的情況
優(yōu)點(diǎn)
缺點(diǎn)
注意
場(chǎng)景分析
eg. 1000/3s 的限流
極端情況1:
第1秒請(qǐng)求數(shù) 10
第2秒請(qǐng)求數(shù) 10
第3秒請(qǐng)求數(shù) 980
第4秒請(qǐng)求數(shù) 900
第5秒請(qǐng)求數(shù) 100
第6秒請(qǐng)求數(shù) 0
此時(shí)注意第3~5秒內(nèi)的總請(qǐng)求數(shù)高達(dá) 1980
極端情況2:
第1秒請(qǐng)求數(shù) 1000
第2秒請(qǐng)求數(shù) 0
第3秒請(qǐng)求數(shù) 0
此時(shí)后續(xù)的第2~3秒會(huì)出現(xiàn)大量拒絕請(qǐng)求
令牌桶模式
原理
令牌桶的
桶的實(shí)現(xiàn)還分為:
可預(yù)消費(fèi)
提前預(yù)支令牌數(shù): 前人挖坑, 后人跳
不可預(yù)消費(fèi)
令牌數(shù)不夠直接拒絕
實(shí)現(xiàn)
此處實(shí)現(xiàn)的不可預(yù)消費(fèi)的令牌桶, 具體Lua代碼:
-- 令牌桶限流: 不支持預(yù)消費(fèi), 初始桶是滿的-- KEYS[1] string 限流的key-- ARGV[1] int 桶最大容量-- ARGV[2] int 每次添加令牌數(shù)-- ARGV[3] int 令牌添加間隔(秒)-- ARGV[4] int 當(dāng)前時(shí)間戳local bucket_capacity = tonumber(ARGV[1])local add_token = tonumber(ARGV[2])local add_interval = tonumber(ARGV[3])local now = tonumber(ARGV[4])-- 保存上一次更新桶的時(shí)間的keylocal LAST_TIME_KEY = KEYS[1].."_time"; -- 獲取當(dāng)前桶中令牌數(shù)local token_cnt = redis.call("get", KEYS[1]) -- 桶完全恢復(fù)需要的最大時(shí)長(zhǎng)local reset_time = math.ceil(bucket_capacity / add_token) * add_interval;if token_cnt then -- 令牌桶存在 -- 上一次更新桶的時(shí)間 local last_time = redis.call('get', LAST_TIME_KEY) -- 恢復(fù)倍數(shù) local multiple = math.floor((now - last_time) / add_interval) -- 恢復(fù)令牌數(shù) local recovery_cnt = multiple * add_token -- 確保不超過(guò)桶容量 local token_cnt = math.min(bucket_capacity, token_cnt + recovery_cnt) - 1 if token_cnt < 0 then return -1; end -- 重新設(shè)置過(guò)期時(shí)間, 避免key過(guò)期 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time) redis.call('set', LAST_TIME_KEY, last_time + multiple * add_interval, 'EX', reset_time) return token_cnt else -- 令牌桶不存在 token_cnt = bucket_capacity - 1 -- 設(shè)置過(guò)期時(shí)間避免key一直存在 redis.call('set', KEYS[1], token_cnt, 'EX', reset_time); redis.call('set', LAST_TIME_KEY, now, 'EX', reset_time + 1); return token_cnt end令牌桶的關(guān)鍵是以下幾個(gè)參數(shù):
令牌桶的實(shí)現(xiàn)不會(huì)出現(xiàn)計(jì)數(shù)器模式中單位時(shí)間內(nèi)雙倍流量的問(wèn)題.
總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，謝謝大家對(duì)武林網(wǎng)的支持。
新聞熱點(diǎn)
疑難解答
圖片精選
