Spring Cloud Alibaba系列（五）sentinel實現服務限流降級

Posted on by

一、sentinel是什麼

sentinel的官方名稱叫分佈式系統的流量防衛兵。Sentinel 以流量為切入點，從流量控制、熔斷降級、系統負載保護等多個維度保護服務的穩定性。在Spring Cloud項目中最開始我們使用的是Hystrix，目前已停止更新了。現在Spring Cloud官方推薦的是rensilience4j。當然還有我們今天學習的sentinel。

Sentinel 具有以下特徵:

  • 豐富的應用場景：Sentinel 承接了阿里巴巴近 10 年的雙十一大促流量的核心場景，例如秒殺（即突發流量控制在系統容量可以承受的範圍）、消息削峰填谷、集群流量控制、實時熔斷下游不可用應用等。
  • 完備的實時監控：Sentinel 同時提供實時的監控功能。您可以在控制台中看到接入應用的單台機器秒級數據，甚至 500 台以下規模的集群的匯總運 行情況。
  • 廣泛的開源生態：Sentinel 提供開箱即用的與其它開源框架/庫的整合模塊，例如與 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相應的依賴並進行簡單的配置即可快速地接入 Sentinel。
  • 完善的 SPI 擴展點：Sentinel 提供簡單易用、完善的 SPI 擴展接口。您可以通過實現擴展接口來快速地定製邏輯。例如定製規則管理、適配動態數據源等。

二、sentinel實現限流

2.1 安裝sentinel控制台

  • 下載地址：https://github.com/alibaba/Sentinel/releases

這裏我們直接下載jar包即可，下載后通過命令行啟動：

java -jar sentinel-dashboard-1.7.2.jar
  • 默認端口：8080
  • 默認用戶名：sentinel
  • 默認密碼：sentinel

啟動成功后，我們瀏覽器訪問http://localhost:8080，出現如下界面。

2.2 微服務繼承sentinel

  • 引入sentinel依賴
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
  • 添加sentinel的相關配置
server:
  port: 7003
spring:
  application:
    name: sentinel-provider
  cloud:
	nacos:
      discovery:
        server-addr: 127.0.0.1:8848
    sentinel:
      transport:
        dashboard: 127.0.0.1:8080
  • 提供個接口用來測試限流
@SpringBootApplication
public class SentinelApplication {

    public static void main(String[] args) {
        SpringApplication.run(SentinelApplication.class, args);
    }
}

@RestController
class TestController{
    @GetMapping("/test")
    public String test(){
        return "hello! sentinel!";
    }
}

我們請求幾次這個接口后，打開sentinel控制台，就可以實時監控到這個sentinel-provider服務接口調用情況了。

2.3 配置限流規則

我們這裏做一個簡單的規則配置:

  • 閥值類型：QPS

  • 單機閥值：2

意思就是：該接口每秒最多允許進入兩個請求。

點擊新增后，在流控規則里發現了一條規則：

現在，我們繼續請求3次這個接口。第三次響應的內容如下：

Blocked by Sentinel (flow limiting)

我們打開控制台發現拒絕了一條請求。

三、Sentinel規則介紹

不管是限流還是降級，它都是按照某種規則進行的，下面具體介紹一下sentinel支持的幾種規則。

3.1 流控規則

流量控制，其原理是監控應用流量的QPS(每秒查詢率) 或併發線程數等指標，當達到指定的閾值時

對流量進行控制，以避免被瞬時的流量高峰衝垮，從而保障應用的高可用性。

資源名：唯一名稱，默認是請求路徑，可自定義

針對來源：指定對哪個微服務進行限流，默認指default，意思是不區分來源，全部限制

閾值類型/單機閾值：

  • QPS（每秒請求數量）: 當調用該接口的QPS達到閾值的時候，進行限流

  • 線程數：當調用該接口的線程數達到閾值的時候，進行限流

3.2 降級規則

降級規則就是當滿足什麼條件時，對服務降級——即將請求轉發到另外接口上，這個接口與業務無關，只是為了保證系統的完整性。

  • RT（平均響應時間） ：當資源的平均響應時間超過閾值（以 ms 為單位）之後，資源進入准降級狀態。如果接下來 1s 內持續進入 5 個請求，它們的 RT都持續超過這個閾值，那麼在接下的時間窗口（以 s 為單位）之內，就會對這個方法進行服務降級。

    注意 Sentinel 默認統計的 RT 上限是 4900 ms，超出此閾值的都會算作 4900 ms，若需要變更此上限可以通過啟動配置項 -Dcsp.sentinel.statistic.max.rt=xxx 來配置。

  • 異常比例：當資源的每秒異常總數占通過量的比值超過閾值之後，資源進入降級狀態，即在接下的時間窗口（以 s 為單位）之內，對這個方法的調用都會自動地返回。異常比率的閾值範圍是 [0.0,1.0]。

  • 異常數 ：當資源近 1 分鐘的異常數目超過閾值之後會進行服務降級。注意由於統計時間窗口是分鐘級別的，若時間窗口小於 60s，則結束熔斷狀態后仍可能再進入熔斷狀態。

3.3 熱點規則

熱點規則允許將規則具體到參數上。

我們用個例子來看看效果。

  • 編寫接口
@GetMapping("/myTest")
@SentinelResource("test3")
public String test123(String name,String age){
    return  name + "----"+ age;
}
  • 添加規則
  • 運行效果

結果显示，第一個參數被限流了，而第二個參數正常。

3.4 系統規則

系統保護規則是從應用級別的入口流量進行控制，從單台機器的總體 Load、RT、入口 QPS 、CPU使用率和線程數五個維度監控應用數據，讓系統盡可能跑在最大吞吐量的同時保證系統整體的穩定性。

系統保護規則是應用整體維度的，而不是資源維度的，並且僅對入口流量 (進入應用的流量) 生效。

  • Load（僅對 Linux/Unix-like 機器生效）：當系統 load1 超過閾值，且系統當前的併發線程數超過系統容量時才會觸發系統保護。系統容量由系統的 maxQps * minRt 計算得出。設定參考值一般是 CPU cores * 2.5。

  • RT：當單台機器上所有入口流量的平均 RT 達到閾值即觸發系統保護，單位是毫秒。

  • 線程數：當單台機器上所有入口流量的併發線程數達到閾值即觸發系統保護。

  • 入口 QPS：當單台機器上所有入口流量的 QPS 達到閾值即觸發系統保護。

  • CPU使用率：當單台機器上所有入口流量的 CPU使用率達到閾值即觸發系統保護。

3.5 授權規則

很多時候，我們需要根據調用來源來判斷該次請求是否允許放行，這時候可以使用 Sentinel 的來源問控制的功能。來源訪問控制根據資源的請求來源（origin）限制資源是否通過：

  • 若配置白名單，則只有請求來源位於白名單內時才可通過；

  • 若配置黑名單，則請求來源位於黑名單時不通過，其餘的請求通過。

流控應用：sentinel提供了RequestOriginParser來處理接口來源。

我們運行abc來源的請求訪問/test接口。

@Component
class requestOrigin implements RequestOriginParser{

    @Override
    public String parseOrigin(HttpServletRequest httpServletRequest) {
        String server = httpServletRequest.getParameter("server");
        return server;
    }
}

我們請求http://localhost:7003/test?server=abc 和 http://localhost:7003/test?server=ab來分別看看效果。

@SentinelResource的使用

@SentinelResource 用於定義資源，並提供可選的異常處理和 fallback 配置項。

主要參數有以下幾個

屬性 作用
value 資源名稱
entryType entry類型，標記流量的方向，取值IN/OUT，默認是OUT
blockHandler 處理BlockException的函數名稱,函數要求：1. 必須是 public;2.返回類型 參數與原方法一致;3. 默認需和原方法在同一個類中。若希望使用其他類的函數，可配置blockHandlerClass ，並指定blockHandlerClass裏面的方法。
blockHandlerClass 存放blockHandler的類,對應的處理函數必須static修飾。
fallback 1. 返回類型與原方法一致;2. 參數類型需要和原方法相匹配;3. 默認需和原方法在同一個類中。若希望使用其他類的函數，可配置fallbackClass
fallbackClass 存放fallback的類。對應的處理函數必須static修飾。
defaultFallback 若同時配置了 fallback 和 defaultFallback，以fallback為準。
exceptionsToIgnore 指定排除掉哪些異常。排除的異常不會計入異常統計，也不會進入fallback邏輯，而是原樣拋出。
exceptionsToTrace 需要trace的異常

@sentinelResource可結合blockHandler用於限流處理，結合fallback用於降級處理。具體規則可通過sentinel控制台配置，具體我就不演示了，在下一章內容中，我會分別演示限流和降級的應用。

public class MySentinelResource {

    @SentinelResource(value="message",blockHandler="blockHandler",fallback="fallback")
    public String message(String str){
        if(StringUtils.isBlank(str)){
            throw new RuntimeException();
        }
        return str;
    }
    /**
     * 限流處理
     * @param str
     * @param ex
     * @return
     */
    public String blockHandler(String str, BlockedException ex){
        return str + "--"+ ex;
    }
    /**
     * 降級處理
     * @param str
     * @return
     */
    public String fallback(String str){
        return null;
    }
}

代碼示例

gitee：https://gitee.com/zhixie/spring-cloud-alibaba-learning/tree/master/sentinel-server

github：https://github.com/binzh303/spring-cloud-alibaba-learning/tree/master/sentinel-server

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理

【其他文章推薦】

※自行創業缺乏曝光? 網頁設計幫您第一時間規劃公司的形象門面

※網頁設計一頭霧水該從何著手呢? 台北網頁設計公司幫您輕鬆架站!

※想知道最厲害的網頁設計公司"嚨底家"!

※幫你省時又省力,新北清潔一流服務好口碑

※別再煩惱如何寫文案,掌握八大原則!