golang grpc 負載平衡

來源:互聯網
上載者:User

微服務架構裡面,每個服務都會有很多節點,如果流量分配不均勻,會造成資源的浪費,甚至將一些機器壓垮,這個時候就需要負載平衡,最簡單的一種策略就是輪詢,順序依次選擇不同的節點訪問

grpc 在用戶端提供了負載平衡的實現,並提供了服務位址解析和更新的介面(預設提供了 DNS 網域名稱解析的支援),方便不同服務的整合

使用樣本

conn, err := grpc.Dial(    "",    grpc.WithInsecure(),    // 負載平衡,使用 consul 作服務發現    grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver(        "127.0.0.1:8500", "grpc.health.v1.add",    ))),)

建立串連的時候可以使用 WithBalancer 選項來指定負載平衡策略,這裡使用 RoundRobin 演算法,其實就是輪詢策略

與 consul 的整合

有了負載平衡策略,還需要一個位址解析和更新策略,可以使用 DNS 服務來實現,但如果我們使用 consul 來做服務的註冊和發現,可以通過實現 naming.Resolvernaming.Watcher 介面來支援

  • naming.Resolver: 實現位址解析
  • naming.Watcher: 實現節點的變更,添加或者刪除
func NewConsulResolver(address string, service string) naming.Resolver {    return &consulResolver{        address: address,        service: service,    }}type consulResolver struct {    address string    service string}func (r *consulResolver) Resolve(target string) (naming.Watcher, error) {    config := api.DefaultConfig()    config.Address = r.address    client, err := api.NewClient(config)    if err != nil {        return nil, err    }    return &consulWatcher{        client:  client,        service: r.service,        addrs:   map[string]struct{}{},    }, nil}type consulWatcher struct {    client    *api.Client    service   string    addrs     map[string]struct{}    lastIndex uint64}func (w *consulWatcher) Next() ([]*naming.Update, error) {    for {        services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{            WaitIndex: w.lastIndex, // 同步點,這個調用將一直阻塞,直到有新的更新        })        if err != nil {            logrus.Warn("error retrieving instances from Consul: %v", err)        }        w.lastIndex = metainfo.LastIndex        addrs := map[string]struct{}{}        for _, service := range services {            addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{}        }        var updates []*naming.Update        for addr := range w.addrs {            if _, ok := addrs[addr]; !ok {                updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr})            }        }        for addr := range addrs {            if _, ok := w.addrs[addr]; !ok {                updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr})            }        }        if len(updates) != 0 {            w.addrs = addrs            return updates, nil        }    }}func (w *consulWatcher) Close() {    // nothing to do}

參考連結

  • gRPC Name Resolution: https://github.com/grpc/grpc/...
  • Load Balancing in gRPC: https://github.com/grpc/grpc/...
  • dns_resolver: https://github.com/grpc/grpc-...
  • 代碼地址: https://github.com/hatlonely/...
轉載請註明出處
本文連結:http://www.hatlonely.com/2018...
相關文章

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.