golang grpc 負載平衡

微服務架構裡面，每個服務都會有很多節點，如果流量分配不均勻，會造成資源的浪費，甚至將一些機器壓垮，這個時候就需要負載平衡，最簡單的一種策略就是輪詢，順序依次選擇不同的節點訪問。

grpc 在用戶端提供了負載平衡的實現，並提供了服務位址解析和更新的介面(預設提供了 DNS 網域名稱解析的支援)，方便不同服務的整合

使用樣本

conn, err := grpc.Dial(    "",    grpc.WithInsecure(),    // 負載平衡，使用 consul 作服務發現    grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver(        "127.0.0.1:8500", "grpc.health.v1.add",    ))),)

建立串連的時候可以使用 WithBalancer 選項來指定負載平衡策略，這裡使用 RoundRobin 演算法，其實就是輪詢策略

與 consul 的整合

有了負載平衡策略，還需要一個位址解析和更新策略，可以使用 DNS 服務來實現，但如果我們使用 consul 來做服務的註冊和發現，可以通過實現 ‘naming.Resolver’ 和 ‘naming.Watcher’ 介面來支援

• naming.Resolver: 實現位址解析
• naming.Watcher: 實現節點的變更，添加或者刪除

func NewConsulResolver(address string, service string) naming.Resolver {    return &consulResolver{        address: address,        service: service,    }}type consulResolver struct {    address string    service string}func (r *consulResolver) Resolve(target string) (naming.Watcher, error) {    config := api.DefaultConfig()    config.Address = r.address    client, err := api.NewClient(config)    if err != nil {        return nil, err    }    return &consulWatcher{        client:  client,        service: r.service,        addrs:   map[string]struct{}{},    }, nil}type consulWatcher struct {    client    *api.Client    service   string    addrs     map[string]struct{}    lastIndex uint64}func (w *consulWatcher) Next() ([]*naming.Update, error) {    for {        services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{            WaitIndex: w.lastIndex, // 同步點，這個調用將一直阻塞，直到有新的更新        })        if err != nil {            logrus.Warn("error retrieving instances from Consul: %v", err)        }        w.lastIndex = metainfo.LastIndex        addrs := map[string]struct{}{}        for _, service := range services {            addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{}        }        var updates []*naming.Update        for addr := range w.addrs {            if _, ok := addrs[addr]; !ok {                updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr})            }        }        for addr := range addrs {            if _, ok := w.addrs[addr]; !ok {                updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr})            }        }        if len(updates) != 0 {            w.addrs = addrs            return updates, nil        }    }}func (w *consulWatcher) Close() {    // nothing to do}

參考連結

• gRPC Name Resolution: https://github.com/grpc/grpc/blob/master/doc/naming.md
• Load Balancing in gRPC: https://github.com/grpc/grpc/blob/master/doc/load-balancing.md
• dns_resolver: https://github.com/grpc/grpc-go/blob/30fb59a4304034ce78ff68e21bd25776b1d79488/naming/dns_resolver.go

代碼地址: https://github.com/hatlonely/hellogolang/blob/master/sample/addservice/cmd/client/main.go

thumb_up

轉載請註明出處
本文連結：http://www.hatlonely.com/2018/06/23/golang-grpc-負載平衡/