微服務架構裡面,每個服務都會有很多節點,如果流量分配不均勻,會造成資源的浪費,甚至將一些機器壓垮,這個時候就需要負載平衡,最簡單的一種策略就是輪詢,順序依次選擇不同的節點訪問
grpc 在用戶端提供了負載平衡的實現,並提供了服務位址解析和更新的介面(預設提供了 DNS 網域名稱解析的支援),方便不同服務的整合
使用樣本
conn, err := grpc.Dial( "", grpc.WithInsecure(), // 負載平衡,使用 consul 作服務發現 grpc.WithBalancer(grpc.RoundRobin(grpclb.NewConsulResolver( "127.0.0.1:8500", "grpc.health.v1.add", ))),)
建立串連的時候可以使用 WithBalancer
選項來指定負載平衡策略,這裡使用 RoundRobin 演算法,其實就是輪詢策略
與 consul 的整合
有了負載平衡策略,還需要一個位址解析和更新策略,可以使用 DNS 服務來實現,但如果我們使用 consul 來做服務的註冊和發現,可以通過實現 naming.Resolver
和 naming.Watcher
介面來支援
naming.Resolver
: 實現位址解析
naming.Watcher
: 實現節點的變更,添加或者刪除
func NewConsulResolver(address string, service string) naming.Resolver { return &consulResolver{ address: address, service: service, }}type consulResolver struct { address string service string}func (r *consulResolver) Resolve(target string) (naming.Watcher, error) { config := api.DefaultConfig() config.Address = r.address client, err := api.NewClient(config) if err != nil { return nil, err } return &consulWatcher{ client: client, service: r.service, addrs: map[string]struct{}{}, }, nil}type consulWatcher struct { client *api.Client service string addrs map[string]struct{} lastIndex uint64}func (w *consulWatcher) Next() ([]*naming.Update, error) { for { services, metainfo, err := w.client.Health().Service(w.service, "", true, &api.QueryOptions{ WaitIndex: w.lastIndex, // 同步點,這個調用將一直阻塞,直到有新的更新 }) if err != nil { logrus.Warn("error retrieving instances from Consul: %v", err) } w.lastIndex = metainfo.LastIndex addrs := map[string]struct{}{} for _, service := range services { addrs[net.JoinHostPort(service.Service.Address, strconv.Itoa(service.Service.Port))] = struct{}{} } var updates []*naming.Update for addr := range w.addrs { if _, ok := addrs[addr]; !ok { updates = append(updates, &naming.Update{Op: naming.Delete, Addr: addr}) } } for addr := range addrs { if _, ok := w.addrs[addr]; !ok { updates = append(updates, &naming.Update{Op: naming.Add, Addr: addr}) } } if len(updates) != 0 { w.addrs = addrs return updates, nil } }}func (w *consulWatcher) Close() { // nothing to do}
參考連結
- gRPC Name Resolution: https://github.com/grpc/grpc/blob/master/doc/naming.md
- Load Balancing in gRPC: https://github.com/grpc/grpc/blob/master/doc/load-balancing.md
- dns_resolver: https://github.com/grpc/grpc-go/blob/30fb59a4304034ce78ff68e21bd25776b1d79488/naming/dns_resolver.go
- 代碼地址: https://github.com/hatlonely/hellogolang/blob/master/sample/addservice/cmd/client/main.go
轉載請註明出處
本文連結:http://www.hatlonely.com/2018/06/23/golang-grpc-%E8%B4%9F%E8%BD%BD%E5%9D%87%E8%A1%A1/