標籤:ges 架構 cli handler lte service 工廠 產生 禁用
spark呢,對Netty API又做了一層封裝,那麼Netty是什麼呢~是個鬼。它基於NIO的服務端用戶端架構,具體不再說了,下面開始。
建立了一個線程工廠,產生的線程都給定一個首碼名。
像一般的netty架構一樣,建立Netty的EventLoopGroup:
在常用的netty架構中呢,會建立用戶端輔助類,設定SocketChannel:
Bootstrap b = new Bootstrap(); b.group(group).channel(NioSocketChannel.class)
spark中呢 根據參數IOMode,返回正確的用戶端SocketChannel:
返回正確的服務端socketChannel:
返回遠端的Channel地址:
建立一個ByteBuf對本地線程緩衝禁用的分配器。ByteBuf是由事件迴圈線程分配,所以執行緒區域緩衝對於TransportClient是禁用的,ByteBuf釋放是由Executor線程,不是事件迴圈線程完成。本地線程緩衝經常會延遲ByteBuf的回收,導致巨大的記憶體消耗。
Spark這個禽獸,對Jetty也進行了封裝,什麼是Jetty呢,它是以java作為開發語言的servlet容器,它的API以一組jar包的形式發布,提供網路和web服務.在我理解,Netty是用socket~Jetty呢 就是Http~那麼下來,我們看一下JettyUtils:
createServlet,產生HttpServlet匿名內部類,此Responder類型發生隱式轉換,轉換為使用者傳入的函數參數。
要為Jetty建立servlet,就涉及ServletContextHandler的API的使用,產生ServletContextHandler:
建立給定路徑為首碼的請求的響應處理,將SparkUI中的全部handler加入ContextHandlerCollection.,如果使用配置spark.ui.filters指定了filter,則給所有handler添加filter.然後調用startServiceOnPort,最終回呼函數connect:
Spark Netty與Jetty (源碼閱讀十一)