設計linux核心的那幫傢伙想的可真周到啊,前面說過,linux核心的性格就是激情,只要硬體設計的足夠靈活,那麼設計者就會儘可能的發揮,不放過任 何可自由發揮的點和死角,而且他們從來不管後果,有時還毅然拋棄硬體的建議,最新核心設計linux核心的那幫傢伙想的可真周到啊,前面說過,linux核心的性格就是激情,只要硬體設計的足夠靈活,那麼設計者就會儘可能的發揮,不放過任 何可自由發揮的點和死角,而且他們從來不管後果,有時還毅然拋棄硬體的建議,最新核心的nohz可謂是一項創舉。時鐘中斷是電腦系統必須的,就像人必須 有心跳一樣,人的心跳是周期的,電腦系統的“心跳”也是周期的,因此,時鐘中斷每隔固定的時間就會發生。
真的是這樣嗎?linux核心的設計者認為如果cpu在空閑態,那麼就沒有必要心跳了,畢竟電腦不是一個自組織系統,能源全靠外界電源供給,而人是一個 自組織實體,因此人必須要有周期的心跳來自己產生能量,電腦的外界電源只要不斷,加上時鐘可程式化,那麼非周期心跳甚至心跳停止就是可能的,linux內 核實現了這一點。在2.6.21核心之前,時鐘中斷是周期的,在那之後引入了新的時鐘封裝結構clock_event_device和 clocksource,於是可以更加靈活的實現自己設計的個性時鐘,這個個性時鐘就是nohz方式和hres方式。當然系統初 啟的時候時鐘中斷還是周期的,當timer_interrupt被調用的時候,就會觸發timer非強制中斷,然後在接下來的非強制中斷處理中找機會切到nohz 或者hres,具體代碼如下:
- void run_local_timers(void)
- {
- hrtimer_run_queues(); //優先處理高精度時鐘隊列
- raise_softirq(TIMER_SOFTIRQ); //觸發非強制中斷,處理函數見下:
- softlockup_tick();
- }
- static void run_timer_softirq(struct softirq_action *h)
//非強制中斷處理函數
- {
- struct tvec_base *base = __get_cpu_var(tvec_bases);
- hrtimer_run_pending(); //這裡有機會切換到nohz或者hres
- if (time_after_eq(jiffies, base->timer_jiffies))
- __run_timers(base);
- }
- void hrtimer_run_pending(void)
- {
- struct hrtimer_cpu_base *cpu_base = &__get_cpu_var(hrtimer_bases);
- if (hrtimer_hres_active()) //如果已經是了,就沒有必要切換了,直接返回
- return;
- if (tick_check_oneshot_change(!hrtimer_is_hres_enabled()))
//這個if判斷就是具體切換到hres或者nohz的代碼
- hrtimer_switch_to_hres();
- run_hrtimer_pending(cpu_base);
- }
- int tick_check_oneshot_change(int allow_nohz)
- {
- struct tick_sched *ts = &__get_cpu_var(tick_cpu_sched);
- if (!test_and_clear_bit(0, &ts->check_clocks))
//由此開始的種種判斷說明切換所需要到種種條件
- return 0;
- if (ts->nohz_mode != NOHZ_MODE_INACTIVE)
- return 0;
- if (!timekeeping_valid_for_hres() || !tick_is_oneshot_available())
- return 0;
- if (!allow_nohz) //如果hres是允許的,那麼返回1,這樣就會切換到hres高精度模式了
- return 1;
- tick_nohz_switch_to_nohz();
//如果沒有機會切換到高精度模式,前面種種驗證均通過,這裡最起碼切換到了nohz模式
- return 0;
- }
hres 模式和nohz模式的具體切換由hrtimer_switch_to_hres和tick_nohz_switch_to_nohz負責。不能光一味的跟 蹤代碼,hres和nohz有何關聯呢又分別是什麼意義呢?hres實際上也不是周期中斷的,而是很精確的確定中斷,用最近到時的hrtimer的觸發時 間來對時鐘編程從而在那個時間到來的時候觸發中斷,而nohz僅僅說明可以用非周期的時間對時鐘編程,對精度沒有要求。
在hres中,一切事物都由一個 hrtimer負責,比如原來的節拍調度,統計當前進程的時間等操作直接在timer_interrupt進行,而hres模式下,上述操作專門有一個 hrtimer,當clock_event_device的event_handler執行時所有操作都被封裝進了 clock_event_device的event_handler,而此event_handler在切換到hres或者nohz的時候被賦值),該函 數遍曆所有的hrtimer,所有的hrtimer組織成紅/黑樹狀結構,將到期的hrtimer鏈入一個鏈表,然後在非強制中斷中執行這個鏈表的hrtimer的回 調函數,對於別的hrtimer則馬上執行:所有hrtimer分為兩類,一類不能在非強制中斷中執行,屬於比較緊急的,另一個可以在非強制中斷中執行,屬於不那 麼緊急的。對於純粹的nohz非hres模式,event_handler中還是傳統的處理方式,只不過下次中斷的時間可以任意編程。這種方式中,時間測量可以達到鈉秒的精度。
每當cpu執行cpu_idle的時候,核心就會找機會停掉系統的心跳,然後在適當時機觸發心跳,而不是周期的心跳,這個時機是什麼呢?如果一切都由 hrtimer負責了,那麼這個時機就是找出的最近到期的timer的到期時刻,雖然停掉了周期的時鐘中斷,但是別的硬體中斷是沒有停掉的,而硬體中斷可能觸發一些事件,比如調度,比如發布一個新的timer,因此,每次硬體中斷後都要檢查最新的hrtimer的到期情況和重新調度請求,如果有那麼馬上停 掉關心跳模式切出idle進程。下面的代碼體現了這一點,在每次進入硬體中斷處理的時候都要調用irq_enter:
- void irq_enter(void)
- {
- #ifdef CONFIG_NO_HZ
- int cpu = smp_processor_id();
- if (idle_cpu(cpu) && !in_interrupt())
- tick_nohz_stop_idle(cpu);
- #endif
- __irq_enter();
- #ifdef CONFIG_NO_HZ
- if (idle_cpu(cpu))
- tick_nohz_update_jiffies(); //更新計時,nohz模式由此來作為觸發下一
中斷的時機參考。怎麼理解呢?看看這個調用條件,只有在cpu處於idle狀態時
才更新時間,因為cpu處於idle時可能已經將周期時鐘停掉了,為了不遺失時
間資訊,必須在中斷中補上。
- #endif
- }
nohz 模式下的中斷“幾乎”是周期的,nohz的字面意義就是非周期,但是它還是基本周期的,因為它沒有任何下一個時鐘中斷的時間點依據;但是hres卻是完全 隨機時鐘中斷的,因為它的event_handler中就是操作紅/黑樹狀結構上的hrtimer們,因此,它完全可以將下一個到期的hrtimer的到期時刻作為下一個觸發時鐘中斷的時刻,要知道在hres模式裡面,所有的時間相關的操作比如計時,節拍調度等都是由hrtimer負責的,如果要選擇下一次觸發時 鐘中斷的時機就不能在某一個hrtimer的處理函數裡面仲裁了,而必須在全域的處理所有的hrtimer的event_handler函數裡面仲裁,這 就是一切。我們看一下cpu_idle:
- void cpu_idle(void)
- {
- int cpu = smp_processor_id();
- current_thread_info()->status |= TS_POLLING;
- /* endless idle loop with no priority at all */
- while (1) {
- tick_nohz_stop_sched_tick(1);
- while (!need_resched()) {
- check_pgt_cache();
- rmb();
- if (rcu_pending(cpu))
- rcu_check_callbacks(cpu, 0);
- if (cpu_is_offline(cpu))
- play_dead();
- local_irq_disable();
- __get_cpu_var(irq_stat).idle_timestamp = jiffies;
- /* Don't trace irqs off for idle */
- stop_critical_timings();
- pm_idle();
- start_critical_timings();
- }
- tick_nohz_restart_sched_tick();
- preempt_enable_no_resched();
- schedule();
- preempt_disable();
- }
- }
其中tick_nohz_stop_sched_tick裡面調用了next_jiffies = get_next_timer_interrupt(last_jiffies);這一句,此句的意思就是找出下一個最近的timer或者hrtimer 用來將其到期時間作為下一個時鐘中斷的時間。在tick_nohz_stop_sched_tick中當然要檢查重新調度標誌,如果置位那麼馬上返回不再 nohz了,其實在每個硬體中斷後的irq_exit裡都要調用tick_nohz_stop_sched_tick函數用來在可能的情況下重新對時鐘編 程。