求教育，关于NMI watchdog

nevastill

NMI watchdog到底是称为硬狗还是软狗？

如果是软狗，那么什么时候喂狗呢？ 即touch_nmi_watchdog()被调用的时机是怎样的？

如果是硬狗，可是喂硬狗通常都是给一个一定长度的脉冲，不涉及nmi_touch这个percpu变量啊。

请了解的同学不吝赐教，谢谢

luoyan_xy

nmi watchdog应该是软狗，应该是每次nmi中断的时候喂狗

nevastill

每次NMI中断来的时候调用nmi_watchdog_tick()是去检测是否喂狗吧，而不是去喂狗，检测到没喂狗就die_nmi()了。回复 2# luoyan_xy


   

chishanmingshen

有2种:
I/O APIC watchdog开销大
Local APIC watchdog开销小
通过nmi_watchdog变量控制.

原理都是do_nmi()中递增计数器.而在被监控的地方重置计数器.

我的理解,如果不正,请指点,谢谢!

nevastill

来个大侠回答一下哇

junnyg

回复 1# nevastill
1. 在hung_task模块初始化时会启动一个内核线程khungtaskd执行watchdog函数

1. static int __init hung_task_init(void)
   
2. {
   
3.         atomic_notifier_chain_register(&panic_notifier_list, &panic_block);
   
4.         watchdog_task = kthread_run(watchdog, NULL, "khungtaskd");
   
5. 
   
6.         return 0;
   
7. }
   
8. 
   
9. module_init(hung_task_init);
   

复制代码

2. 在线程khungtaskd中执行check_hung_uninterruptible_tasks

1. static int watchdog(void *dummy)
   
2. {
   
3.         set_user_nice(current, 0);
   
4. 
   
5.         for ( ; ; ) {
   
6.                 unsigned long timeout = sysctl_hung_task_timeout_secs;
   
7. 
   
8.                 while (schedule_timeout_interruptible(timeout_jiffies(timeout)))
   
9.                         timeout = sysctl_hung_task_timeout_secs;
   
10. 
    
11.                 check_hung_uninterruptible_tasks(timeout);
    
12.         }
    
13. 
    
14.         return 0;
    
15. }

复制代码

3. check_hung_uninterruptible_tasks->check_hung_task->touch_nmi_watchdog

1. 
   
2. static void check_hung_task(struct task_struct *t, unsigned long timeout)
   
3. {
   
4.         ... ...
   
5.         touch_nmi_watchdog();
   
6. 
   
7.         if (sysctl_hung_task_panic)
   
8.                 panic("hung_task: blocked tasks");
   
9. }
   

复制代码

4. 在touch_nmi_watchdog设置pcpu变量nmi_touch

1. void touch_nmi_watchdog(void)
   
2. {
   
3.         if (nmi_watchdog_active()) {
   
4.                 unsigned cpu;
   
5. 
   
6.                 /*
   
7.                  * Tell other CPUs to reset their alert counters. We cannot
   
8.                  * do it ourselves because the alert count increase is not
   
9.                  * atomic.
   
10.                  */
    
11.                 for_each_present_cpu(cpu) {
    
12.                         if (per_cpu(nmi_touch, cpu) != 1)
    
13.                                 per_cpu(nmi_touch, cpu) = 1;
    
14.                 }
    
15.         }
    
16. 
    
17.         /*
    
18.          * Tickle the softlockup detector too:
    
19.          */
    
20.         touch_softlockup_watchdog();
    
21. }

复制代码

5. 在nmi中断处理do_nmi进行nmi_touch变量的检查，如果不为1，则计数加1，计数超过预设值，则调用die_nmi
代码流程：entry_32.s->call do_nmi->default_do_nmi->nmi_watchdog_tick

1. 
   
2. notrace __kprobes int
   
3. nmi_watchdog_tick(struct pt_regs *regs, unsigned reason)
   
4. {
   
5.         ... ...
   
6.         if (__get_cpu_var(nmi_touch)) { /*进行pcpu变量touched的检查，如果为1，则置touched标志*/
   
7.                 __get_cpu_var(nmi_touch) = 0;
   
8.                 touched = 1;
   
9.         }
   
10. 
    
11.         ... ...
    
12.         /* 下面对touch标志进行判断，如果为0且nmi中断处理没有多次进入，则将altert_counter加1 */
    
13. 
    
14.         /* if the none of the timers isn't firing, this cpu isn't doing much */
    
15.         if (!touched && __get_cpu_var(last_irq_sum) == sum) {
    
16.                 /*
    
17.                  * Ayiee, looks like this CPU is stuck ...
    
18.                  * wait a few IRQs (5 seconds) before doing the oops ...
    
19.                  */
    
20.                 __this_cpu_inc(alert_counter);
    
21.                 if (__this_cpu_read(alert_counter) == 5 * nmi_hz)
    
22.                         /*
    
23.                          * die_nmi will return ONLY if NOTIFY_STOP happens..
    
24.                          */
    
25.                         die_nmi("BUG: NMI Watchdog detected LOCKUP",
    
26.                                 regs, panic_on_timeout);
    
27.         } else {
    
28.                 /* 不然就更新中断计数，对alert_counter进行清零操作 */
    
29.                 __get_cpu_var(last_irq_sum) = sum;
    
30.                 __this_cpu_write(alert_counter, 0);
    
31.         }
    
32. 
    
33.         /* see if the nmi watchdog went off */
    
34.         if (!__get_cpu_var(wd_enabled))
    
35.                 return rc;
    
36.         switch (nmi_watchdog) {
    
37.         case NMI_LOCAL_APIC:
    
38.                 /* 如果是APIC类型的watch_dog，调如下函数进行喂狗 */
    
39.                 rc |= lapic_wd_event(nmi_hz);
    
40.                 break;
    
41.         case NMI_IO_APIC:
    
42.                 /*
    
43.                  * don't know how to accurately check for this.
    
44.                  * just assume it was a watchdog timer interrupt
    
45.                  * This matches the old behaviour.
    
46.                  */
    
47.                 rc = 1;
    
48.                 break;
    
49.         }
    
50.         return rc;
    
51. }
    

复制代码

6. APIC类型的watch_dog喂狗函数

1. int __kprobes lapic_wd_event(unsigned nmi_hz)
   
2. {
   
3.         struct nmi_watchdog_ctlblk *wd = &__get_cpu_var(nmi_watchdog_ctlblk);
   
4.         u64 ctr;
   
5. 
   
6.         rdmsrl(wd->perfctr_msr, ctr);
   
7.         if (ctr & wd_ops->checkbit) /* perfctr still running? */
   
8.                 return 0;
   
9. 
   
10.         wd_ops->rearm(wd, nmi_hz);
    
11.         return 1;
    
12. }
    
13. static struct wd_ops intel_arch_wd_ops __read_mostly = {
    
14.         .reserve        = single_msr_reserve,
    
15.         .unreserve        = single_msr_unreserve,
    
16.         .setup                = setup_intel_arch_watchdog,
    
17.         .rearm                = p6_rearm,
    
18.         .stop                = single_msr_stop_watchdog,
    
19.         .perfctr        = MSR_ARCH_PERFMON_PERFCTR1,
    
20.         .evntsel        = MSR_ARCH_PERFMON_EVENTSEL1,
    
21. };
    
22. static void __kprobes p6_rearm(struct nmi_watchdog_ctlblk *wd, unsigned nmi_hz)
    
23. {
    
24.         /*
    
25.          * P6 based Pentium M need to re-unmask
    
26.          * the apic vector but it doesn't hurt
    
27.          * other P6 variant.
    
28.          * ArchPerfom/Core Duo also needs this
    
29.          */
    
30.         apic_write(APIC_LVTPC, APIC_DM_NMI);
    
31. 
    
32.         /* P6/ARCH_PERFMON has 32 bit counter write */
    
33.         write_watchdog_counter32(wd->perfctr_msr, NULL, nmi_hz);
    
34. }
    

复制代码

kirapangzi

junnyg 发表于 2013-04-13 20:46
回复 1# nevastill
1. 在hung_task模块初始化时会启动一个内核线程khungtaskd执行watchdog函数2. 在线程k ...

ls讲的很好很详细，我有一些疑问，想进一步问一下：
1，ls的前5步，我试概括为内核线程软喂狗部分与do_nmi中对喂狗结果的检查；（因我的内核版本为3.6.11，很多函数已经变化，可能理解有误）
——能否请ls将第6步apic详细再讲一下？
2，ULK3中对nmi_watchdog的讲解我有两处想请教：
a，每个cpu上周期性的nmi中断，是固定会产生？还是与nmi_watchdog配置相关呢？若固定产生又与中断一章中对于nmi的描述相冲突：用于危机事件时才引起非屏蔽中断。
b，do_nmi中是对cpu的apic_timer_irqs字段进行检查用以判断cpu是否被锁死；我理解的话，也就是将在特定cpu时钟周期内此数值的是否增加，作为是否已喂狗的判断。这样，是否与ls所说的线程喂狗依据重合了呢？
3，另，查看内核文档，lockup_watchdog.txt中的描述，提到了“The soft and hard lockup detectors are built on top of the hrtimer and perf subsystems”，此处提到nmi狗是基于高精度和性能子系统的，不太明白。。

kirapangzi

nmi_watchdog与nmi中断的一些源码与文档分析总结，并请大牛点拨疑问
http://bbs.chinaunix.net/forum.p ... mp;fromuid=28788494

LZ可以看看答得对不对。

unbutun

软狗喂狗不仅限于上中断等情况，狗的作用是检查长时间没有调度，中断，软中断，关中断的进程上下文都可以喂狗，前提是你的关中断进程上下文是一个你预期的合理的关中断长时间占用cpu的动作，否则狗不喂就是问题



硬狗也是要喂的，他的作用是检查处理器是否在正常运行，否则狗叫重启