只做工作總結備忘之用。

正在燒鏡像，稍總結一下進來改bug遇到的問題。

一個項目裏要用到L3 switch的nat，vrrp功能，但實地測試中偶然出現write file掛死的情況，但不是必現。交付在即，於是加調試信息，反覆跑配置的腳本，定位bug。

一，期初懷疑是vtysh與vrrpd進程通信出現阻塞（現象即是系統掛死）。

(1)因爲在跑配置腳本時，出現了enable命令也掛死的情況，所以這麼懷疑；

(2)在vrrpd與vtysh命令傳輸的關鍵點加打印信息（注意vrrpd不要-d daemon化，用& 來後臺），跟蹤結果是vtysh 確實把‘enable’命令發了出去，只是vrrpd進程不接收。命令通信框架公用的，基本可以確定沒有問題，由此，把bug收斂到vrrpd進程的問題；

(3)在vtysh進程中ctrl+c信號處理中加進入Linux shell的代碼，當vrrpd導致系統掛死（現象是阻塞）時，可以進入shell來top，top發現，vrrpd進程cpu利用率很高，而且sys：92.0%，所以確定了是vrrpd進程使用了某個系統調用，而該系統調用接口阻塞，導致了vrrpd阻塞，進而導致了vrrpd進程不接收vtysh進程發多來的命令。

(4)接下來要確定哪個系統調用導致vrrpd阻塞，於是使用了strace來把vrrpd進程拉起來。

關於strace的用法，網上一大堆，鏈接：點擊打開鏈接，並附件一到文章尾部，以防原文刪除。

用的： strace -aef -p /usr/sbin/vrrpd -o /tmp/vrrpdstrace.log

當復現vrrpd進程阻塞時，查看vrrpdstrace.log文件，分析裏邊的各個系統調用，確定進程阻塞在了ioctl系統調用上，根據ioctl的參數，跟蹤到內核，最終定位到博通刪除mac表項的sdk接口。（該接口前後加打印）

鑑於繼續跟蹤太難，bug暫告一段落........

二、跟蹤博通sdk接口刪除mac表項

(1)過程是曲折和痛苦的，不知道的地方隨便加一個打印，然後就刷屏了，但已經明確了肯定是內核處理函數中有一個沒有釋放鎖而導致的阻塞，接下來就是跟進鎖的過程，由於該接口底層用的鎖（不清楚什麼鎖）也不像用戶態的信號量一樣有個semid的關鍵字，。但終於還是找到了一個區分mem的宏來作爲關鍵字，叫L2Xm，

刷屏總算少一點了。然後就查找內核中使用L2Xm的鎖，最後反覆跑腳本，確定了可能是_soc_l2x_thread線程中也使用了該鎖。

(2)最後，確定了是_soc_l2x_thread中 LOCK(L2Xm)與UNLOCK(L2Xm)之間的其他鎖的阻塞，進而導致了該鎖沒有

沒有執行不到；進而發現了沒有釋放鎖的地方，問題基本完結。

三、內核kmalloc的內存類型，可能導致內核panic。

(1)在內核接收報文bnet_rx_deferred中報文處理中申請了內存kmalloc，但類型是GFP_KERNEL,，巧合的是，正好該處理報文中出現了內存泄露，導致時間一長（或者故意打該報文），就會內存不足，一內存不足就會導致kmalloc出現申請不成功的現象，即不會立即申請的到內存，，內核會在其正在申請的時候把其切換出去，因爲GFP_kernel類型是可睡眠的，非原子的。所以，問題來了，把接收報文中斷處理的kmalloc切換了出去，而接收報文中斷處理是不能再切換回來的。即，中斷接收報文處理被內核認爲應該是原子的，當其中出現了不是原子的kmalloc（GFP_KERNEL，）時就會panic。

(2)由此，同時發現了內存泄露和GFP_KERNEL兩個問題。

(3)關於kmalloc的類型問題，網上也一大堆，鏈接：點擊打開鏈接，並附錄二在文章末尾。

完畢。

附件一：strace的用法。

strace命令詳解
strace 命令是一種強大的工具，它能夠顯示所有由用戶空間程序發出的系統調用。
　　strace 顯示這些調用的參數並返回符號形式的值。strace 從內核接收信息，而且不需要以任何特殊的方式來構建內核。
　　下面記錄幾個常用 option .
　　1 -f -F選項告訴strace同時跟蹤fork和vfork出來的進程
　　2 -o xxx.txt 輸出到某個文件。
　　3 -e execve 只記錄 execve 這類系統調用
　　---------------------------------------------------
　　進程無法啓動，軟件運行速度突然變慢，程序的"SegmentFault"等等都是讓每個Unix系統用戶頭痛的問題，
　　本文通過三個實際案例演示如何使用truss、strace和ltrace這三個常用的調試工具來快速診斷軟件的"疑難雜症"。
　　
　　
　　truss和strace用來跟蹤一個進程的系統調用或信號產生的情況，而 ltrace用來跟蹤進程調用庫函數的情況。truss是早期爲System V R4開發的調試程序，包括Aix、FreeBSD在內的大部分Unix系統都自帶了這個工具；
　　而strace最初是爲SunOS系統編寫的，ltrace最早出現在GNU/DebianLinux中。
　　這兩個工具現在也已被移植到了大部分Unix系統中，大多數Linux發行版都自帶了strace和ltrace，而FreeBSD也可通過Ports安裝它們。
　　
　　你不僅可以從命令行調試一個新開始的程序，也可以把truss、strace或ltrace綁定到一個已有的PID上來調試一個正在運行的程序。三個調試工具的基本使用方法大體相同，下面僅介紹三者共有，而且是最常用的三個命令行參數：
　　
　　-f ：除了跟蹤當前進程外，還跟蹤其子進程。
　　-o file ：將輸出信息寫到文件file中，而不是顯示到標準錯誤輸出（stderr）。
　　-p pid ：綁定到一個由pid對應的正在運行的進程。此參數常用來調試後臺進程。
　　
　　使用上述三個參數基本上就可以完成大多數調試任務了，下面舉幾個命令行例子：
　　truss -o ls.truss ls -al：跟蹤ls -al的運行，將輸出信息寫到文件/tmp/ls.truss中。
　　strace -f -o vim.strace vim：跟蹤vim及其子進程的運行，將輸出信息寫到文件vim.strace。
　　ltrace -p 234：跟蹤一個pid爲234的已經在運行的進程。
　　
　　三個調試工具的輸出結果格式也很相似，以strace爲例：
　　
　　brk(0) = 0x8062aa8
　　brk(0x8063000) = 0x8063000
　　mmap2(NULL, 4096, PROT_READ, MAP_PRIVATE, 3, 0x92f) = 0x40016000
　　
　　每一行都是一條系統調用，等號左邊是系統調用的函數名及其參數，右邊是該調用的返回值。 truss、strace和ltrace的工作原理大同小異，都是使用ptrace系統調用跟蹤調試運行中的進程，詳細原理不在本文討論範圍內，有興趣可以參考它們的源代碼。
　　舉兩個實例演示如何利用這三個調試工具診斷軟件的"疑難雜症"：
　　
　　案例一：運行clint出現Segment Fault錯誤
　　
　　操作系統：FreeBSD-5.2.1-release
　　clint是一個C++靜態源代碼分析工具，通過Ports安裝好之後，運行：
　　
　　# clint foo.cpp
　　Segmentation fault (core dumped)
　　在Unix系統中遇見"Segmentation Fault"就像在MS Windows中彈出"非法操作"對話框一樣令人討厭。OK，我們用truss給clint"把把脈"：
　　
　　# truss -f -o clint.truss clint
　　Segmentation fault (core dumped)
　　# tail clint.truss
　　 739: read(0x6,0x806f000,0x1000) = 4096 (0x1000)
　　 739: fstat(6,0xbfbfe4d0) = 0 (0x0)
　　 739: fcntl(0x6,0x3,0x0) = 4 (0x4)
　　 739: fcntl(0x6,0x4,0x0) = 0 (0x0)
　　 739: close(6) = 0 (0x0)
　　 739: stat("/root/.clint/plugins",0xbfbfe680) ERR#2 'No such file or directory'
　　SIGNAL 11
　　SIGNAL 11
　　Process stopped because of: 16
　　process exit, rval = 139
　　我們用truss跟蹤clint的系統調用執行情況，並把結果輸出到文件clint.truss，然後用tail查看最後幾行。
　　注意看clint執行的最後一條系統調用（倒數第五行）：stat("/root/.clint/plugins",0xbfbfe680) ERR#2 'No such file or directory'，問題就出在這裏：clint找不到目錄"/root/.clint/plugins"，從而引發了段錯誤。怎樣解決？很簡單： mkdir -p /root/.clint/plugins，不過這次運行clint還是會"Segmentation Fault"9。繼續用truss跟蹤，發現clint還需要這個目錄"/root/.clint/plugins/python"，建好這個目錄後 clint終於能夠正常運行了。
　　
　　案例二：vim啓動速度明顯變慢
　　
　　操作系統：FreeBSD-5.2.1-release
　　vim版本爲6.2.154，從命令行運行vim後，要等待近半分鐘才能進入編輯界面，而且沒有任何錯誤輸出。仔細檢查了.vimrc和所有的vim腳本都沒有錯誤配置，在網上也找不到類似問題的解決辦法，難不成要hacking source code？沒有必要，用truss就能找到問題所在：
　　
　　# truss -f -D -o vim.truss vim
　　
　　這裏-D參數的作用是：在每行輸出前加上相對時間戳，即每執行一條系統調用所耗費的時間。我們只要關注哪些系統調用耗費的時間比較長就可以了，用less仔細查看輸出文件vim.truss，很快就找到了疑點：
　　
　　735: 0.000021511 socket(0x2,0x1,0x0) = 4 (0x4)
　　735: 0.000014248 setsockopt(0x4,0x6,0x1,0xbfbfe3c8,0x4) = 0 (0x0)
　　735: 0.000013688 setsockopt(0x4,0xffff,0x8,0xbfbfe2ec,0x4) = 0 (0x0)
　　735: 0.000203657 connect(0x4,{ AF_INET 10.57.18.27:6000 },16) ERR#61 'Connection refused'
　　735: 0.000017042 close(4) = 0 (0x0)
　　735: 1.009366553 nanosleep(0xbfbfe468,0xbfbfe460) = 0 (0x0)
　　735: 0.000019556 socket(0x2,0x1,0x0) = 4 (0x4)
　　735: 0.000013409 setsockopt(0x4,0x6,0x1,0xbfbfe3c8,0x4) = 0 (0x0)
　　735: 0.000013130 setsockopt(0x4,0xffff,0x8,0xbfbfe2ec,0x4) = 0 (0x0)
　　735: 0.000272102 connect(0x4,{ AF_INET 10.57.18.27:6000 },16) ERR#61 'Connection refused'
　　735: 0.000015924 close(4) = 0 (0x0)
　　735: 1.009338338 nanosleep(0xbfbfe468,0xbfbfe460) = 0 (0x0)
　　
　　vim試圖連接10.57.18.27這臺主機的6000端口（第四行的connect（）），連接失敗後，睡眠一秒鐘繼續重試（第6行的 nanosleep（））。以上片斷循環出現了十幾次，每次都要耗費一秒多鐘的時間，這就是vim明顯變慢的原因。可是，你肯定會納悶："vim怎麼會無緣無故連接其它計算機的6000端口呢？"。問得好，那麼請你回想一下6000是什麼服務的端口？沒錯，就是X Server。看來vim是要把輸出定向到一個遠程X Server，那麼Shell中肯定定義了DISPLAY變量，查看.cshrc，果然有這麼一行：setenv DISPLAY ${REMOTEHOST}:0，把它註釋掉，再重新登錄，問題就解決了。
　　
　　
　　案例三：用調試工具掌握軟件的工作原理
　　
　　操作系統：Red Hat Linux 9.0
　　用調試工具實時跟蹤軟件的運行情況不僅是診斷軟件"疑難雜症"的有效的手段，也可幫助我們理清軟件的"脈絡"，即快速掌握軟件的運行流程和工作原理，不失爲一種學習源代碼的輔助方法。下面這個案例展現瞭如何使用strace通過跟蹤別的軟件來"觸發靈感"，從而解決軟件開發中的難題的。
　　大家都知道，在進程內打開一個文件，都有唯一一個文件描述符（fd：file descriptor）與這個文件對應。而本人在開發一個軟件過程中遇到這樣一個問題：
　　已知一個fd，如何獲取這個fd所對應文件的完整路徑？不管是Linux、FreeBSD或是其它Unix系統都沒有提供這樣的API，怎麼辦呢？我們換個角度思考：Unix下有沒有什麼軟件可以獲取進程打開了哪些文件？如果你經驗足夠豐富，很容易想到lsof，使用它既可以知道進程打開了哪些文件，也可以瞭解一個文件被哪個進程打開。好，我們用一個小程序來試驗一下lsof，看它是如何獲取進程打開了哪些文件。lsof：顯示進程打開的文件。
　　
　　/* testlsof.c */
　　#include #include #include #include #include
　　int main(void)
　　{
　　 open("/tmp/foo", O_CREAT|O_RDONLY); /* 打開文件/tmp/foo */
　　 sleep(1200); /* 睡眠1200秒，以便進行後續操作 */
　　 return 0;
　　}
　　
　　將testlsof放入後臺運行，其pid爲3125。命令lsof -p 3125查看進程3125打開了哪些文件，我們用strace跟蹤lsof的運行，輸出結果保存在lsof.strace中：
　　
　　# gcc testlsof.c -o testlsof
　　# ./testlsof &
　　[1] 3125
　　# strace -o lsof.strace lsof -p 3125
　　
　　我們以"/tmp/foo"爲關鍵字搜索輸出文件lsof.strace，結果只有一條：
　　
　　
　　# grep '/tmp/foo' lsof.strace
　　readlink("/proc/3125/fd/3", "/tmp/foo", 4096) = 8
　　
　　原來lsof巧妙的利用了/proc/nnnn/fd/目錄（nnnn爲pid）：Linux內核會爲每一個進程在/proc/建立一個以其pid爲名的目錄用來保存進程的相關信息，而其子目錄fd保存的是該進程打開的所有文件的fd。目標離我們很近了。好，我們到/proc/3125/fd/看個究竟：
　　
　　# cd /proc/3125/fd/
　　# ls -l
　　total 0
　　lrwx------ 1 root root 64 Nov 5 09:50 0 -> /dev/pts/0
　　lrwx------ 1 root root 64 Nov 5 09:50 1 -> /dev/pts/0
　　lrwx------ 1 root root 64 Nov 5 09:50 2 -> /dev/pts/0
　　lr-x------ 1 root root 64 Nov 5 09:50 3 -> /tmp/foo
　　# readlink /proc/3125/fd/3
　　/tmp/foo
　　
　　答案已經很明顯了：/proc/nnnn/fd/目錄下的每一個fd文件都是符號鏈接，而此鏈接就指向被該進程打開的一個文件。我們只要用readlink()系統調用就可以獲取某個fd對應的文件了，代碼如下：
　　
　　
　　#include #include #include #include #include #include
　　int get_pathname_from_fd(int fd, char pathname[], int n)
　　{
　　 char buf[1024];
　　 pid_t pid;
　　 bzero(buf, 1024);
　　 pid = getpid();
　　 snprintf(buf, 1024, "/proc/%i/fd/%i", pid, fd);
　　 return readlink(buf, pathname, n);
　　}
　　int main(void)
　　{
　　 int fd;
　　 char pathname[4096];
　　 bzero(pathname, 4096);
　　 fd = open("/tmp/foo", O_CREAT|O_RDONLY);
　　 get_pathname_from_fd(fd, pathname, 4096);
　　 printf("fd=%d; pathname=%sn", fd, pathname);
　　 return 0;
　　}
　　
　　出於安全方面的考慮，在FreeBSD 5 之後系統默認已經不再自動裝載proc文件系統，因此，要想使用truss或strace跟蹤程序，你必須手工裝載proc文件系統：mount -t procfs proc /proc；或者在/etc/fstab中加上一行：
　　
　　proc /proc procfs rw 0 0

附錄二：kmalloc的類型用法

malloc內存分配和malloc相似，除非被阻塞否則他執行的速度非常快，而且不對獲得空間清零。

Flags參數

#include<linux/slab.h>

Void *kmalloc(size_t size, int flags);

第一個參數是要分配的塊的大小，第二個參數是分配標誌（flags），他提供了多種kmalloc的行爲。

最常用的GFP_KERNEL,他表示內存分配（最終總是調用get_free_pages來實現實際的分配，這就是，這就是GFP前綴的由來）是代表運行在內核空間的進程執行的。使用GFP_KERNEL容許kmalloc在分配空閒內存時候如果內存不足容許把當前進程睡眠以等待。因此這時分配函數必須是可重入的。如果在進程上下文之外如：中斷處理程序、tasklet以及內核定時器中這種情況下current進程不該睡眠，驅動程序該使用GFP_ATOMIC.

GFP_ATOMIC

用來從中斷處理和進程上下文之外的其他代碼中分配內存. 從不睡眠.

GFP_KERNEL

內核內存的正常分配. 可能睡眠.

GFP_USER

用來爲用戶空間頁來分配內存; 它可能睡眠.

GFP_HIGHUSER

如同 GFP_USER, 但是從高端內存分配, 如果有. 高端內存在下一個子節描述.

GFP_NOIO

GFP_NOFS

這個標誌功能如同 GFP_KERNEL, 但是它們增加限制到內核能做的來滿足請求. 一個 GFP_NOFS 分配不允許進行任何文件系統調用, 而 GFP_NOIO 根本不允許任何 I/O 初始化. 它們主要地用在文件系統和虛擬內存代碼, 那裏允許一個分配睡眠, 但是遞歸的文件系統調用會是一個壞注意.

上面列出的這些分配標誌可以是下列標誌的相或來作爲參數, 這些標誌改變這些分配如何進行:

__GFP_DMA

這個標誌要求分配在能夠 DMA 的內存區. 確切的含義是平臺依賴的並且在下面章節來解釋.

__GFP_HIGHMEM

這個標誌指示分配的內存可以位於高端內存.

__GFP_COLD

正常地, 內存分配器盡力返回"緩衝熱"的頁 -- 可能在處理器緩衝中找到的頁. 相反, 這個標誌請求一個"冷"頁, 它在一段時間沒被使用. 它對分配頁作 DMA 讀是有用的, 此時在處理器緩衝中出現是無用的. 一個完整的對如何分配 DMA 緩存的討論看"直接內存存取"一節在第 1 章.

__GFP_NOWARN

這個很少用到的標誌阻止內核來發出警告(使用 printk ), 當一個分配無法滿足.

__GFP_HIGH

這個標誌標識了一個高優先級請求, 它被允許來消耗甚至被內核保留給緊急狀況的最後的內存頁.

__GFP_REPEAT

__GFP_NOFAIL

__GFP_NORETRY

這些標誌修改分配器如何動作, 當它有困難滿足一個分配. __GFP_REPEAT 意思是" 更盡力些嘗試" 通過重複嘗試 -- 但是分配可能仍然失敗. __GFP_NOFAIL 標誌告訴分配器不要失敗; 它盡最大努力來滿足要求. 使用 __GFP_NOFAIL 是強烈不推薦的; 可能從不會有有效的理由在一個設備驅動中使用它. 最後, __GFP_NORETRY 告知分配器立即放棄如果得不到請求的內存.

2.內存區段

__GFP_DMA和__GFP_HIGHMEM的使用與平臺相關，Linux把內存分成3個區段：可用於DMA的內存、常規內存、以及高端內存。X86平臺上ISA設備DMA區段是內存的前16MB，而PCI設備無此限制。

內存區後面的機制在 mm/page_alloc.c 中實現, 而內存區的初始化在平臺特定的文件中, 常常在 arch 目錄樹的 mm/init.c。

Linux 處理內存分配通過創建一套固定大小的內存對象池. 分配請求被這樣來處理, 進入一個持有足夠大的對象的池子並且將整個內存塊遞交給請求者. 驅動開發者應當記住的一件事情是, 內核只能分配某些預定義的, 固定大小的字節數組.

如果你請求一個任意數量內存, 你可能得到稍微多於你請求的, 至多是 2 倍數量. 同樣, 程序員應當記住 kmalloc 能夠處理的最小分配是 32 或者 64 字節, 依賴系統的體系所使用的頁大小. kmalloc 能夠分配的內存塊的大小有一個上限. 這個限制隨着體系和內核配置選項而變化. 如果你的代碼是要完全可移植, 它不能指望可以分配任何大於 128 KB. 如果你需要多於幾個 KB, 但是, 有個比 kmalloc 更好的方法來獲得內存

在設備驅動程序或者內核模塊中動態開闢內存，不是用malloc，而是kmalloc ,vmalloc，或者用get_free_pages直接申請頁。釋放內存用的是kfree,vfree，或free_pages. kmalloc函數返回的是虛擬地址(線性地址). kmalloc特殊之處在於它分配的內存是物理上連續的,這對於要進行DMA的設備十分重要. 而用vmalloc分配的內存只是線性地址連續,物理地址不一定連續,不能直接用於DMA.

　　注意kmalloc最大隻能開闢128k-16，16個字節是被頁描述符結構佔用了。kmalloc用法參見khg.

　　內存映射的I/O口，寄存器或者是硬件設備的RAM(如顯存)一般佔用F0000000以上的地址空間。在驅動程序中不能直接訪問，要通過kernel函數vremap獲得重新映射以後的地址。

　　另外，很多硬件需要一塊比較大的連續內存用作DMA傳送。這塊內存需要一直駐留在內存，不能被交換到文件中去。但是kmalloc最多隻能開闢大小爲32XPAGE_SIZE的內存,一般的PAGE_SIZE=4kB,也就是128kB的大小的內存。