057. Out of Socket memory 內存溢出解釋

20120830發現日本服務器 27和28 有報錯日誌。詳細如下:

Aug 31 18:25:36 collect-28 kernel: printk: 58 messages suppressed.
Aug 31 18:25:36 collect-28 kernel: Out of socket memory

故障排查分析:

第一條日誌分析:

查找信息,Aug 31 18:25:36 collect-28 kernel: printk: 58 messages suppressed. 此報錯需要修改內核信息如下;
(1) 加大 ip_conntrack_max 值:

  查出原本的 ip_conntrack_max 值,指令: cat /proc/sys/net/ipv4/ip_conntrack_max
  寫入理想的數值 (每一個 ip_conntrack buffer 會佔用 292 Bytes)
  指令: echo "數值" > /proc/sys/net/ipv4/ip_conntrack_max
  例如: echo "163840" >/proc/sys/net/ipv4/ip_conntrack_max

  這個效果是暫時的, 如果要每次開機都使用新的數值, 需將上述指令寫入 /etc/rc.d/rc.local
  或是在 /etc/sysctl.conf 加入: net.ipv4.ip_conntrack_max = 數值
  或使用指令: sysctl -w net.ipv4.ip_conntrack_max=數值

(2): 降低 ip_conntrack timeout 時間

  重設:ip_conntrack_tcp_timeout_established (原值: 432000, 單位: 秒)
  指令:echo "數值" > /proc/sys/net/ipv4/netfilter/ip_conntrack_tcp_timeout_established
  例如:echo "180" > /proc/sys/net/ipv4/netfilter/ip_conntrack_tcp_timeout_established

  開機自動設置的作法同方法(1).  

(3):開啓 tcp_syncookies

  重設:tcp_syncookies (默認值 0)
  例如:echo '1'> /proc/sys/net/ipv4/tcp_syncookies


修改內核配置文件,報錯日誌無效,


第二條報錯日誌分析:

查找信息,Aug 31 18:25:36 collect-28 kernel: Out of socket memory,此報錯需要修改內核信息如下;

兩種情況會出發 "Out of socket memory" 的信息:
1.有很多的孤兒套接字(orphan sockets)
2.tcp socket 用盡了給他分配的內存

首先看看情況 2。對於 TCP socket 來說,使用 pages 來計數的,而非 bytes,一般情況下 1 page = 4096 bytes。page 大小可以通過下面命令獲得:
$ getconf PAGESIZE
4096

查看內核分配了多少的內存給 TCP:
$ cat /proc/sys/net/ipv4/tcp_mem
69618 92825 139236
第一個數字表示,當 tcp 使用的 page 少於 69618 時,kernel 不對其進行任何的干預
第二個數字表示,當 tcp 使用了超過 92825 的 pages 時,kernel 會進入 “memory pressure”
第三個數字表示,當 tcp 使用的 pages 超過 139236 時,我們就會看到題目中顯示的信息

查看 tcp 實際用的內存:
$ cat /proc/net/sockstat
sockets: used 116
TCP: inuse 3 orphan 0 tw 4 alloc 4 mem 110
UDP: inuse 1 mem 1
UDPLITE: inuse 0
RAW: inuse 0
FRAG: inuse 0 memory 0
可以看到,實際使用的 mem(110) 遠遠小於 69618,所以,“Out of socket memory”的錯誤是由於第一種情況引起的。

關於 orphan socket 的解釋,請看這裏。orphan socket 對於應用程序來說,意義不大,這也是內核要限制被 orphan socket 消耗內存的原因。而對於 web server 來說,有大量的 orphan socket 也屬正常,那麼多的連接放在那兒了。
查看 orphan socket 限制:
$ cat /proc/sys/net/ipv4/tcp_max_orphans

對比當前系統中的:
$ cat /proc/net/sockstat
sockets: used 14565
TCP: inuse 35938 orphan 21564 tw 70529 alloc 35942 mem 1894

由於內核代碼中有個位運算,所以實際的跟最大的是 2x 或者是 4x 的關係。現在根據實際情況,將 tcp_max_orphans 調到一個合理的值就可以了。原則上該值建議只增大,另外,每個 orphan 會消耗大概 64KB 的內存。

還有個叫 tcp_orphan_retries 參數,對於 web server,可以減小。

修改了上面的一些配置參數,報錯日誌還是在一直往外報。

####################################################################################################
net.ipv4.tcp_max_orphans = 18000

最後修改值到18000,Out of socket memory報錯解決。

net.ipv4.tcp_max_tw_buckets = 10000

最後修改值到net.ipv4.tcp_max_tw_buckets = 10000,kernel: printk: xxx messages suppressed.報錯解決。


記得參數修改完成執行 sysctl -p

#######################################################################################################

本文出自 “康建華” 博客,請務必保留此出處http://michaelkang.blog.51cto.com/1553154/978828


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章