MongoDB最大連接數(centos7應用程序最大打開文件數)設置失效的異常分析過程與解決方法

mongodb最大連接數是20000。所以業界流傳一段話,千萬級以下的用mysql、千萬級以上的用mongodb,億級以上的用hadoop。下面這篇文章主要給大家介紹了關於MongoDB最大連接數設置失效的異常分析過程,需要的朋友可以參考下

背景介紹:

查詢MongoDB配置參數,可以知道關於最大連接數的參數是maxConns。但是連接實例後,查看支持的最大連接數,還是默認的819。

說明:最大連接數是由maxConn (maxIncomingConnections)和操作系統單個進程能打開的最大文件描述符數總量的80%決定的,取兩個之間的最小值。默認單個進程能打開的最大文件描述符數爲1024,1024*80% = 819.2 取整數819。所以最大可以支持的併發連接數爲819。

案例重現

以下爲本次測試MongoDB案例配置的參數。

啓動後查看最大連接數。

運行命令:db.serverStatus().connections

Current表示當前到實例上正在運行的連接數。

Available表示當前實例還可以支持的併發連接數。

也就是說此實例最大能支持的併發連接數爲:Current+available=3+816=819.

所以設置的maxConns參數無效。所以設置的maxConns參數無效!所以設置的maxConns參數無效!所以設置的maxConns參數無效!

答案求索

此時查看查看網上相關資料,大部分集中在 Linux系統最大文件描述符數。查看我們系統配置,此時已經是65535了。不是系統最大文件描述符數限制的了。

轉個彎,因爲我們是爲操作系統是 centos 7 ,所以我們的mongodb服務是透過systemctl來管理的。那如果是通過service 命令來管理此服務呢?

測試1 測試用service來管理mongodb 服務 對最大連接數的影響

(1) 在/etc/init.d目錄下創建名爲mongodbtest0903的服務;

(2) 服務的配置如下:

(3) 賦予執行權限,然後開啓服務

(4) 此時查看連接數爲2500(爲maxConns參數值)

(5) 關閉 mongodb 服務


以上說明用service 來管理服務,最大連接數參數起作用了。

測試2 如果直接用Mongodb command打開呢?

(1) 直接開啓

(2)此時查看連接數爲2500(爲maxConns參數值)

(3)關閉此服務

以上說明直接開啓Mongodb服務,最大連接數參數起作用了。

通過service和 mongodb命令啓動服務,最大連接數都是設置的參數,而通過systemctl來開啓此服務就變成了默認的819.

探究


我們來具體分析下systemctl 開啓的 mongodb 服務(此服務定義爲mongodbtest0903)。

(1)查看此服務的所有配置細節的命令

1
systemctl show mongodbtest0903.service

部分細節如下

此時 LimitNOFILE=4096

(2) 查看此服務的進程,以及此進程下的資源限制

進程的資源限制

終於看到了 資源限制是1024。

問題1:爲什麼經過systemctl 啓動的mongodb服務變成了默認的819.

回答:因爲systemctl 啓動的服務進程其最大文件描述符數變成了1024. 1024*80% = 819.2 取整數819.

問題2:爲什麼系統設置的最大是65525 而 systemctl 變成了1024.

在Centos7系統中,使用Systemd替代了之前的SysV。/etc/security/limits.conf文件的配置作用域縮小了。/etc/security/limits.conf的配置,只適用於通過PAM認證登錄用戶的資源限制,它對systemd的service的資源限制不生效。

其實仔細查看/etc/security/limits.conf文件的註釋,說明了對系統服務不生效。

解決方案

解決方案,知道了問題所在,針對此問題尋找解決方案相對容易了。

解決方案1:針對單個 systemctl 管理的服務。

在/lib/systemd/system中找到具體的服務,增加

1
2
# (open files)
LimitNOFILE=64000

命令。 修改後爲:

重啓服務,此時連接查看最大連接數爲2500,到達設置的參數。

解決方案2 網上有種方案是對systemd全局修改此方案本作者沒有驗證,轉述如下,意思是修改/etc/systemd/system.conf 即可:

全局的配置,放在文件/etc/systemd/system.conf和/etc/systemd/user.conf。 同時,也會加載兩個對應的目錄中的所有.conf文件/etc/systemd/system.conf.d/*.conf和/etc/systemd/user.conf.d/*.conf
其中,system.conf是系統實例使用的,user.conf用戶實例使用的。一般的sevice,使用system.conf中的配置即可。systemd.conf.d/*.conf中配置會覆蓋system.conf。

DefaultLimitCORE=infinity

DefaultLimitNOFILE=100000

DefaultLimitNPROC=100000

注意:修改了system.conf後,需要重啓系統纔會生效。

因爲服務器上systemctl會管理多種服務,爲減少對其它服務的影響,建議在單個服務上修改,集採用第一種方案。

其他相關知識

(1)mysql 服務也會遇到類似問題;

(2)* nofiles - soft limit on the number of file descriptors a process may have;

(3)*soft limit與hard limit的不同:soft limit是真正生效的限制值,而hard limit僅僅是soft limit調整範圍的一個上限。

連接數優化:

通過serverStatus查詢連接數:

1
mongo> db.serverStatus().connections

每個連接都是一個線程,需要一個Stack,Linux下缺省的Stack設置一般比較大:

1
shell> ulimit -a | grep stack stack size (kbytes, -s) 10240

至於MongoDB實際使用的Stack大小,可以用如下命令確認(單位:K):

1
shell> cat /proc/$(pidof mongod)/limits | grep stack | awk -F 'size' '{print int($NF)/1024}'

如果Stack過大(比如:10240K)的話沒有意義,簡單對照命令結果中的Size和Rss:

1
shell> cat /proc/$(pidof mongod)/smaps | grep 10240 -A 10

所有連接消耗的內存加起來會相當驚人,推薦把Stack設置小一點,比如說1024:

1
shell> ulimit -s 1024

注:從MongoDB1.8.3開始,MongoDB會在啓動時自動設置Stack。

本文出自https://www.jb51.net/article/146857.htm


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章