H3C 交換網絡設備一次trouble shuting經歷

 好吧,我承認,原先我是不相信命運這一說的。直到遇到了今天這檔子事。

背景:

公司機房空調外機搬遷項目正在進行,剛剛完成備用機房的空調外機搬遷。正好有個特別重要的聚會在今晚,看着天下着淅淅瀝瀝的雨,心中竊喜。週五晚上不用加班了。可以順利參加這個聚會了。又能認識不少名流。結果。在下班前5分鐘的時候,人品爆發了,整個公司網絡癱了。leader今天外出辦事,車被掛花了。估計正在處理。一天沒來。我想下班這種狀態下,我是脫不了身了……

=========================================================================

起因:

早上開始,公司使用的深信服上網行爲管理系統就出現登陸困難。接到部門管理同事的回報以後,對系統進行了簡單的診斷:

ping 通暢

telnet 端口 正常。

頁面訪問,延遲非常大。大概每個頁面之間切換也要等2~3分鐘左右。

據此,懷疑是個別特權人士,上班無聊佔用網絡資源謀私造成深信服過載。

可一看系統CPU佔用率,也就56%。完全不是想象中的那麼蛋疼。應該可以頂住得說。

當時,網絡還是通暢的,在萬般無奈之下,只得中途斷電重啓了一下深信服設備。

結果,狀態依舊堅挺。還是無法配置上網行爲管理。

下午17:25分左右。在我收拾好東西準備赴約的那一刻,我知道,網絡故障的人品爆發了。我的人品暴走了。全公司斷網了。

實測到深信服設備根本就ping不通了。這就說明,真的出事了。

猜想網絡裏面有異物在***我們的網絡出口。

==========================================================================

解決步驟:

第一步,給重要的聚會組織者打電話,說明情況,看樣子自己今天是被綁定了。這背運啊,背運

第二步,打開進入IMC。試圖找到端口一場發包信息日誌。

失敗了,IMC也進不去了。當時沒有細想,早知道結果,這裏應該留個心眼纔對。

第三步,可以說。我採用了最土的辦法。

在覈心上停用了所有的業務光口。

通過此操作,各個樓層的業務全部切換到主交換機上來了。

通過在備用上dis vrrp 查看狀態,確定都處於找不着北狀態。

而在主核心上都屬於master狀態。

好了,可以徹底開刀了。

第四步,在主核心上,對整個樓層各個樓層的業務口shutdown。

一遍結束,發現深信服終端還是堅挺於ping不通狀態。

看來,我錯怪了我們公司可愛的同事們了。不是他們***的,也不是他們帶來的病毒。

第五步,在主核心上一次往下,找到在關閉公司內部服務業務光口後。深信服起死回生了。也找到這個業務口對應的匯聚層交換機。

讓我震驚了。居然是公司核心的服務網段。介將搞來?

馬上回想最近剛剛登記上線的服務器。作爲重點懷疑對象。

同時,恢復了樓層的業務口。讓公司網絡恢復了。

第六步,找到的匯聚層交換機上,所有端口,除trunk全部shutdown。

然後依次觀察性的開啓。

找到元兇。居然,居然,居然是dawn的 IMC端。

已經遲到了。無力去排查H3C 的神器IMC爲什麼跟深信服的網管搞起來了。斷開IMC端口後,恢復了公司內部業務承載的所有服務器。

走之前檢查了所有內部信息化服務系統。

讓後去樓上實地加班的辦公室詢問了一遍。一切ok。

下週一在考慮怎麼來伺候那臺牛X的IMC了

==========================================================================

後記

此次操作還是有點靦腆,不夠心狠手辣。事後想想。如果vlan個數比interface個數少。乾脆下次直接斷vlan好了。

貌似也不好,這樣找端口會比較困難。每個樓層貌似有多個vlan。誰知道呢。

但值得細心注意的,就是IMC和深信服都不能通。當時真的應該懷疑起IMC纔對。

唉,還是太相信高科技了。咱山寨IT民工,不敢動人家神器IMC啊。

=========================================================================

花絮:

兩個花絮:

1、十幾樓一個美眉着急要死,說晚上要加班遠程部署。來了一遍電話問,網絡啥事後好啊。我回答,正在搞。第二遍,還是客客氣氣的來電話問,網絡啥時候好,能不能給個準確時間。機房就我一個人,真沒心思分神,直接答覆,不能給時間啥時候修復。你這樣着急沒什麼意義,還會讓我不能集中精力。無奈,把電話掛了。

爲了在最短時間解決問題。找過大體的利益,只能得罪她了。希望她會懂,主要是別投訴我。

2、一個哥們上車了,突然測公司業務段斷了,嚇得直接從班車上跑下來。一直陪我倒網絡恢復。挺感動得。我不是一個人在戰鬥。晚上回去的時候,還沾了他的光,蹭了公司老總的路虎。終於帶到一個有人煙的地方,打車奔赴聚會了。晚上20點到達,還算趕上了。不說別的了。就是一個,喝!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章