在服務器上排除問題的頭五分鐘（干貨）
責編：admin ｜2014-08-14 14:13:13我們團隊為上一家公司承擔運維、優化和擴展工作的時候，我們碰到了各種不同規模的性能很差的系統和基礎設備（大型系統居多，比如 CNN 或者世界銀行的系統）。要是再趕上修復時間緊、奇葩的技術平臺、缺少信息和文檔，基本上這過程都會慘痛到讓我們留下深刻的記憶。
W020130522501307410197
遇到服務器故障，問題出現的原因很少可以一下就想到。我們基本上都會從以下步驟入手：
一、盡可能搞清楚問題的前因后果
不要一下子就扎到服務器前面，你需要先搞明白對這臺服務器有多少已知的情況，還有故障的具體情況。不然你很可能就是在無的放矢。
必須搞清楚的問題有：
故障的表現是什么？無響應？報錯？
故障是什么時候發現的？
故障是否可重現？
有沒有出現的規律（比如每小時出現一次）
最后一次對整個平臺進行更新的內容是什么（代碼、服務器等）？
故障影響的特定用戶群是什么樣的(已登錄的， 退出的， 某個地域的…)？
基礎架構（物理的、邏輯的）的文檔是否能找到？
是否有監控平臺可用？ （比如 Munin、Zabbix、 Nagios、 New Relic… 什么都可以）
是否有日志可以查看？. （比如 Loggly、Airbrake、 Graylog…）
最后兩個是最方便的信息來源，不過別抱太大希望，基本上它們都不會有。只能再繼續摸索了。
二、有誰在？
1 $w$last
用這兩個命令看看都有誰在線，有哪些用戶訪問過。這不是什么關鍵步驟，不過最好別在其他用戶正干活的時候來調試系統。有道是一山不容二虎嘛。（ne cook in the kitchen is enough.）
三、之前發生了什么？
1 $history
查看一下之前服務器上執行過的命令?？匆幌驴偸菦]錯的，加上前面看的誰登錄過的信息，應該有點用。另外作為 admin 要注意，不要利用自己的權限去侵犯別人的隱私哦。
到這里先提醒一下，等會你可能會需要更新 HISTTIMEFORMAT 環境變量來顯示這些命令被執行的時間。對要不然光看到一堆不知道啥時候執行的命令，同樣會令人抓狂的。
四、現在在運行的進程是啥？
1
2 $pstree-a
$ps aux
這都是查看現有進程的。 ps aux 的結果比較雜亂， pstree -a 的結果比較簡單明了，可以看到正在運行的進程及相關用戶。
五、監聽的網絡服務
1
2
3 $netstat-ntlp
$netstat-nulp
$netstat-nxlp
我一般都分開運行這三個命令，不想一下子看到列出一大堆所有的服務。netstat -nalp 倒也可以。不過我絕不會用 numeric 選項 （鄙人一點淺薄的看法：IP 地址看起來更方便）。
找到所有正在運行的服務，檢查它們是否應該運行。查看各個監聽端口。在 netstat 顯示的服務列表中的 PID 和 ps aux 進程列表中的是一樣的。
如果服務器上有好幾個 JAVA 或者 Erlang 什么的進程在同時運行，能夠按 PID 分別找到每個進程就很重要了。
通常我們建議每臺服務器上運行的服務少一點，必要時可以增加服務器。如果你看到一臺服務器上有三四十個監聽端口開著，那還是做個記錄，回頭有空的時候清理一下，重新組織一下服務器。
六、CPU 和內存
1
2
3
4 $free-m
$uptime
$top
$htop
注意以下問題：
還有空余的內存嗎？ 服務器是否正在內存和硬盤之間進行 swap？
還有剩余的 CPU 嗎？ 服務器是幾核的？ 是否有某些 CPU 核負載過多了？
服務器最大的負載來自什么地方？ 平均負載是多少？
七、硬件
1
2 $lspci$dmidecode
$ethtool
有很多服務器還是裸機狀態，可以看一下：
找到 RAID 卡 (是否帶 BBU 備用電池？)、 CPU、空余的內存插槽。根據這些情況可以大致了解硬件問題的來源和性能改進的辦法。
網卡是否設置好？ 是否正運行在半雙工狀態？ 速度是 10MBps？ 有沒有 TX/RX 報錯？
八、IO 性能
1
2
3
4 $iostat-kx2
$vmstat210
$mpstat210
$dstat–top-io–top-bio
這些命令對于調試后端性能非常有用。
檢查磁盤使用量：服務器硬盤是否已滿？
是否開啟了 swap 交換模式 (si/so)？
CPU 被誰占用：系統進程？ 用戶進程？ 虛擬機？
dstat 是我的最愛。用它可以看到誰在進行 IO： 是不是 MySQL 吃掉了所有的系統資源？ 還是你的 PHP 進程？
九、掛載點和文件系統
1
2
3
4
5
6
7
8
9
10
11
12
13 $mount
$cat/etc/fstab
$vgs
$pvs
$lvs
$df-h
$lsof+D//* beware not to kill your box */
一共掛載了多少文件系統？
有沒有某個服務專用的文件系統？ (比如 MySQL？)
文件系統的掛載選項是什么： noatime？ default？ 有沒有文件系統被重新掛載為只讀模式了？
磁盤空間是否還有剩余？
是否有大文件被刪除但沒有清空？
如果磁盤空間有問題，你是否還有空間來擴展一個分區？
十、內核、中斷和網絡
1
2
3
4 $sysctl-a|grep…
$cat/proc/interrupts
$cat/proc/net/ip_conntrack/* may take some time on busy servers */
$netstat$ss-s
你的中斷請求是否是均衡地分配給 CPU 處理，還是會有某個 CPU 的核因為大量的網絡中斷請求或者 RAID 請求而過載了？
SWAP 交換的設置是什么？對于工作站來說 swappinness 設為 60 就很好， 不過對于服務器就太糟了：你最好永遠不要讓服務器做 SWAP 交換，不然對磁盤的讀寫會鎖死 SWAP 進程。
conntrack_max 是否設的足夠大，能應付你服務器的流量？
在不同狀態下(TIME_WAIT， …) TCP 連接時間的設置是怎樣的？
如果要顯示所有存在的連接，netstat 會比較慢， 你可以先用 ss 看一下總體情況。
你還可以看一下 Linux TCP tuning 了解網絡性能調優的一些要點。
十一、系統日志和內核消息
1
2
3
4 $dmesg
$less/var/log/messages
$less/var/log/secure
$less/var/log/auth
查看錯誤和警告消息，比如看看是不是很多關于連接數過多導致？
看看是否有硬件錯誤或文件系統錯誤？
分析是否能將這些錯誤事件和前面發現的疑點進行時間上的比對。
十二、定時任務
1
2
3
4 $ls/etc/cron*+cat
$foruser in
$(cat/etc/passwd|cut-f1-d：)；docrontab-l-u
$user；done
是否有某個定時任務運行過于頻繁？
是否有些用戶提交了隱藏的定時任務？
在出現故障的時候，是否正好有某個備份任務在執行？
十三、應用系統日志
這里邊可分析的東西就多了， 不過恐怕你作為運維人員是沒功夫去仔細研究它的。關注那些明顯的問題，比如在一個典型的 LAMP（Linux+Apache+Mysql+Perl）應用環境里：
Apache & Nginx； 查找訪問和錯誤日志， 直接找 5xx 錯誤， 再看看是否有 limit_zone 錯誤。
MySQL； 在mysql.log 找錯誤消息，看看有沒有結構損壞的表， 是否有 innodb 修復進程在運行，是否有 disk/index/query 問題.
PHP-FPM； 如果設定了 php-slow 日志， 直接找錯誤信息 (php， mysql， memcache， …)，如果沒設定，趕緊設定。
Varnish； 在varnishlog 和 varnishstat 里， 檢查 hit/miss 比. 看看配置信息里是否遺漏了什么規則，使最終用戶可以直接攻擊你的后端？
HA-Proxy； 后端的狀況如何？健康狀況檢查是否成功？是前端還是后端的隊列大小達到最大值了？
結論
經過這 5 分鐘之后，你應該對如下情況比較清楚了：
在服務器上運行的都是些啥？
這個故障看起來是和 IO/硬件/網絡或者系統配置 (有問題的代碼、系統內核調優， …)相關。
這個故障是否有你熟悉的一些特征？比如對數據庫索引使用不當，或者太多的 apache 后臺進程。
你甚至有可能找到真正的故障源頭。就算還沒有找到，搞清楚了上面這些情況之后，你現在也具備了深挖下去的條件。繼續努力吧！