歡迎來到Linux教程網
Linux教程網
Linux教程網
Linux教程網
您现在的位置: Linux教程網 >> UnixLinux >  >> Linux管理 >> Linux服務

Linux服務器上排除問題的頭五分鐘

我們團隊為上一家公司承擔運維、優化和擴展工作的時候,我們碰到了各種不同規模的性能很差的系統和基礎設備(大型系統居多,比如 CNN 或者世界銀行的系統)。要是再趕上修復時間緊、奇葩的技術平台、缺少信息和文檔,基本上這過程都會慘痛到讓我們留下深刻的記憶。

遇到服務器故障,問題出現的原因很少可以一下就想到。我們基本上都會從以下步驟入手:

一、盡可能搞清楚問題的前因後果
不要一下子就扎到服務器前面,你需要先搞明白對這台服務器有多少已知的情況,還有故障的具體情況。不然你很可能就是在無的放矢。

必須搞清楚的問題有:
  • 故障的表現是什麼?無響應?報錯?
  • 故障是什麼時候發現的?
  • 故障是否可重現?
  • 有沒有出現的規律(比如每小時出現一次)
  • 最後一次對整個平台進行更新的內容是什麼(代碼、服務器等)?
  • 故障影響的特定用戶群是什麼樣的(已登錄的, 退出的, 某個地域的…)?
  • 基礎架構(物理的、邏輯的)的文檔是否能找到?
  • 是否有監控平台可用? (比如 Munin、Zabbix、 Nagios、 New Relic… 什麼都可以)
  • 是否有日志可以查看?. (比如 Loggly、Airbrake、 Graylog…)

最後兩個是最方便的信息來源,不過別抱太大希望,基本上它們都不會有。只能再繼續摸索了。


二、有誰在?
$ w
$ last

用這兩個命令看看都有誰在線,有哪些用戶訪問過。這不是什麼關鍵步驟,不過最好別在其他用戶正干活的時候來調試系統。有道是一山不容二虎嘛。(ne cook in the kitchen is enough.)

三、之前發生了什麼?
$ history

查看一下之前服務器上執行過的命令。看一下總是沒錯的,加上前面看的誰登錄過的信息,應該有點用。另外作為 admin 要注意,不要利用自己的權限去侵犯別人的隱私哦。

到這裡先提醒一下,等會你可能會需要更新 HISTTIMEFORMAT 環境變量來顯示這些命令被執行的時間。對要不然光看到一堆不知道啥時候執行的命令,同樣會令人抓狂的。

四、現在在運行的進程是啥?
$ pstree -a
$ ps aux

這都是查看現有進程的。 ps aux 的結果比較雜亂, pstree -a 的結果比較簡單明了,可以看到正在運行的進程及相關用戶。

五、監聽的網絡服務
$ netstat -ntlp
$ netstat -nulp
$ netstat -nxlp

我一般都分開運行這三個命令,不想一下子看到列出一大堆所有的服務。netstat -nalp 倒也可以。不過我絕不會用 numeric 選項 (鄙人一點淺薄的看法:IP 地址看起來更方便)。

找到所有正在運行的服務,檢查它們是否應該運行。查看各個監聽端口。在 netstat 顯示的服務列表中的 PID 和 ps aux 進程列表中的是一樣的。

如果服務器上有好幾個 Java 或者 Erlang 什麼的進程在同時運行,能夠按 PID 分別找到每個進程就很重要了。

通常我們建議每台服務器上運行的服務少一點,必要時可以增加服務器。如果你看到一台服務器上有三四十個監聽端口開著,那還是做個記錄,回頭有空的時候清理一下,重新組織一下服務器。

六、CPU 和內存
$ free -m
$ uptime
$ top
$ htop

注意以下問題:
  • 還有空余的內存嗎? 服務器是否正在內存和硬盤之間進行 swap?
  • 還有剩余的 CPU 嗎? 服務器是幾核的? 是否有某些 CPU 核負載過多了?
  • 服務器最大的負載來自什麼地方? 平均負載是多少?

七、硬件
$ lspci
$ dmidecode
$ ethtool

有很多服務器還是裸機狀態,可以看一下:
  • 找到 RAID 卡 (是否帶 BBU 備用電池?)、 CPU、空余的內存插槽。根據這些情況可以大致了解硬件問題的來源和性能改進的辦法。
  • 網卡是否設置好? 是否正運行在半雙工狀態? 速度是 10MBps? 有沒有 TX/RX 報錯?

八、IO 性能
$ iostat -kx 2
$ vmstat 2 10
$ mpstat 2 10
$ dstat --top-io --top-bio

這些命令對於調試後端性能非常有用。
  • 檢查磁盤使用量:服務器硬盤是否已滿?
  • 是否開啟了 swap 交換模式 (si/so)?
  • CPU 被誰占用:系統進程? 用戶進程? 虛擬機?
  • dstat 是我的最愛。用它可以看到誰在進行 IO: 是不是 MySQL 吃掉了所有的系統資源? 還是你的 PHP 進程?

九、掛載點和文件系統
$ mount
$ cat /etc/fstab
$ vgs
$ pvs
$ lvs
$ df -h
$ lsof +D / /* beware not to kill your box */

  • 一共掛載了多少文件系統?
  • 有沒有某個服務專用的文件系統? (比如 MySQL?)
  • 文件系統的掛載選項是什麼: noatime? default? 有沒有文件系統被重新掛載為只讀模式了?
  • 磁盤空間是否還有剩余?
  • 是否有大文件被刪除但沒有清空?
  • 如果磁盤空間有問題,你是否還有空間來擴展一個分區?

十、內核、中斷和網絡
$ sysctl -a | grep ...
$ cat /proc/interrupts
$ cat /proc/net/ip_conntrack /* may take some time on busy servers */
$ netstat
$ ss -s
  • 你的中斷請求是否是均衡地分配給 CPU 處理,還是會有某個 CPU 的核因為大量的網絡中斷請求或者 RAID 請求而過載了?
  • SWAP 交換的設置是什麼?對於工作站來說 swappinness 設為 60 就很好, 不過對於服務器就太糟了:你最好永遠不要讓服務器做 SWAP 交換,不然對磁盤的讀寫會鎖死 SWAP 進程。
  • conntrack_max 是否設的足夠大,能應付你服務器的流量?
  • 在不同狀態下(TIME_WAIT, …) TCP 連接時間的設置是怎樣的?
  • 如果要顯示所有存在的連接,netstat 會比較慢, 你可以先用 ss 看一下總體情況。

你還可以看一下 Linux TCP tuning 了解網絡性能調優的一些要點。

十一、系統日志和內核消息
$ dmesg
$ less /var/log/messages
$ less /var/log/secure
$ less /var/log/auth
  • 查看錯誤和警告消息,比如看看是不是很多關於連接數過多導致?
  • 看看是否有硬件錯誤或文件系統錯誤?
  • 分析是否能將這些錯誤事件和前面發現的疑點進行時間上的比對。

十二、定時任務
$ ls /etc/cron* + cat
$ for user in $(cat /etc/passwd | cut -f1 -d:); do crontab -l -u $user; done
  • 是否有某個定時任務運行過於頻繁?
  • 是否有些用戶提交了隱藏的定時任務?
  • 在出現故障的時候,是否正好有某個備份任務在執行?

十三、應用系統日志
這裡邊可分析的東西就多了, 不過恐怕你作為運維人員是沒功夫去仔細研究它的。關注那些明顯的問題,比如在一個典型的 LAMP(Linux+Apache+Mysql+Perl)應用環境裡:
  • Apache & Nginx; 查找訪問和錯誤日志, 直接找 5xx 錯誤, 再看看是否有 limit_zone 錯誤。
  • MySQL; 在mysql.log 找錯誤消息,看看有沒有結構損壞的表, 是否有 innodb 修復進程在運行,是否有 disk/index/query 問題.
  • PHP-FPM; 如果設定了 php-slow 日志, 直接找錯誤信息 (php, mysql, memcache, …),如果沒設定,趕緊設定。
  • Varnish; 在varnishlog 和 varnishstat 裡, 檢查 hit/miss 比. 看看配置信息裡是否遺漏了什麼規則,使最終用戶可以直接攻擊你的後端?
  • HA-Proxy; 後端的狀況如何?健康狀況檢查是否成功?是前端還是後端的隊列大小達到最大值了?

結論
經過這 5 分鐘之後,你應該對如下情況比較清楚了:
  • 在服務器上運行的都是些啥?
  • 這個故障看起來是和 IO/硬件/網絡或者系統配置 (有問題的代碼、系統內核調優, …)相關。
  • 這個故障是否有你熟悉的一些特征?比如對數據庫索引使用不當,或者太多的 apache 後台進程。

你甚至有可能找到真正的故障源頭。就算還沒有找到,搞清楚了上面這些情況之後,你現在也具備了深挖下去的條件。繼續努力吧!
Copyright © Linux教程網 All Rights Reserved