Linux|How to collect Linux Performance Log with Njmon

瀏覽人次: 1455
2024-08-12 更新

Njmon 日誌收集說明

Njmon 是 Nmon 的改進版,適用於 Linux 系統,提供了更豐富的性能數據收集和分析功能。它能夠收集 CPU、記憶體、磁碟、網路等多方面的即時系統性能數據,並支持將數據發送到各種數據庫,如 InfluxDB。Njmon 特別適合現代化系統環境,提供了更多靈活性和擴展性。

大多數 IBM 機器內建了 Nmon,如果需要另外安裝,我們建議使用改進版的 njmon。請參考以下步驟來安裝和配置 njmon。

1. 安裝 Njmon

根據您的 Linux 實際環境和版本,下載適合的 Njmon 版本。

下載並安裝 Njmon:

wget http://sourceforge.net/projects/nmon/files/njmon_linux_binaries_v80.zip mkdir njmon_files unzip njmon_linux_binaries_v80.zip -d njmon_files

注意: 如果您的系統尚未安裝 zip 解壓工具,請先執行以下命令安裝:

sudo apt install zip

解壓縮後的目錄結構如下,根據您的 Linux 版本選擇適合的 Njmon 版本進行安裝。本文以 Ubuntu 22 為例,安裝 njmon_Ubuntu22_x86_64_v80 版本。如果是 CentOS 7 版本,可以選擇 njmon_RHEL8_x86_64_v80 版本。

njmon_files/ ├── ninstall ├── njmon.1.gz ├── njmon_RHEL8_ppc64le_v80 ├── njmon_RHEL8_x86_64_v80 ├── njmon_SLES12_ppc64le_v80 ├── njmon_SLES15_ppc64le_v80 ├── njmon_SLES15_x86_64_v80 ├── njmon_Ubuntu20_ppc64le_v80 ├── njmon_Ubuntu21_x86_64_v80 ├── njmon_Ubuntu22_x86_64_v80 └── njmon_linux_binaries_v80.zip

執行安裝腳本:

cd njmon_files chmod +x ninstall ./ninstall

如果沒有完全匹配的系統版本,可以選擇接近的版本,複製到 /usr/local/bin,重新命名為 njmon

sudo mv njmon_files/${your_version_filename} /usr/local/bin/njmon sudo chmod +x /usr/local/bin/njmon

2. 建立 Njmon 日誌存放目錄

mkdir -p /home/bimap/njmondata

3. 建立自動化收集腳本

編輯腳本文件:

mkdir -p /home/bimap/bin vim /home/bimap/bin/ipoc_njmon.sh

需要調整的參數

  • Seconds: 每次收集間隔的秒數。默認為60秒,可以根據需要進行修改。
  • Count: 每次收集數據的次數。默認為60次,可以根據需要進行修改。
  • RetentionDays: 日誌保留的天數。默認為30天,超過這個天數的檔案將被刪除。
  • LogDir: 日誌存放目錄。默認為 /home/bimap/njmondata
  • UploadDir: 日誌上傳目錄。默認為 /home/sftpuser/master
  • SCP_TARGET: SCP 上傳目標路徑。
  • FTPURL, FTPUSER, FTPPASS: FTP 伺服器地址、使用者名和密碼。
  • UPLOAD_METHOD: 上傳方法。可以選擇 ftpmvscp,默認為 scp

ipoc_njmon.sh 內容如下:

#!/bin/bash export LC_ALL=C  ################################################# ########        設定環境變數               ######## ################################################# Host=$(hostname) Seconds=${1:-60}   # 默認每次間隔60秒,可以通過參數傳遞修改 Count=${2:-60}     # 默認每60次收集數據,可以通過參數傳遞修改 RetentionDays=30   # 超過30天的檔案不做保留,需要的話請開啟尾段的註解 Yesterday=$(perl -MPOSIX -le 'print strftime "%y%m%d", localtime(time()-86400)') LogDir="/home/bimap/njmondata" SentDir="$LogDir/sent" BackupDir="$LogDir/backup" UploadDir="/home/sftpuser/master"  # 日誌上傳路徑  # SCP 目標路徑設定 SCP_TARGET="[email protected]:$UploadDir"  # FTP 設定參數 FTPURL="10.99.1.106" FTPUSER="sftpuser" FTPPASS="1qaz2wsx"  # 上傳方法選擇:可選 "ftp"、"mv" 或 "scp" UPLOAD_METHOD="scp"  if [[ ! " ftp mv scp " =~ " ${UPLOAD_METHOD} " ]]; then   echo "未知的上傳方式: $UPLOAD_METHOD. 請選擇 'ftp', 'mv' 或 'scp'."   exit 1 fi  echo "上傳方式: $UPLOAD_METHOD" echo "收集間隔: $Seconds 秒, 收集次數: $Count 次"  ################################################# ########         執行收集命令              ######## ################################################# mkdir -p $SentDir mkdir -p $BackupDir mkdir -p $LogDir  cd $LogDir # 獲取舊的nmon文件 Files=$(ls *.json 2> /dev/null) if [ -z "$Files" ]; then   echo "沒有舊的 njmon 文件需要移動" else   # 將舊文件移動到SentDir   mv $Files $SentDir fi  # 收集新的nmon文件 /usr/local/bin/njmon -M -P -b -t 1 -s $Seconds -c $Count -f -m $LogDir > /dev/null 2>&1 sleep 10 rm -rf *.err  ################################################# ########      根據選擇的方式上傳文件         ######## ################################################# cd $SentDir  case $UPLOAD_METHOD in   "ftp")     if [ "$(ls -A $SentDir)" ]; then       ftp -inv $FTPURL << EOF > $LogDir/ftplog.txt user $FTPUSER $FTPPASS binary mput * bye EOF       msg=$(grep "complete" $LogDir/ftplog.txt)       if [ -n "$msg" ]; then           mv $SentDir/*.* $BackupDir       fi       rm -rf $LogDir/ftplog.txt     fi     ;;    "mv")     if [ "$(ls -A $SentDir)" ]; then       mv $SentDir/* $UploadDir     fi     ;;    "scp")     if [ "$(ls -A $SentDir)" ]; then       scp * $SCP_TARGET       if [ $? -eq 0 ]; then           mv $SentDir/*.* $BackupDir       fi     fi     ;;    *)     echo "未知的上傳方式: $UPLOAD_METHOD"     exit 1     ;; esac  ################################################# ########          壓縮並備份             ######## ################################################# # 1. 檢查並將昨天的檔案,保存成一份壓縮檔 cd $BackupDir if ls *$Yesterday*.json 1> /dev/null 2>&1; then     # 如果存在,將該檔案壓縮起來     tar -czvf "${Host}-${Yesterday}.tar.gz" *$Yesterday*.json && rm -rf *$Yesterday*.json fi  # 2. 定期將檔案清除,需要的話請開啟註解並檢查RetentionDays參數設定 # find $BackupDir/*.tar.gz -maxdepth 1 -mtime +$RetentionDays -type f -delete  exit

授予腳本執行權限:

chmod +x /home/bimap/bin/ipoc_njmon.sh

4. 測試腳本

第一次測試執行腳本會顯示沒有舊的 .njmon 文件需要移動,這是正常的,因為在第一次執行時還沒有舊的文件。

root@bimap-ipoc-2:/home/bimap/bin# ./ipoc_njmon.sh 5 2 上傳方式: mv 收集間隔: 5 秒, 收集次數: 2 次 沒有舊的 njmon 文件需要移動

第二次執行時應該會正常移動和上傳文件:

root@bimap-ipoc-2:/home/bimap/bin# ./ipoc_njmon.sh 5 2 上傳方式: mv 收集間隔: 5 秒, 收集次數: 2 次

成功後,再設定 crontab 定期執行自動化收集腳本。

5. 設定 crontab 定期執行

編輯 crontab:

crontab -e

添加以下行,設定每60分鐘執行一次自動化收集腳本:

0 * * * * /home/bimap/bin/ipoc_njmon.sh 60 60 > /dev/null 2>&1

日誌檔案範例

執行當下小時會產生 Njmon 日誌檔案,並且每天將日誌檔案壓縮儲存:

[root@bimap nmondata]$ ls /home/bimap/njmondata/backup bimap-230301.tar.gz bimap-230302.tar.gz bimap-230303.tar.gz bimap-230304.tar.gz

6. 如何停止或修改 njmon 收集指令

在使用 Njmon 進行數據收集時,您可能需要停止或修改收集指令。以下是相關步驟:

  1. 檢查運行中的 Njmon 任務
    正常情況下,應該只有一個 Njmon 任務在運行。若發現有多個重複任務,請使用以下命令檢查並停止:

    ps -ef | grep njmon
  2. 停止 Njmon 任務
    如果重複運行的任務導致報錯,請確保先停止所有運行中的 Njmon 任務,再重新執行指令:

    sudo kill -9 
  3. 修改 Njmon 收集指令
    如果需要修改收集指令,請先停止舊的 Njmon 任務,然後重新啟動帶有新參數的指令。

Njmon 參數說明

  • -A:自定義 hostname(不給代表默認採用 os.hostname())
  • -s:採集間隔時間,單位秒,默認為60秒
  • -c:採集次數,默認為永久
  • -f:輸出為檔案,數據內容為 hostname__.json,錯誤內容為 hostname__.err
  • -m:文件存儲目錄
  • -I:切換 nimon 模式,輸出格式改為 .influxlp 檔案
  • -M:按掛載點列出的文件系統而不是文件系統名稱
  • -P:添加 processes 統計信息(佔用 CPU 週期和大量統計信息)
  • -t:設置忽略 process CPU 使用百分比閾值(默認 0.01%)
  • -b:不併 pid 的 process_name(若需將數據寫入 InfluxDB,務必添加此參數以避免 high cardinality)
快速跳轉目錄

✦ 集先鋒 Bimap – 企業建置高速穩定的海量日誌分析平台✦

集中不同的結構化資料和非結構化日誌,並進行關聯性的大數據整合,客製化儀表版、自訂事件告警、機器學習等等,以滿足各種大數據的應用場景和解決方案。