文章分類／

Linux | How to collect Linux Performance Log with Sysstat OS command

瀏覽人次: 1033
# # # #
2024-08-26 更新

Sysstat 日誌收集說明

利用 Linux 系統自帶的系統命令，啓動 Linux 系統效能日誌的持續收集，無需額外安裝軟體，不會影響應用系統的正常運行和安全性。後續經由運算處理、圖形化展示、和專業團隊的判讀，提出系統調優和維運的依據，以保證核心業務系統高效穩定的運行，BiMAP 擁有許多大企業建置大數據的經驗，打造 iPOC 關聯式效能分析平台，能幫助更多企業維運分析系統收集核心應用運行過程中更有效率的解決問題。

OS 效能日誌收集項目

Linux的效能日誌有以下幾種自帶的系統命令可以進行收集，例如 top 可以顯示即時的系統負載狀態、vmstat 命令提供有關整體系統性能的詳細信息，包括內存使用情況、I/O 速率和 CPU 負載，iostat 指令可用來監視監視系統輸入/輸出、裝置負載。

  • 使用 sar 命令收集 CPU 所有核數的負載和 Filesystem (Mount point) 容量的使用情形
  • 使用 vmstat 命令收集 Memory 和 Paging 資訊
  • 使用 iostat 命令收集 LUN (邏輯分區) 的 I/O 負載
  • 使用 top 命令收集 process 的負載

安裝 sysstat 命令

執行以下命令以安裝 sysstat：

sudo apt update
sudo apt-get install sysstat

啟用 sysstat

編輯配置文件：

sudo vi /etc/default/sysstat

將 ENABLED=false 改為 ENABLED=true：

ENABLED="true"

重啟服務：

sudo systemctl restart sysstat

建立自動化收集腳本

建立日誌存放資料夾：

mkdir /home/bimap/sardata

編輯腳本文件：

vim /home/bimap/bin/ipoc_sar.sh

ipoc_sar.sh 內容如下：

#!/bin/bash
export LC_ALL=C

#################################################
########        設定環境變數               ########
#################################################
Host=$(hostname)
Seconds=${1:-60}   # 默認每次間隔60秒，可以通過參數傳遞修改
Count=${2:-60}     # 默認每60次收集數據，可以通過參數傳遞修改
RetentionDays=30   # 超過30天的檔案不做保留，需要的話請開啟尾段的註解
Yesterday=$(perl -MPOSIX -le 'print strftime "%y%m%d", localtime(time()-86400)')
DateTime=$(perl -MPOSIX -le 'print strftime "%Y%m%d%H%M", localtime')
LogDir="/home/bimap/sardata"
SentDir="$LogDir/sent"
BackupDir="$LogDir/backup"
UploadDir="/home/sftpuser/master"  # 日誌上傳路徑

# SCP 目標路徑設定
SCP_TARGET="[email protected]:$UploadDir"

# FTP 設定參數
FTPURL="10.99.1.106"
FTPUSER="sftpuser"
FTPPASS="1qaz2wsx"

# 上傳方法選擇：可選 "ftp"、"mv" 或 "scp"
UPLOAD_METHOD="scp"

if [[ ! " ftp mv scp " =~ " ${UPLOAD_METHOD} " ]]; then
  echo "未知的上傳方式: $UPLOAD_METHOD. 請選擇 'ftp', 'mv' 或 'scp'."
  exit 1
fi

echo "上傳方式: $UPLOAD_METHOD"
echo "收集間隔: $Seconds 秒, 收集次數: $Count 次"

#################################################
########         執行收集命令              ########
#################################################
Header="===== CollectLinuxServer: $Host-sar $DateTime ====="

Cpu="$Host-$DateTime.cpu"
Net="$Host-$DateTime.network"
Mem="$Host-$DateTime.mem"
Diskio="$Host-$DateTime.diskio"
Process="$Host-$DateTime.process"
Disk="$Host-$DateTime.disk"

mkdir -p $SentDir
mkdir -p $BackupDir
mkdir -p $LogDir

cd $LogDir
# 獲取舊的sar文件
Files=$(ls $Host* 2> /dev/null)
if [ -z "$Files" ]; then
  echo "沒有舊的文件需要移動"
else
  # 將舊文件移動到SentDir
  mv $Files $SentDir
fi

# 收集新的sar文件
for i in $Cpu $Net $Mem $Diskio $Process $Disk
do
    touch $i && echo $Header > $i
done

sar -P ALL $Seconds $Count >> $Cpu &
sar -n DEV $Seconds $Count >> $Net &
vmstat -n $Seconds $Count >> $Mem &
iostat -tkdx $Seconds $Count >> $Diskio &
top -d $Seconds -n $Count -b -i >> $Process &
df -k | head -n 1 >> $Disk
for i in `seq 1 $Count`; do
    echo "disk: $i `date +"%D %T"`" >> $Disk
    df -k | awk '{if ($3 ~/[0-9]/) print $0}' >> $Disk
    sleep $Seconds
done

sleep 10

#################################################
########      根據選擇的方式上傳文件         ########
#################################################
cd $SentDir

case $UPLOAD_METHOD in
  "ftp")
    if [ "$(ls -A $SentDir)" ]; then
      ftp -inv $FTPURL << EOF > $LogDir/ftplog.txt
user $FTPUSER $FTPPASS
binary
mput *
bye
EOF
      msg=$(grep "complete" $LogDir/ftplog.txt)
      if [ -n "$msg" ]; then
          mv $SentDir/*.* $BackupDir
      fi
      rm -rf $LogDir/ftplog.txt
    fi
    ;;

  "mv")
    if [ "$(ls -A $SentDir)" ]; then
      mv $SentDir/* $UploadDir
    fi
    ;;

  "scp")
    if [ "$(ls -A $SentDir)" ]; then
      scp * $SCP_TARGET
      if [ $? -eq 0 ]; then
          mv $SentDir/*.* $BackupDir
      fi
    fi
    ;;

  *)
    echo "未知的上傳方式: $UPLOAD_METHOD"
    exit 1
    ;;
esac

#################################################
########          壓縮並備份             ########
#################################################
# 1. 檢查並將昨天的檔案，保存成一份壓縮檔
cd $BackupDir
tar_filename="${Yesterday}-${Host}.tar.gz"
if ls $Host-$Yesterday*.* 1> /dev/null 2>&1; then
    tar -czvf "$tar_filename" $Host-$Yesterday*.* && rm -rf $Host-$Yesterday*.*
else
    echo "No files found for $Yesterday, skipping compression."
fi

# 2. 定期將檔案清除，需要的話請開啟註解並檢查RetentionDays參數設定
# files=$(find $BackupDir/*.tar.gz -maxdepth 1 -mtime +$RetentionDays -type f 2>/dev/null)
# if [ -z "$files" ]; then
#   echo "沒有找到過期檔案，無需清除"
# else
#   find $BackupDir/*.tar.gz -maxdepth 1 -mtime +$RetentionDays -type f -delete 2>/dev/null
# fi

exit

授予腳本執行權限：

chmod +x /home/bimap/bin/ipoc_sar.sh

設定 crontab 每小時執行一次自動化收集腳本

編輯 crontab：

crontab -e

添加以下行：

0 * * * * /home/bimap/bin/ipoc_sar.sh

日誌檔案範例

執行當下小時會產生6種日誌檔案 (.cpu、.disk、.diskio、.mem、.network、.process)：

[root@bimap sardata]$ ll /home/bimap/sardata
total 376
drwxr-xr-x. 2 root root      6 Mar 29 12:00 sent
drwxr-xr-x. 2 root root  24576 Mar 29 12:00 backup
-rw-r--r--. 1 root root  26514 Mar 29 12:33 bimap-202303291200.cpu
-rw-r--r--. 1 root root  29388 Mar 29 12:33 bimap-202303291200.disk
-rw-r--r--. 1 root root  19360 Mar 29 12:33 bimap-202303291200.diskio
-rw-r--r--. 1 root root   3085 Mar 29 12:33 bimap-202303291200.mem
-rw-r--r--. 1 root root  10212 Mar 29 12:33 bimap-202303291200.network
-rw-r--r--. 1 root root 222572 Mar 29 12:33 bimap-202303291200.process

整點會自動將上個小時檔案傳送後移動到 backup 資料夾，昨天的檔案會自動壓縮為 tar.gz 檔：

[root@bimap sardata]$ ll /home/bimap/sardata/backup

-rw-r--r--. 1 root root 1064377 Mar 24 01:00 bimap-20230323.tar.gz
-rw-r--r--. 1 root root 1064810 Mar 25 01:00 bimap-20230324.tar.gz
-rw-r--r--. 1 root root 1076652 Mar 26 01:00 bimap-20230325.tar.gz
-rw-r--r--. 1 root root 1083895 Mar 27 01:00 bimap-20230326.tar.gz
-rw-r--r--. 1 root root 1317158 Mar 28 01:00 bimap-20230327.tar.gz
-rw-r--r--. 1 root root 1443695 Mar 29 01:00 bimap-20230328.tar.gz
快速跳轉目錄
💬 想找適合的解決方案嗎？
立即預約專人諮詢

✦ 集先鋒 Bimap – 企業建置高速穩定的海量日誌分析平台✦

集中不同的結構化資料和非結構化日誌，並進行關聯性的大數據整合，客製化儀表版、自訂事件告警、機器學習等等，以滿足各種大數據的應用場景和解決方案。

X

熱門搜尋關鍵字