logrotate 的使用簡介

對於Linux系統安全來說，日誌文件是極其重要的工具。不知爲何，我發現很多運維同學的服務器上都運行着一些諸如每天切分Nginx日誌之類的CRON腳本，大家似乎遺忘了Logrotate，爭相發明自己的輪子，這真是讓人沮喪啊！就好比明明身邊躺着現成的性感美女，大家卻忙着自娛自樂，罪過！logrotate程序是一個日誌文件管理工具。用於分割日誌文件，刪除舊的日誌文件，並創建新的日誌文件，起到“轉儲”作用。可以節省磁盤空間。下面就對logrotate日誌輪轉操作做一梳理記錄：

1）配置文件介紹
Linux系統默認安裝logrotate工具，它默認的配置文件在：
/etc/logrotate.conf
/etc/logrotate.d/

logroate的狀態文件目錄是

/var/lib/lograotate.status

在這個目錄下，會記錄上次文件的運行狀態。

logrotate.conf 才主要的配置文件，這個文件是logroate的默認配置文件。

logrotate.d 是一個目錄，在這個目錄下，我們可以將自己的需要滾動的日誌配置放在這個下面。該目錄裏的所有文件都會被主動的讀入/etc/logrotate.conf中執行。
另外，如果 /etc/logrotate.d/ 裏面的文件中沒有設定一些細節，則會以/etc/logrotate.conf這個文件的設定來作爲默認值。

Logrotate是基於CRON來運行的，其腳本是/etc/cron.daily/logrotate，日誌輪轉是系統自動完成的。
實際運行時，Logrotate會調用配置文件/etc/logrotate.conf。
可以在/etc/logrotate.d目錄裏放置自定義好的配置文件，用來覆蓋Logrotate的缺省值。

[root@huanqiu_web1 ~]# cat /etc/cron.daily/logrotate

#!/bin/sh


/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1

EXITVALUE=$?

if [ $EXITVALUE != 0 ]; then

    /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"

fi

exit 0

如果等不及cron自動執行日誌輪轉，想手動強制切割日誌，需要加-f參數；不過正式執行前最好通過Debug選項來驗證一下（-d參數），這對調試也很重要

# /usr/sbin/logrotate -f /etc/logrotate.d/nginx
# /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx

logrotate命令格式：

logrotate [OPTION...] <configfile>
-d, --debug ：debug模式，測試配置文件是否有錯誤。
-f, --force ：強制轉儲文件。
-m, --mail=command ：壓縮日誌後，發送日誌到指定郵箱。
-s, --state=statefile ：使用指定的狀態文件。
-v, --verbose ：顯示轉儲過程。

根據日誌切割設置進行操作，並顯示詳細信息

[root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php

根據日誌切割設置進行執行，並顯示詳細信息,但是不進行具體操作，debug模式

[root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
[root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx

查看各log文件的具體執行情況，這裏記錄的是上一次的執行狀態

[root@fangfull_web1 ~]# cat /var/lib/logrotate.status

2）切割介紹
比如以系統日誌/var/log/message做切割來簡單說明下：
第一次執行完rotate(輪轉)之後，原本的messages會變成messages.1，而且會製造一個空的messages給系統來儲存日誌；
第二次執行之後，messages.1會變成messages.2，而messages會變成messages.1，又造成一個空的messages來儲存日誌！
如果僅設定保留三個日誌（即輪轉3次）的話，那麼執行第三次時，則 messages.3這個檔案就會被刪除，並由後面的較新的保存日誌所取代！也就是會保存最新的幾個日誌。
日誌究竟輪換幾次，這個是根據配置文件中的rotate參數來判定的。

看下logrotate.conf配置：
# cat /etc/logrotate.conf
# 底下的設定是 "logrotate 的默認值" ，如果別的文件設定了其他的值，
# 就會以其它文件的設定爲主
weekly //默認每一週執行一次rotate輪轉工作
rotate 4 //保留多少個日誌文件(輪轉幾次).默認保留四個.就是指定日誌文件刪除之前輪轉的次數，0 指沒有備份
create //自動創建新的日誌文件，新的日誌文件具有和原來的文件相同的權限；因爲日誌被改名,因此要創建一個新的來繼續存儲之前的日誌
dateext //這個參數很重要！就是切割後的日誌文件以當前日期爲格式結尾，如xxx.log-20131216這樣,如果註釋掉,切割出來是按數字遞增,即前面說的 xxx.log-1這種格式
compress //是否通過gzip壓縮轉儲以後的日誌文件，如xxx.log-20131216.gz ；如果不需要壓縮，註釋掉就行

include /etc/logrotate.d
# 將 /etc/logrotate.d/ 目錄中的所有文件都加載進來

/var/log/wtmp {                 //僅針對 /var/log/wtmp 所設定的參數
monthly                    //每月一次切割,取代默認的一週
minsize 1M              //文件大小超過 1M 後纔會切割
create 0664 root utmp            //指定新建的日誌文件權限以及所屬用戶和組
rotate 1                    //只保留一個日誌.
}

# 這個 wtmp 可記錄用戶登錄系統及系統重啓的時間
# 因爲有 minsize 的參數，因此不見得每個月一定會執行一次喔.要看文件大小。

由這個文件的設定可以知道/etc/logrotate.d其實就是由/etc/logrotate.conf 所規劃出來的目錄，雖然可以將所有的配置都寫入/etc/logrotate.conf ，但是這樣一來這個文件就實在是太複雜了，尤其是當使用很多的服務在系統上面時，每個服務都要去修改/etc/logrotate.conf的設定也似乎不太合理了。
所以，如果獨立出來一個目錄，那麼每個要切割日誌的服務，就可以獨自成爲一個文件，並且放置到 /etc/logrotate.d/ 當中

其他重要參數說明
---------------------------------------------------------------------------------------------------------

compress                                   通過gzip 壓縮轉儲以後的日誌
nocompress                                不做gzip壓縮處理
copytruncate                              用於還在打開中的日誌文件，把當前日誌備份並截斷；是先拷貝再清空的方式，拷貝和清空之間有一個時間差，可能會丟失部分日誌數據。
nocopytruncate                           備份日誌文件不過不截斷
create mode owner group             輪轉時指定創建新文件的屬性，如create 0777 nobody nobody
nocreate                                    不建立新的日誌文件
delaycompress                           和compress 一起使用時，轉儲的日誌文件到下一次轉儲時才壓縮
nodelaycompress                        覆蓋 delaycompress 選項，轉儲同時壓縮。
missingok                                 如果日誌丟失，不報錯繼續滾動下一個日誌
errors address                           專儲時的錯誤信息發送到指定的Email 地址
ifempty                                    即使日誌文件爲空文件也做輪轉，這個是logrotate的缺省選項。
notifempty                               當日志文件爲空時，不進行輪轉
mail address                             把轉儲的日誌文件發送到指定的E-mail 地址
nomail                                     轉儲時不發送日誌文件
olddir directory                         轉儲後的日誌文件放入指定的目錄，必須和當前日誌文件在同一個文件系統
noolddir                                   轉儲後的日誌文件和當前日誌文件放在同一個目錄下
sharedscripts                           運行postrotate腳本，作用是在所有日誌都輪轉後統一執行一次腳本。如果沒有配置這個，那麼每個日誌輪轉後都會執行一次腳本
prerotate                                 在logrotate轉儲之前需要執行的指令，例如修改文件的屬性等動作；必須獨立成行
postrotate                               在logrotate轉儲之後需要執行的指令，例如重新啓動 (kill -HUP) 某個服務！必須獨立成行
daily                                       指定轉儲週期爲每天
weekly                                    指定轉儲週期爲每週
monthly                                  指定轉儲週期爲每月
rotate count                            指定日誌文件刪除之前轉儲的次數，0 指沒有備份，5 指保留5 個備份
dateext                                  使用當期日期作爲命名格式
dateformat .%s                       配合dateext使用，緊跟在下一行出現，定義文件切割後的文件名，必須配合dateext使用，只支持 %Y %m %d %s 這四個參數
size(或minsize) log-size            當日志文件到達指定的大小時才轉儲，log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
當日志文件 >= log-size 的時候就轉儲。 以下爲合法格式：（其他格式的單位大小寫沒有試過）
size = 5 或 size 5 （>= 5 個字節就轉儲）
size = 100k 或 size 100k
size = 100M 或 size 100M

小示例：下面一個切割nginx日誌的配置

[root@master-server ~]# vim /etc/logrotate.d/nginx

/usr/local/nginx/logs/*.log {

daily

rotate 7

missingok

notifempty

dateext

sharedscripts

postrotate

    if [ -f /usr/local/nginx/logs/nginx.pid ]; then

        kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`

    fi

endscript

}

--------------------------------------------------分享一例曾經使用過的nginx日誌切割處理腳本-----------------------------------------------
1）logrotate日誌分割配置：

[root@bastion-IDC ~# vim /etc/logrotate.d/nginx

/data/nginx_logs/*.access_log        

{

nocompress                                   

daily                                  

copytruncate                                  

create                              

ifempty                                   

olddir /data/nginx_logs/days           

rotate 0                                        

}

2）日誌分割腳本

[root@bastion-IDC ~# vim /usr/local/sbin/logrotate-nginx.sh

#!/bin/bash

#創建轉儲日誌壓縮存放目錄

mkdir -p /data/nginx_logs/days

#手工對nginx日誌進行切割轉換

/usr/sbin/logrotate -vf /etc/logrotate.d/nginx

#當前時間

time=$(date -d "yesterday" +"%Y-%m-%d")

#進入轉儲日誌存放目錄

cd /data/nginx_logs/days

#對目錄中的轉儲日誌文件的文件名進行統一轉換

for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")

do

mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)

done

#對轉儲的日誌文件進行壓縮存放，並刪除原有轉儲的日誌文件，只保存壓縮後的日誌文件。以節約存儲空間

for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")

do

tar jcvf ${i}.bz2 ./${i}

rm -rf ./${i}

done

#只保留最近7天的壓縮轉儲日誌文件

find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;

3）crontab定時執行

[root@bastion-IDC ~# crontab -e

#logrotate

0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>&1

手動執行腳本，測試下看看：

[root@bastion-IDC ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh

[root@bastion-IDC ~# cd /data/nginx_logs/days

[root@bastion-IDC days# ls

huantest.access_log-2017-01-18.bz2

3）嘗試解決logrotate無法自動輪詢日誌的辦法
現象說明：
使用logrotate輪詢nginx日誌，配置好之後，發現nginx日誌連續兩天沒被切割，這是爲什麼呢？？
然後開始檢查日誌切割的配置文件是否有問題，檢查後確定配置文件一切正常。
於是懷疑是logrotate預定的cron沒執行，查看了cron的日誌，發現有一條Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)這樣的日誌，證明cron在04:02分時已經執行/etc/cron.daily目錄下的程序。
接着查看/etc /cron.daily/logrotate（這是logrotate自動輪轉的腳本）的內容：

[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate

#!/bin/sh

/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1

EXITVALUE=$?

if [ $EXITVALUE != 0 ]; then

/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"

fi

exit 0

沒有發現異常，配置好的日誌輪轉操作都是由這個腳本完成的，一切運行正常，腳本應該就沒問題。
直接執行命令：
[root@huanqiu_test ~]# /usr/sbin/logrotate /etc/logrotate.conf
這些系統日誌是正常輪詢了，但nginx日誌卻還是沒輪詢

接着強行啓動記錄文件維護操作，縱使logrotate指令認爲沒有需要，應該有可能是logroate認爲nginx日誌太小，不進行輪詢。
故需要強制輪詢，即在/etc/cron.daily/logrotate腳本中將 -t 參數替換成 -f 參數

[root@huanqiu_test ~]# cat /etc/cron.daily/logrotate

#!/bin/sh

/usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1

EXITVALUE=$?

if [ $EXITVALUE != 0 ]; then

/usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]"

fi

exit 0

最後最後重啓下cron服務：
[root@huanqiu_test ~]# /etc/init.d/crond restart
Stopping crond: [ OK ]
Starting crond: [ OK ]

===============logrotate默認自動切割生效時間==============

Logrotate是基於CRON來運行的，其腳本是/etc/cron.daily/logrotate，實際運行時，Logrotate會調用配置文件/etc/logrotate.conf。

[root@test ~]# cat /etc/cron.daily/logrotate

#!/bin/sh

/usr/sbin/logrotate /etc/logrotate.conf

EXITVALUE=$?

if [ $EXITVALUE != 0 ]; then

/usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"

fi

exit 0

Logrotate是基於CRON運行的，所以這個時間是由CRON控制的，具體可以查詢CRON的配置文件/etc/anacrontab（老版本的文件是/etc/crontab）

[root@test ~]# cat /etc/anacrontab

# /etc/anacrontab: configuration file for anacron

# See anacron(8) and anacrontab(5) for details.

SHELL=/bin/sh

PATH=/sbin:/bin:/usr/sbin:/usr/bin

MAILTO=root

# the maximal random delay added to the base delay of the jobs

RANDOM_DELAY=45 //這個是隨機的延遲時間，表示最大45分鐘

# the jobs will be started during the following hours only

START_HOURS_RANGE=3-22 //這個是開始時間

#period in days delay in minutes job-identifier command

1 5 cron.daily nice run-parts /etc/cron.daily

7 25 cron.weekly nice run-parts /etc/cron.weekly

@monthly 45 cron.monthly nice run-parts /etc/cron.monthly

第一個是Recurrence period

第二個是延遲時間

所以cron.daily會在3:22+(5,45)這個時間段執行，/etc/cron.daily是個文件夾

通過默認/etc/anacrontab文件配置，會發現logrotate自動切割日誌文件的默認時間是凌晨3點多。

==================================================================================================

現在需要將切割時間調整到每天的晚上12點，即每天切割的日誌是前一天的0-24點之間的內容。

操作如下：

[root@kevin ~]# mv /etc/anacrontab /etc/anacrontab.bak //取消日誌自動輪轉的設置

[root@G6-bs02 logrotate.d]# cat nstc_nohup.out

/data/nstc/nohup.out {

rotate 30

dateext

daily

copytruncate

compress

notifempty

missingok

}

[root@G6-bs02 logrotate.d]# cat syslog

/var/log/cron

/var/log/maillog

/var/log/messages

/var/log/secure

/var/log/history

{

sharedscripts

compress

rotate 30

daily

dateext

postrotate

/bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true

endscript

}

結合crontab進行自定義的定時輪轉操作

[root@kevin ~]# crontab -l

#log logrotate

59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/syslog >/dev/null 2>&1

59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/nstc_nohup.out >/dev/null 2>&1

[root@G6-bs02 ~]# ll /data/nstc/nohup.out*

-rw------- 1 app app 33218 1月 25 09:43 /data/nstc/nohup.out

-rw------- 1 app app 67678 1月 25 23:59 /data/nstc/nohup.out-20180125.gz

---------------------------------------------------------------------------------------------------------------------------------------

除了利用自帶的Logrotate工具實現日誌切割之外，還可以編寫python腳本或shell腳本以實現日誌切割。下面就簡單列出幾個實例說明下：

一、Python腳本實現日誌切割

實例1：對jumpserver日誌進行切割

[root@test-vm01 mnt]# cat log_rotate.py

#!/usr/bin/env python

import datetime,os,sys,shutil

log_path = '/opt/jumpserver/logs/'

log_file = 'jumpserver.log'

yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))

try:

os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \

yesterday.strftime('%m'))

except OSError,e:

print

print e

sys.exit()

shutil.move(log_path + log_file,log_path \

+ yesterday.strftime('%Y') + os.sep \

+ yesterday.strftime('%m') + os.sep \

+ log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')

os.popen("sudo /opt/jumpserver/service.sh restart")

手動執行這個腳本：

[root@test-vm01 mnt]# chmod 755 log_rotate.py

[root@test-vm01 mnt]# python log_rotate.py

查看日誌切割後的效果：

[root@test-vm01 mnt]# ls /opt/jumpserver/logs/

2017 jumpserver.log

[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/

09

[root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/09/

jumpserver.log_20170916.log

然後做每日的定時切割任務：

[root@test-vm01 mnt]# crontab -e

30 1 * * * /usr/bin/python /mnt/log_rotate.py > /dev/null 2>&1

--------------------------------------------------------------------------------------

實例2:對nginx日誌進行切割

[root@test-vm01 mnt]# vim log_rotate.py

#!/usr/bin/env python

import datetime,os,sys,shutil

log_path = '/app/nginx/logs/'

log_file = 'www_access.log'

yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))

try:

os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \

yesterday.strftime('%m'))

except OSError,e:

print

print e

sys.exit()

shutil.move(log_path + log_file,log_path \

+ yesterday.strftime('%Y') + os.sep \

+ yesterday.strftime('%m') + os.sep \

+ log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')

os.popen("sudo kill -USR1 `cat /app/nginx/logs/nginx.pid`")

--------------------------------------------------------------------------------------

其他業務日誌的切割腳本跟上面做法相同

二、shell腳本實現日誌切割

[root@qd-vpc-op-consumer01 ~]# cat /app/script/log_rotate.sh

#!/bin/sh

function rotate() {

logs_path=$1

echo Rotating Log: $1

cp ${logs_path} ${logs_path}.$(date -d "yesterday" +"%Y%m%d")

> ${logs_path}

rm -f ${logs_path}.$(date -d "7 days ago" +"%Y%m%d")

}

for i in $*

do

rotate $i

done

--------------------------------------------------------------------------------------------------------------

每天定時切割日誌的任務制定（比如對python的一個業務/data/log/xcspam/下的日誌進行切割，0K的日誌不進行切割）：

[root@qd-vpc-op-consumer01 ~]# crontab -e

#xcspam 日誌切割

30 0 * * * find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh

手動執行切割：

[root@qd-vpc-op-consumer01 ~]# find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh

切割後的日誌效果：

[root@qd-vpc-op-consumer01 ~]# ls /data/log/xcspam/

xcspam_error.log xcspam_error.log-20170926

--------------------------------------------------------------------------------------------------------------

比如對maridb日誌進行切割

[root@qd-vpc-op-consumer01 ~]# crontab -e

#xcspam 日誌切割

30 0 * * * find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh

[root@qd-vpc-op-consumer01 ~]# find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh

[root@qd-vpc-op-consumer01 ~]# ll /var/log/mariadb/

總用量 8

-rw-r-----. 1 mysql mysql 0 9月 17 20:31 mariadb.log

-rw-r-----. 1 root root 4532 9月 17 20:31 mariadb.log.20170916

--------------------------------------------------------------------------------------------------------------

logrotate 的使用簡介

使用c#強大的表達式樹實現對象的深克隆之解決循環引用的問題

痞子衡嵌入式：恩智浦i.MX RT1xxx系列MCU啓動那些事（12.A）- uSDHC eMMC啓動時間(RT1170)

GPT-4o 引領人機交互新風向，向量數據庫賽道沸騰了

企業大模型如何成爲自己數據的“百科全書”？

本地SSL證書過期輸入命令在IIS自動生成

基於Ubuntu-22.04安裝K8s-v1.28.2實驗（二）使用kube-vip實現集羣VIP訪問

.NET週刊【5月第2期 2024-05-12】

k8s create configmap --from-file 的正確用法

IPV6詳解

ipv6 環境下完美使用scp

【1】linux 常用命令：ls

linux cp 實戰: 一次cp操作引發的災難

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結