Автоматический скрипт для архивирования журналов IIS?
-
09-06-2019 - |
Вопрос
Я хотел бы написать сценарий/пакет, который будет группировать мои ежедневные журналы IIS и архивировать их по месяцам.
ex080801.log, который имеет формат exггммдд.бревно
ex080801.log — ex080831.log заархивируется, а файлы журнала удаляются.
Причина, по которой мы это делаем, заключается в том, что на тяжелом сайте размер файла журнала за один день может составлять от 500 МБ до 1 ГБ, поэтому мы заархивируем их, что сжимает их на 98%, и выгружаем реальный файл журнала.Мы используем webtrend для анализа файлов журналов, и он может считывать их в zip-файл.
Есть ли у кого-нибудь идеи о том, как это написать, или он готов поделиться кодом?
Решение
Для архивирования файлов вам понадобится инструмент командной строки.Я рекомендую 7-Zip который бесплатен и прост в использовании.Автономная версия командной строки (7za.exe) является наиболее портативным вариантом.
Вот двухстрочный пакетный файл, который заархивирует файлы журнала и впоследствии удалит их:
7za.exe a -tzip ex%1-logs.zip %2\ex%1*.log
del %2\ex%1*.log
Первый параметр — это 4-значный год и месяц, а второй параметр — это путь к каталогу, содержащему ваши журналы.Например: ziplogs.bat 0808 c:\logs
Можно получить более подробную информацию (т.поиск по именам файлов, чтобы определить, какие месяцы архивировать).Возможно, вы захотите проверить Windows НАЙДСТР команда для поиска входного текста с помощью регулярных выражений.
Другие советы
Вот мой сценарий, который в основном адаптирует сценарий Дэвида, архивирует журналы прошлого месяца, перемещает их и удаляет исходные файлы журналов.это можно адаптировать и для журналов Apache.Единственная проблема заключается в том, что вам может потребоваться отредактировать команды замены, если ваша функция даты DOS выводит дату недели.Вам также необходимо установить 7-zip.
Вы также можете скачать IISlogslite, но он сжимает файл каждого дня в один zip-файл, что мне не показалось полезным.В сети есть vbscript, который делает то же самое.
------------------------------------------------------------------------------------- @echo on :: Name - iislogzip.bat :: Description - Server Log File Manager :: :: History :: Date Authory Change :: 27-Aug-2008 David Crow Original (found on stack overflow) :: 15-Oct-2008 AIMackenzie Slimmed down commands :: ======================================================== :: setup variables and parameters :: ======================================================== :: generate date and time variables set month=%DATE:~3,2% set year=%DATE:~8,2% ::Get last month and check edge conditions set /a lastmonth=%month%-1 if %lastmonth% equ 0 set /a year=%year%-1 if %lastmonth% equ 0 set lastmonth=12 if %lastmonth% lss 10 set lastmonth=0%lastmonth% set yymm=%year%%lastmonth% set logpath="C:\WINDOWS\system32\LogFiles" set zippath="C:\Program Files\7-Zip\7z.exe" set arcpath="C:\WINDOWS\system32\LogFiles\WUDF" :: ======================================================== :: Change to log file path :: ======================================================== cd /D %logpath% :: ======================================================== :: zip last months IIS log files, move zipped file to archive :: then delete old logs :: ======================================================== %zippath% a -tzip ex%yymm%-logs.zip %logpath%\ex%yymm%*.log move "%logpath%\*.zip" "%arcpath%" del %logpath%\ex%yymm%*.log
Мы используем сценарий, подобный следующему.Gzip из проекта cygwin.Я уверен, что вы могли бы изменить синтаксис, чтобы вместо этого использовать инструмент zip.Аргумент «пропустить» — это количество файлов, которые нельзя архивировать — мы храним 11 дней в «текущем» каталоге.
@echo off
setlocal
For /f "skip=11 delims=/" %%a in ('Dir D:\logs\W3SVC1\*.log /B /O:-N /T:C')do move "D:\logs\W3SVC1\%%a" "D:\logs\W3SVC1\old\%%a"
d:
cd "\logs\W3SVC1\old"
gzip -n *.log
Endlocal
exit
Вы можете получить пакет утилит командной строки по адресу ДотНетЗип чтобы получить инструменты для создания zip-архивов из скриптов.Есть небольшой приятный инструмент под названием Zipit.exe, который запускается из командной строки и добавляет файлы или каталоги в zip-файлы.Это быстро, эффективно.
Лучшим вариантом может быть просто выполнить архивирование из PowerShell.
function ZipUp-Files ( $directory )
{
$children = get-childitem -path $directory
foreach ($o in $children)
{
if ($o.Name -ne "TestResults" -and
$o.Name -ne "obj" -and
$o.Name -ne "bin" -and
$o.Name -ne "tfs" -and
$o.Name -ne "notused" -and
$o.Name -ne "Release")
{
if ($o.PSIsContainer)
{
ZipUp-Files ( $o.FullName )
}
else
{
if ($o.Name -ne ".tfs-ignore" -and
!$o.Name.EndsWith(".cache") -and
!$o.Name.EndsWith(".zip") )
{
Write-output $o.FullName
$e= $zipfile.AddFile($o.FullName)
}
}
}
}
}
[System.Reflection.Assembly]::LoadFrom("c:\\\bin\\Ionic.Zip.dll");
$zipfile = new-object Ionic.Zip.ZipFile("zipsrc.zip");
ZipUp-Files "DotNetZip"
$zipfile.Save()
Заимствована функция zip из http://blogs.msdn.com/daiken/archive/2007/02/12/compress-files-with-windows-powershell-then-package-a-windows-vista-sidebar-gadget.aspx
Вот ответ PowerShell, который творит чудеса:
param([string]$Path = $(read-host "Enter the path"))
function New-Zip
{
param([string]$zipfilename)
set-content $zipfilename ("PK" + [char]5 + [char]6 + ("$([char]0)" * 18))
(dir $zipfilename).IsReadOnly = $false
}
function Add-Zip
{
param([string]$zipfilename)
if(-not (test-path($zipfilename)))
{
set-content $zipfilename ("PK" + [char]5 + [char]6 + ("$([char]0)" * 18))
(dir $zipfilename).IsReadOnly = $false
}
$shellApplication = new-object -com shell.application
$zipPackage = $shellApplication.NameSpace($zipfilename)
foreach($file in $input)
{
$zipPackage.CopyHere($file.FullName)
Start-sleep -milliseconds 500
}
}
$FilesToZip = dir $Path -recurse -include *.log
foreach ($file in $FilesToZip) {
New-Zip $file.BaseName
dir $($file.directoryname+"\"+$file.name) | Add-zip $($file.directoryname+"\$($file.basename).zip")
del $($file.directoryname+"\"+$file.name)
}
Мы используем этот скрипт PowerShell: http://gallery.technet.microsoft.com/scriptcenter/31db73b4-746c-4d33-a0aa-7a79006317e6
Он использует 7-zip и проверяет файлы перед их удалением.
Regex сделает свое дело...создайте скрипт perl/python/php, который сделает всю работу за вас.
Я почти уверен, что пакетный файл Windows не может выполнять регулярное выражение.