#################################################################################################################################### # COMMON LOG MODULE #################################################################################################################################### package BackRest::Common::Log; use threads; use strict; use warnings FATAL => qw(all); use Carp qw(confess longmess); use Exporter qw(import); our @EXPORT = qw(); use Fcntl qw(:DEFAULT :flock); use File::Basename qw(dirname); use Scalar::Util qw(blessed reftype); use Time::HiRes qw(gettimeofday usleep); use lib dirname($0) . '/../lib'; use BackRest::Common::Exception; use BackRest::Common::String; #################################################################################################################################### # Boolean constants #################################################################################################################################### use constant true => 1; push @EXPORT, qw(true); use constant false => 0; push @EXPORT, qw(false); #################################################################################################################################### # Log level constants #################################################################################################################################### use constant TRACE => 'TRACE'; push @EXPORT, qw(TRACE); use constant DEBUG => 'DEBUG'; push @EXPORT, qw(DEBUG); use constant INFO => 'INFO'; push @EXPORT, qw(INFO); use constant WARN => 'WARN'; push @EXPORT, qw(WARN); use constant ERROR => 'ERROR'; push @EXPORT, qw(ERROR); use constant ASSERT => 'ASSERT'; push @EXPORT, qw(ASSERT); use constant REMOTE => 'REMOTE'; push @EXPORT, qw(REMOTE); use constant OFF => 'OFF'; push @EXPORT, qw(OFF); #################################################################################################################################### # Log levels ranked by severity #################################################################################################################################### my %oLogLevelRank; $oLogLevelRank{TRACE}{rank} = 7; $oLogLevelRank{DEBUG}{rank} = 6; $oLogLevelRank{INFO}{rank} = 5; $oLogLevelRank{WARN}{rank} = 4; $oLogLevelRank{ERROR}{rank} = 3; $oLogLevelRank{ASSERT}{rank} = 2; $oLogLevelRank{REMOTE}{rank} = 1; $oLogLevelRank{OFF}{rank} = 0; #################################################################################################################################### # Module globals #################################################################################################################################### my $hLogFile; my $strLogLevelFile = ERROR; my $strLogLevelConsole = REMOTE; # Test globals my $bTest = false; my $fTestDelay; my $oTestPoint; #################################################################################################################################### # Test constants #################################################################################################################################### use constant TEST => 'TEST'; push @EXPORT, qw(TEST); use constant TEST_ENCLOSE => 'PgBaCkReStTeSt'; push @EXPORT, qw(TEST_ENCLOSE); use constant TEST_MANIFEST_BUILD => 'MANIFEST-BUILD'; push @EXPORT, qw(TEST_MANIFEST_BUILD); use constant TEST_BACKUP_RESUME => 'BACKUP-RESUME'; push @EXPORT, qw(TEST_BACKUP_RESUME); use constant TEST_BACKUP_NORESUME => 'BACKUP-NORESUME'; push @EXPORT, qw(TEST_BACKUP_NORESUME); use constant TEST_BACKUP_START => 'BACKUP-START'; push @EXPORT, qw(TEST_BACKUP_START); use constant TEST_KEEP_ALIVE => 'KEEP_ALIVE'; push @EXPORT, qw(TEST_KEEP_ALIVE); use constant TEST_ARCHIVE_PUSH_ASYNC_START => 'ARCHIVE-PUSH-ASYNC-START'; push @EXPORT, qw(TEST_ARCHIVE_PUSH_ASYNC_START); #################################################################################################################################### # logFileSet - set the file messages will be logged to #################################################################################################################################### sub logFileSet { my $strFile = shift; # Only open the log file if file logging is enabled if ($strLogLevelFile ne OFF) { unless (-e dirname($strFile)) { mkdir(dirname($strFile), oct('0770')) or die "unable to create directory " . dirname($strFile) . " for log file ${strFile}"; } $strFile .= '-' . timestampFormat('%4d%02d%02d') . '.log'; my $bExists = false; if (-e $strFile) { $bExists = true; } sysopen($hLogFile, $strFile, O_WRONLY | O_CREAT | O_APPEND, 0660) or confess &log(ERROR, "unable to open log file ${strFile}", ERROR_FILE_OPEN); if ($bExists) { syswrite($hLogFile, "\n"); } syswrite($hLogFile, "-------------------PROCESS START-------------------\n"); } } push @EXPORT, qw(logFileSet); #################################################################################################################################### # logLevelSet - set the log level for file and console #################################################################################################################################### sub logLevelSet { my $strLevelFileParam = shift; my $strLevelConsoleParam = shift; if (defined($strLevelFileParam)) { if (!defined($oLogLevelRank{uc($strLevelFileParam)}{rank})) { confess &log(ERROR, "file log level ${strLevelFileParam} does not exist"); } $strLogLevelFile = uc($strLevelFileParam); } if (defined($strLevelConsoleParam)) { if (!defined($oLogLevelRank{uc($strLevelConsoleParam)}{rank})) { confess &log(ERROR, "console log level ${strLevelConsoleParam} does not exist"); } $strLogLevelConsole = uc($strLevelConsoleParam); } } push @EXPORT, qw(logLevelSet); #################################################################################################################################### # logDebugParam # # Log parameters passed to functions. #################################################################################################################################### use constant DEBUG_PARAM => '()'; sub logDebugParam { my $strFunction = shift; my $oyParamRef = shift; return logDebugProcess($strFunction, DEBUG_PARAM, undef, $oyParamRef, @_); } push @EXPORT, qw(logDebugParam); #################################################################################################################################### # logDebugReturn # # Log values returned from functions. #################################################################################################################################### use constant DEBUG_RETURN => '=>'; sub logDebugReturn { my $strFunction = shift; return logDebugProcess($strFunction, DEBUG_RETURN, undef, undef, @_); } push @EXPORT, qw(logDebugReturn); #################################################################################################################################### # logDebugMisc # # Log misc values and details during execution. #################################################################################################################################### use constant DEBUG_MISC => ''; sub logDebugMisc { my $strFunction = shift; my $strDetail = shift; return logDebugProcess($strFunction, DEBUG_MISC, $strDetail, undef, @_); } push @EXPORT, qw(logDebugMisc); #################################################################################################################################### # logDebugProcess #################################################################################################################################### sub logDebugProcess { my $strFunction = shift; my $strType = shift; my $strDetail = shift; my $oyParamRef = shift; my $iIndex = 0; my $oParamHash = {}; my @oyResult; my $bLogTrace = true; if ($strType eq DEBUG_PARAM) { push @oyResult, $strFunction; } # Process each parameter hash my $oParam = shift; while (defined($oParam)) { my $strParamName = $$oParam{name}; my $oValue; # Push the return value into the return value array if ($strType eq DEBUG_PARAM) { if (defined($$oyParamRef[$iIndex])) { push(@oyResult, $$oyParamRef[$iIndex]); } else { push(@oyResult, $${oParam}{default}); $$oParamHash{$strParamName}{default} = true; } $oValue = $oyResult[@oyResult - 1]; if (!defined($oValue) && (!defined($${oParam}{required}) || $${oParam}{required})) { confess &log(ASSERT, "${strParamName} is required in ${strFunction}"); } } else { if (ref($$oParam{value}) eq 'ARRAY') { if (defined($$oParam{ref}) && $$oParam{ref}) { push(@oyResult, $$oParam{value}); } else { push(@oyResult, @{$$oParam{value}}); } } else { push(@oyResult, $$oParam{value}); } $oValue = $$oParam{value}; } if (!defined($$oParam{log}) || $$oParam{log}) { # If the parameter is a hash but not blessed then represent it as a string # !!! This should go away once the inputs to logDebug can be changed if (ref($oValue) eq 'HASH' && !blessed($oValue)) { $$oParamHash{$strParamName}{value} = '[hash]'; } # Else log the parameter value exactly else { $$oParamHash{$strParamName}{value} = $oValue; } # There are certain return values that it's wasteful to generate debug logging for if (!($strParamName eq 'self') && (!defined($$oParam{trace}) || !$$oParam{trace})) { $bLogTrace = false; } } # Get the next parameter hash $oParam = shift; $iIndex++; } if (defined($strDetail) && $iIndex == 0) { $bLogTrace = false; } logDebugOut($strFunction, $strType, $strDetail, $oParamHash, $bLogTrace ? TRACE : DEBUG); # If there are one or zero return values then just return a scalar (this will be undef if there are no return values) if (@oyResult == 1) { return $oyResult[0]; } # Else return an array containing return values return @oyResult; } #################################################################################################################################### # logDebugOut #################################################################################################################################### use constant DEBUG_STRING_MAX_LEN => 1024; sub logDebugOut { my $strFunction = shift; my $strType = shift; my $strMessage = shift; my $oParamHash = shift; my $strLevel = shift; $strLevel = defined($strLevel) ? $strLevel : DEBUG; if ($oLogLevelRank{$strLevel}{rank} <= $oLogLevelRank{$strLogLevelConsole}{rank} || $oLogLevelRank{$strLevel}{rank} <= $oLogLevelRank{$strLogLevelFile}{rank}) { if (defined($oParamHash)) { my $strParamSet; foreach my $strParam (sort(keys(%$oParamHash))) { if (defined($strParamSet)) { $strParamSet .= ', '; } my $strValueRef; my $bDefault = false; if (ref($$oParamHash{$strParam}) eq 'HASH') { if (blessed($$oParamHash{$strParam}{value})) { $strValueRef = \'[object]'; } else { if (ref($$oParamHash{$strParam}{value}) eq 'ARRAY') { $strValueRef = \('(' . join(', ', @{$$oParamHash{$strParam}{value}}) . ')'); } else { $strValueRef = ref($$oParamHash{$strParam}{value}) ? $$oParamHash{$strParam}{value} : \$$oParamHash{$strParam}{value}; $bDefault = defined($$strValueRef) && defined($$oParamHash{$strParam}{default}) ? $$oParamHash{$strParam}{default} : false; } } } # If this is an ARRAY ref then create a comma-separated list elsif (ref($$oParamHash{$strParam}) eq 'ARRAY') { $strValueRef = \(join(', ', @{$$oParamHash{$strParam}})); } # Else get a reference if a reference was not passed else { $strValueRef = ref($$oParamHash{$strParam}) ? $$oParamHash{$strParam} : \$$oParamHash{$strParam}; } $strParamSet .= "${strParam} = " . ($bDefault ? '<' : '') . (defined($$strValueRef) ? ($strParam =~ /^(b|is)/ ? ($$strValueRef ? 'true' : 'false'): (length($$strValueRef) > DEBUG_STRING_MAX_LEN ? substr($$strValueRef, 0, DEBUG_STRING_MAX_LEN) . ' ... ': $$strValueRef)) : '[undef]') . ($bDefault ? '>' : ''); } if (defined($strMessage)) { $strMessage = $strMessage . (defined($strParamSet) ? ": ${strParamSet}" : ''); } else { $strMessage = $strParamSet; } } &log($strLevel, "${strFunction}${strType}" . (defined($strMessage) ? ": $strMessage" : '')); } } #################################################################################################################################### # LOG - log messages #################################################################################################################################### sub log { my $strLevel = shift; my $strMessage = shift; my $iCode = shift; my $bSuppressLog = shift; my $iIndent = shift; # Set defaults $bSuppressLog = defined($bSuppressLog) ? $bSuppressLog : false; # Set operational variables my $strMessageFormat = $strMessage; my $iLogLevelRank = $oLogLevelRank{"${strLevel}"}{rank}; # If test message if ($strLevel eq TEST) { if (!defined($oTestPoint) || !defined($$oTestPoint{lc($strMessage)})) { return; } $iLogLevelRank = $oLogLevelRank{TRACE}{rank} + 1; $strMessageFormat = TEST_ENCLOSE . '-' . $strMessageFormat . '-' . TEST_ENCLOSE; } # Else level rank must be valid elsif (!defined($iLogLevelRank)) { confess &log(ASSERT, "log level ${strLevel} does not exist"); } # If message was undefined then set default message if (!defined($strMessageFormat)) { $strMessageFormat = '(undefined)'; } $strMessageFormat = (defined($iCode) ? "[${iCode}]: " : '') . $strMessageFormat; # Indent subsequent lines of the message if it has more than one line - makes the log more readable if (defined($iIndent)) { my $strIndent = ' ' x $iIndent; $strMessageFormat =~ s/\n/\n${strIndent}/g; } else { $strMessageFormat =~ s/\n/\n /g; } if ($strLevel eq TRACE || $strLevel eq TEST) { $strMessageFormat =~ s/\n/\n /g; $strMessageFormat = ' ' . $strMessageFormat; } elsif ($strLevel eq DEBUG) { $strMessageFormat =~ s/\n/\n /g; $strMessageFormat = ' ' . $strMessageFormat; } elsif ($strLevel eq ERROR) { if (!defined($iCode)) { $iCode = ERROR_UNKNOWN; } $strMessageFormat =~ s/\n/\n /g; } # Format the message text my ($sec, $min, $hour, $mday, $mon, $year, $wday, $yday, $isdst) = localtime(time); $strMessageFormat = timestampFormat() . sprintf('.%03d T%02d', (gettimeofday() - int(gettimeofday())) * 1000, threads->tid()) . (' ' x (7 - length($strLevel))) . "${strLevel}: ${strMessageFormat}\n"; # Output to console depending on log level and test flag if ($iLogLevelRank <= $oLogLevelRank{$strLogLevelConsole}{rank} || $bTest && $strLevel eq TEST) { if (!$bSuppressLog) { syswrite(*STDOUT, $strMessageFormat); } # If in test mode and this is a test messsage then delay so the calling process has time to read the message if ($bTest && $strLevel eq TEST && $fTestDelay > 0) { usleep($fTestDelay * 1000000); } } elsif ($strLogLevelConsole eq REMOTE && ($strLevel eq ASSERT || $strLevel eq ERROR)) { syswrite(*STDERR, $strLevel . (defined($iCode) ? " [${iCode}]" : '') . ": $strMessage\n"); } # Output to file depending on log level and test flag if ($iLogLevelRank <= $oLogLevelRank{$strLogLevelFile}{rank}) { if (defined($hLogFile)) { if (!$bSuppressLog) { syswrite($hLogFile, $strMessageFormat); if ($strLevel eq ASSERT || ($strLevel eq ERROR && ($strLogLevelFile eq DEBUG || $strLogLevelFile eq TRACE))) { my $strStackTrace = longmess() . "\n"; $strStackTrace =~ s/\n/\n /g; syswrite($hLogFile, $strStackTrace); } } } } # Throw a typed exception if code is defined if (defined($iCode)) { return new BackRest::Common::Exception($iCode, $strMessage, longmess()); } # Return the message test so it can be used in a confess return $strMessage; } push @EXPORT, qw(log); #################################################################################################################################### # testSet # # Set test parameters. #################################################################################################################################### sub testSet { my $bTestParam = shift; my $fTestDelayParam = shift; my $oTestPointParam = shift; # Set defaults $bTest = defined($bTestParam) ? $bTestParam : false; $fTestDelay = defined($bTestParam) ? $fTestDelayParam : $fTestDelay; $oTestPoint = $oTestPointParam; # Make sure that a delay is specified in test mode if ($bTest && !defined($fTestDelay)) { confess &log(ASSERT, 'iTestDelay must be provided when bTest is true'); } # Test delay should be between 1 and 600 seconds if (!($fTestDelay >= 0 && $fTestDelay <= 600)) { confess &log(ERROR, 'test-delay must be between 1 and 600 seconds'); } } push @EXPORT, qw(testSet); #################################################################################################################################### # testCheck - Check for a test message #################################################################################################################################### sub testCheck { my $strLog = shift; my $strTest = shift; return index($strLog, TEST_ENCLOSE . '-' . $strTest . '-' . TEST_ENCLOSE) != -1; } push @EXPORT, qw(testCheck); 1;