/

Linux log management: geavanceerde technieken en beste praktijken

door Team Ninja
Linux Log Management blog image
Linux Log Management blog image

Try our #1 rated endpoint management platform on G2

NinjaOne dashboard screenshot

Automate the Hardest Parts of IT

Belangrijkste punten

  • Stuur logs door naar ELK, (r)syslog of journald, zodat u gebeurtenissen tussen systemen kunt correleren in plaats van elke host apart te controleren.
  • Stel de rotatiefrequentie, het aantal bewaarde bestanden en compressie in via /etc/logrotate.conf om te voorkomen dat de schijfruimte volloopt en houd logs tegelijk beschikbaar voor troubleshooting en compliance.
  • Gebruik TLS met rsyslog wanneer u logs doorstuurt naar een centrale server om datalekken tijdens het transport te voorkomen.
  • Gebruik grep, awk, sed en journalctl om logs in realtime te doorzoeken, te filteren en te analyseren, onder meer op service, prioriteit of bootsessie.
  • Journald past bij hosts op basis van systemd, (r)syslog bij oudere en gemengde omgevingen en ELK bij grootschalige, centrale loganalyse.

Effectief Linux log management betekent dat u logs centraliseert (ELK, (r)syslog of journald), bewaarbeleid instelt met logrotate, logtransport beveiligt met TLS en commandoregeltools zoals grep, awk en journalctl inzet voor analyse. In dit artikel komt elk van deze praktijken uitgebreid aan bod.

Linux-logs zijn een schatkamer vol systeemactiviteit en geven inzicht in processen, fouten en beveiligingsincidenten. Effectief log management is cruciaal voor systeembeheerders en organisaties. Logs vormen een historisch overzicht dat helpt bij analyse na incidenten, performanceoptimalisatie en naleving van regelgeving. Monitoring van logs in realtime helpt afwijkingen en mogelijke beveiligingsinbreuken te detecteren, waardoor tijdig ingrijpen mogelijk wordt. Troubleshooting verloopt efficiënter omdat beheerders de onderliggende oorzaak achterhalen door logpatronen te analyseren. Uiteindelijk zorgt gedegen log management voor operationele continuïteit, verhoogt het de betrouwbaarheid van systemen en versnelt het de oplossing van problemen.
Log management kent echter ook uitdagingen. De enorme hoeveelheid logs die diverse applicaties en services genereren, kan beheerders overweldigen. Uiteenlopende logformaten en -locaties maken het samenbrengen complex en bemoeilijken een totaalanalyse. Een ontoereikend bewaarbeleid kan de schijfruimte volledig opslokken. Efficiënt en veilig logtransport is essentieel om datalekken tijdens de overdracht te voorkomen.
Bovendien is handmatige loganalyse tijdrovend en foutgevoelig. Het is een subtiele afweging tussen volledige logging en de impact op performance. Om deze uitdagingen aan te pakken zijn gestroomlijnde processen, geautomatiseerde tools, centralisatie, bewaarbeleid en effectieve analysetechnieken nodig waarmee u betekenisvolle inzichten uit de data haalt.

Soorten logs en hoe u ermee werkt

Logging
Aanpak
ELK (Elasticsearch, Logstash en Kibana)(r)syslogjournald
LoggingLogs worden verzameld met Logstash. Elasticsearch indexeert en bewaart de logs.Logs worden beheerd door de (r)syslog-daemon. Logs kunnen naar diverse bestanden worden weggeschreven.Logs worden beheerd door de journald-daemon. Logs worden opgeslagen in binair formaat.
TransportLogstash verwerkt de logs en transporteert ze naar Elasticsearch.syslog-ng en rsyslog transporteren logs naar externe servers of lokale bestanden.Native systemd-service voor logopslag.
IndexeringElasticsearch indexeert en doorzoekt logs en biedt krachtige indexering.(r)syslog kan logs doorsturen naar andere systemen voor centrale indexering.systemd-journald bewaart logs in geïndexeerde bestanden in /var/log/journal.
Logs doorzoekenKibana biedt een visuele interface voor loganalyse en visualisatie.Logs kunnen worden doorzocht met commandoregeltools of tools van derden.De commandoregeltool journalctl zoekt logs op en toont ze.
Voordelen
  • Centrale logverwerking.
  • Zeer aanpasbare indexering.
  • Interactieve dashboards (Kibana).
  • Overal aanwezig op Linux-systemen.
  • Licht en efficiënt.
  • Flexibel in het doorsturen van logs.
  • Efficiënte opslag van metadata.
  • Legt logs tijdens het opstarten vast.
Nadelen
  • Vraagt om installatie en onderhoud.
  • Verbruikt veel resources (RAM, opslag).
  • Complexe configuratie (Logstash).
Kan extra tools vereisen voor geavanceerde functies.Beperkte achterwaartse compatibiliteit.

Op Linux-systemen worden logs standaard opgeslagen in de map /var/log, al is dat technisch gezien willekeurig: met de juiste rechten kunt u logs overal bewaren. Elk logbestand heeft een specifiek doel, van het bijhouden van opstartberichten (dmesg) tot monitoring van aanmeldpogingen (auth.log).
Om bijvoorbeeld kernelgerelateerde berichten te bekijken, gebruikt u:
dmesg | less
Meer voorbeelden vindt u verderop in het gedeelte “Commandoregel onder de knie voor loganalyse”.

Voor een visuele uitleg kunt u de video Linux-logs begrijpen: overzicht met voorbeelden bekijken.

Linux-logs beheren

Centraal log management

Door logs te centraliseren verbetert u de analyse en troubleshooting, omdat logdata uit verschillende bronnen in één repository samenkomt. Dat vereenvoudigt de toegang en geeft een totaalbeeld van de systeemactiviteit, waardoor beheerders snel patronen, afwijkingen en mogelijke problemen in de hele infrastructuur herkennen.
Centrale logs maken het eenvoudiger om verbanden te leggen tussen verschillende logbronnen, zodat u de oorzaak van problemen die meerdere systemen of applicaties raken sneller achterhaalt. Beheerders kunnen consistente analysetechnieken toepassen, wat leidt tot snellere identificatie en oplossing van problemen.
Daarnaast maken centrale logs het mogelijk geavanceerde zoek-, filter- en rapportagetools in te zetten, waarmee beheerders efficiënt relevante informatie uit grote datasets halen. Daardoor herkent u kritieke gebeurtenissen sneller, begrijpt u het gedrag van systemen beter en reageert u vlotter op beveiligingsincidenten.
Centralisatie geeft beheerders een volledige, toegankelijke en overzichtelijke logrepository. Dat scheelt aanzienlijk in tijd en moeite bij loganalyse en troubleshooting en bevordert proactief systeembeheer en operationele integriteit.
Houd er rekening mee dat elke aanpak sterke en zwakke punten heeft. De keuze hangt af van factoren als de omvang van uw omgeving, specifieke use cases, beschikbare resources en uw vertrouwdheid met de technologieën.
Logs centraliseren biedt meerdere voordelen, waaronder een gestroomlijnde analyse en efficiënte troubleshooting. De ELK-stack (Elasticsearch, Logstash, Kibana) is daarvoor een populaire keuze. Elasticsearch indexeert en doorzoekt logs, Logstash parseert en stuurt ze door en Kibana zorgt voor de visualisatie.

Efficiënte back-up en bewaring van logs

journald gebruikt een binair logformaat voor efficiënte opslag. Logrotatie verloopt in journald automatisch en ruimtebesparend. Zodra de logopslag een vooraf ingestelde drempel nadert, worden oudere logs geleidelijk verwijderd. Zo blijft de opslaglimiet gehandhaafd en blijven recente logs beschikbaar voor analyse.
Bij (r)syslog/logrotate gelden dezelfde standaardregels op de meeste systemen die dit nog als primair logsysteem gebruiken. Het instellen van logrotate-beleid is een cruciale stap om logbestanden efficiënt te beheren. Door logbestanden te definiëren, de rotatiefrequentie te bepalen, bewaarbeleid in te stellen en aanvullende opties te gebruiken, zorgt u voor effectief beheer van logs. Zo voorkomt u problemen met schijfruimte en houdt u logs beschikbaar voor analyse en compliance.
Back-ups zijn eveneens essentieel voor historische analyse en compliance. Gebruik tools als rsync om efficiënt een back-up te maken. Automatiseer back-ups met cronjobs, zodat ze regelmatig worden bijgewerkt. Zet logrotate in om de omvang van logbestanden te beheersen en configureer het bewaarbeleid.

Logrotate-beleid configureren

Logrotate is een onmisbare tool voor het beheer van logbestanden op Linux-systemen. Hiermee bepaalt u het beleid voor logrotatie, compressie en bewaring. Hierna volgt een korte handleiding voor het configureren van logrotate-beleid:

Configuratiebestand

Open het configuratiebestand van logrotate met een teksteditor:
sudo nano /etc/logrotate.conf

Logbestanden definiëren

Geef in het configuratiebestand aan welke logbestanden u wilt beheren. Gebruik daarvoor de bloksyntaxis van logrotate:

/path/to/log/file {
    options
}

Opties

Pas het gedrag aan met verschillende opties. Veelgebruikte opties zijn onder andere:

  • daily: logs dagelijks roteren.
  • weekly: logs wekelijks roteren.
  • monthly: logs maandelijks roteren.
  • rotate X: X geroteerde logs bewaren.
  • compress: geroteerde logs comprimeren.
  • delaycompress: geroteerde logs comprimeren, maar de compressie uitstellen tot de volgende rotatie.

Bewaarbeleid toepassen

Om een bewaarbeleid voor logbestanden in te stellen gebruikt u de optie rotate, gevolgd door het aantal geroteerde logs dat u wilt bewaren. Bijvoorbeeld:

/var/log/syslog {
    daily
    rotate 7
}

Rotatiefrequentie aanpassen

Met de opties daily, weekly of monthly bepaalt u hoe vaak logrotatie plaatsvindt.

Eigen beleid toepassen

U kunt eigen logrotate-beleid maken voor specifieke applicaties door aparte configuratiebestanden toe te voegen in de map /etc/logrotate.d/.

Testen en uitvoeren

Test uw logrotate-configuratie met de vlag -d om het rotatieproces te simuleren zonder wijzigingen door te voeren:
sudo logrotate -d /etc/logrotate.conf
Bent u tevreden, voer de logrotatie dan uit met:
sudo logrotate /etc/logrotate.conf

Veilig logtransport

Logs veilig versturen is cruciaal om datalekken te voorkomen. Implementeer Transport Layer Security (TLS) met tools als OpenSSL om logdata tijdens het transport te versleutelen. Configureer daarnaast protocollen als rsyslog voor versleuteld doorsturen van logs over netwerkverbindingen. Een centrale rsyslog-server is een vrij gangbare manier om zonder systemd een centraal logsysteem op te zetten, vaak met een prettige, doorzoekbare web-GUI – stuur de syslogs van al uw servers naar een SQL-database op een centrale rsyslog-server en draai op die server vervolgens bijvoorbeeld php-syslog-ng.

Commandoregel onder de knie voor loganalyse

Met commandoregeltools analyseren beheerders logs efficiënt. Zet grep in om patronen in logbestanden te zoeken, awk om gestructureerde data te extraheren en sed om berichten te bewerken. Om logs bijvoorbeeld op een bepaald trefwoord te filteren:
grep -i "keyword" /var/log/syslog # Hoofdletterongevoelig zoeken op trefwoord in /var/log/syslog

Werken met (r)syslog-logs

Logs bekijken
  • cat /var/log/syslog # Toont de volledige syslog.
  • tail -n 50 /var/log/messages # Toont de laatste 50 regels van het messages-log.
  • tail -f /var/log/messages # “volgt” het log (houdt het log open en toont nieuwe regels)
Zoeken naar specifieke patronen

grep "error" /var/log/syslog # Zoekt naar het woord “error“ in syslog.

Logs doorsturen

echo "This is a test log" | logger # Stuurt een eigen logregel naar (r)syslog.

Werken met systemd-/journald-logs

Algemene en systeemlogs bekijken
  • journalctl # Toont alle beschikbare logs.
  • journalctl -u sshd # Toont de logs van de SSH-service.
Zoeken naar specifieke patronen
  • journalctl -p err # Toont logs met prioriteit “err” of hoger.
  • journalctl /usr/bin/bash # Toont logs van een specifiek proces of commando.
Bootlogs bekijken
  • journalctl -b # Toont de logs van de huidige bootsessie.
Noodlogs weergeven

Het commando “journalctl -xe” toont de systemd-journal met extra informatie over fouten. Concreet laat het de journal zien met prioriteitsniveau “emergency” en hoger, samen met aanvullende details over de fouten, zoals oorzaak en context.
Dit doet elk onderdeel van het commando:

  • -xe: dit zijn opties en parameters die aan het commando journalctl worden meegegeven:
  • -x: deze optie breidt de regels uit en toont het volledige bericht van elke logregel, inclusief extra details zoals context en de oorzaak van fouten.
  • -e: deze optie toont logs met prioriteitsniveau “emergency” en hoger. Binnen de logniveaus van de systemd-journal is “emergency” het hoogste niveau van ernst.

Wanneer u het commando journalctl -xe uitvoert, ziet u een realtime stroom van logs met prioriteitsniveau “emergency” en hoger, met gedetailleerde informatie over fouten en problemen die zich op uw systeem hebben voorgedaan. Die extra informatie is bijzonder nuttig bij het oplossen van kritieke problemen die onmiddellijke aandacht vragen.

Werken met ELK-logging

Logdata indexeren

Om logdata met Logstash in Elasticsearch te indexeren:
logstash -f /path/to/config.conf

Logs doorzoeken in Kibana

Open een browser en ga naar http://localhost:5601.
Gebruik de Query Language van Kibana om logs te filteren en te doorzoeken. Maak visualisaties en dashboards om de logdata te analyseren.

Geavanceerde technieken: parsen en visualiseren

Geavanceerde technieken draaien om het parsen van gestructureerde logs en het visualiseren van data. Tools als jq zijn handig om logs in JSON-formaat te parsen, zodat u specifieke velden selectief kunt uitlezen. Visualiseer logdata met de dashboards van Kibana en krijg inzicht in het gedrag van uw systemen.

Logs benutten: de weg naar operationele topkwaliteit

Binnen Linux-beheer is geavanceerd log management een onmisbaar instrument voor optimalisatie. Het belang van logs erkennen, commandoregelanalyse beheersen, logdata centraliseren en betrouwbare protocollen voor back-up en transport opzetten: dat vormt de basis van integriteit en beveiliging van systemen. Met deze praktijken voor Linux log management lost u problemen snel op en houdt u uw systemen scherp in de gaten.

Wilt u een visuele uitleg van deze praktijken, bekijk dan Linux log management: technieken en beste praktijken.

FAQs

De meeste Linux-distributies slaan logs standaard op in /var/log, verdeeld over bestanden als syslog, auth.log en dmesg. Beheerders kunnen de opslag met de juiste rechten echter naar elke andere locatie verplaatsen.

Tools op basis van syslog, zoals rsyslog, schrijven logs als platte tekst naar bestanden en kunnen ze doorsturen naar externe systemen. Journald slaat logs op in een geïndexeerd binair formaat dat door systemd wordt beheerd en dat u met journalctl doorzoekt.

Configureer logrotate-beleid, zoals de rotatiefrequentie, het aantal bewaarde bestanden en compressie, in /etc/logrotate.conf of in een bestand onder /etc/logrotate.d/ om logbestanden automatisch te roteren en op te schonen.

Meer om te lezen

Klaar om de moeilijkste delen van IT te vereenvoudigen?