...Poisoning-Attacke?

Eine Poisoning-Attacke, auch Vergiftungsangriff genannt, bezeichnet die gezielte Manipulation von Daten. Sie soll zum Beispiel dazu dienen, eine Künstliche Intelligenz, einen Filter oder Sicherheitsmechanismen mit falschen Informationen zu füttern und sie so einzuschränken bzw. unbrauchbar zu machen. Besonders gefährdet sind dabei lernende Systeme wie Künstliche Intelligenzen, Firewalls, Spamfilter und Virenscanner.

Wie funktioniert eine Poisoning-Attacke?

Ein System wird gezielt mit manipulierten Daten gefüttert. Die Systeme sollen dadurch lernen, falsche Entscheidungen zu treffen:

• Spamfilter erkennen echte Spam-Mails nicht mehr
• KI stuft Bilder, Texte oder andere Informationen falsch ein (z.B. gefährliche Inhalte als harmlos)
• Sicherheitssysteme erkennen echte Bedrohungen nicht mehr oder blockieren harmlose Vorgänge
• KI lernt falsche Informationen und ordnet diese als richtig ein

Poisoning-Attacken geschehen meist, ohne dass sie sich klar zu erkennen geben, da es sich typischerweise nicht um ein Programm oder einen Virus handelt, und somit kein lokaler, erkennbarer Code in dem betroffenen System vorhanden ist.

Wie kann man sich davor schützen?

Der Schutz vor solchen Angriffen sollte in mehreren Etappen erfolgen:

1. Schutz vor Angriffen

2. Eindämmung der Auswirkungen

Konkret bedeutet das, dass wie so häufig die Einführung von EDR- und Firewall-Lösungen als Angriffsschutz nicht ausreicht, sondern auch die Eingrenzung potenzieller Auswirkungsbereiche zu den effektivsten Methoden gehört. Durch klar strukturierte Systeme mit Netzwerk-Segmentierung und Zero-Trust-Konzepten können erfolgte Einflüsse durch Poisoning-Angriffe in einem möglichst kleinen Rahmen gehalten werden. Hilfreich ist auch ein Monitoring, das verdächtige Vorgehensweise und Aktivitäten erkennt. Grundlage jeder solcher Abwehrstrategie sind außerdem regelmäßige Patches und Updates für alle bedrohten Systeme, um auch deren Software an die ständig neuen Bedrohungen anzupassen.