Red Teaming bezeichnet eine strukturierte Methode zur Simulation realistischer Angriffe auf Systeme, Organisationen oder Prozesse. Ein sogenanntes Red Team übernimmt dabei die Rolle eines Angreifers und versucht, Sicherheitsmechanismen zu umgehen.
Die Methode wird in verschiedenen Bereichen eingesetzt, zum Beispiel:
- Informationssicherheit (Angriffe auf IT-Systeme)
- Cyber Security (Simulation von Hackerangriffen)
- Künstliche Intelligenz (Testen von Manipulationen oder Missbrauch)
- Organisation und Prozesse (z. B. Social Engineering)
Im Gegensatz zu klassischen Penetrationstests ist Red Teaming häufig szenariobasiert und umfassender. Es betrachtet nicht nur technische Schwachstellen, sondern auch menschliche Faktoren und organisatorische Abläufe.
Bei KI-Systemen kann Red Teaming z. B. versuchen:
- Prompt Injection auszulösen
- Bias oder Fehlverhalten zu identifizieren
- Sicherheitsmechanismen zu umgehen
Beispiel:
Ein Red Team versucht, über Phishing Zugang zu internen Systemen zu erhalten, um zu prüfen, ob Sicherheitskontrollen und Mitarbeiterschulungen wirksam sind.
