KI-Schulungsthema · Steuern

AI Security und Prompt Injection

Welche Angriffs- und Fehlerszenarien entstehen bei KI-Anwendungen, und welche Kontrollen wirken tatsächlich?

Der Workshop oder technische Deep Dive ordnet Prompt Injection, Datenabfluss, unsichere Werkzeugaufrufe und übermäßige Handlungsfreiheit entlang einer konkreten Architektur ein. Schutzmaßnahmen werden mit Test- und Betriebskriterien verbunden.

Themenworkshop, Technischer Deep Dive

Thema besprechen

Inhalt

Worum es konkret geht

Prompt Injection und indirekte Anweisungen
Datenabfluss, unsichere Ausgaben und unzulässige Kontextnutzung
Tool Abuse, Excessive Agency und Berechtigungsgrenzen
Security-Evaluation, Monitoring, Fallback und Incident Response

Lernziele

Was Teilnehmende anschließend können sollen

1
KI-spezifische Angriffsflächen erkennen
Prompts, Kontextquellen, Retrieval, Werkzeuge, Ausgaben und Integrationen systematisch betrachten.
2
Kontrollen passend zum Risiko auswählen
Berechtigungen, Isolation, Validierung, Filter, menschliche Freigabe und Monitoring sinnvoll kombinieren.
3
Tests und Vorfallwege vorbereiten
Missbrauchs- und Fehlerszenarien reproduzierbar prüfen und Signale für Erkennung, Eingriff und Eskalation festlegen.

Anwendung

Praxisaufgabe und Ergebnisartefakte

Praxisaufgabe

Bedrohung und Kontrolle an einer KI-Funktion verbinden: Eine Architektur markieren, Angriffspfade beschreiben und technische sowie organisatorische Kontrollen mit Testkriterien zuordnen.

Ergebnisartefakte

Architekturbezogenes KI-Bedrohungsbild
Priorisierte Kontroll- und Maßnahmenmatrix
Security-Testfälle sowie Erkennungs- und Eskalationskriterien

Durchführung

Mögliche Formate

1
Themenworkshop
Das Thema an realen Fällen bearbeiten und ein konkretes Arbeitsergebnis entwickeln.

Dauer: halber oder ganzer Tag · Gruppengröße: typisch 6–16 Personen

Workshop anfragen
2
Technischer Deep Dive
Architektur, Kontrollen und Ergebnisartefakte mit hohem Praxisanteil erarbeiten.

Dauer: halber oder ganzer Tag · Gruppengröße: typisch 6–16 Personen

Deep Dive anfragen

Lernpfad

Passende rollenbezogene Schulungen

Nächster Schritt

Thema auf Ihre Anwendungsfälle zuschneiden

Wir stimmen Zielgruppe, Vorwissen, Format und Ergebnisartefakte auf Ihre Werkzeuge und internen Vorgaben ab.