GPTs, Chatbots, Wissenssuchen (RAG) und agentische Workflows lassen neue Incident-Klassen entstehen, die sich mit klassischer IT-Forensik nur unvollständig aufklären lassen. In diesem Vortrag zeige ich, wie AI-Forensik bei LLM-Apps praktisch funktioniert: von (in)direkter Prompt-Injection über RAG-Manipulation und Content Poisoning bis hin zu Tool-Missbrauch und ungewollten Aktionen im Kontext betrieblicher Systeme.

Wir analysieren, welche Spuren in LLM-Stacks wirklich beweisrelevant sind und wie man Systeme „forensic-ready“ baut: manipulationssichere Protokollierung, reproduzierbare Replays, saubere Korrelation über Komponenten sowie pragmatische Triage- und Containment-Schritte. Dabei ordnen wir ein, warum Prompt-Injection als „confusable deputy“-Problem oft nur risikominimiert (nicht „weggefixt“) werden kann – und welche deterministischen Kontrollen den Schaden begrenzen.

Ergänzend schlagen wir die Brücke zu AI-Governance und Regulatorik und beantworten die Frage: Wie Forensik-Anforderungen in Policies, Rollen- und Rechtekonzepte, Logging- und Retention-Regeln sowie Freigabeprozesse für Datenquellen und Tools übersetzt werden können. Und: Wie ein pragmatischer Governance-Rahmen aussieht, der Nachvollziehbarkeit, Auditierbarkeit und Incident-Readiness als Betriebsstandard etabliert.