Viele Produkte integrieren mittlerweile Chatbots und LLMs, um die Funktionsvielfalt zu steigern. Beispielsweise kann dadurch eine Mailing-App passende Antworten autonom formulieren und senden. Fragt man Entwickler nach Angriffsszenarien, sind häufige Antworten Prompt-Hacking oder Jailbreaking – doch es gibt noch mehr zu beachten!

In unserem Vortrag geben wir eine Übersicht, wie integrierte KIs neue Angriffsvektoren schaffen. Wir führen in das Prompt-Hacking und Jailbreaking ein und beleuchten komplexere Angriffe wie den Wurm Morris II, der KIs in Mailing-Apps angreift. Abschließend gehen wir auf Best Practices für eine sichere Integration von KIs ein.