Was zunächst wie ein kleines Spielzeug für einfache, persönliche Helfertätigkeiten wirkt, kann sich rasch zu einem autonomen Akteur entwickeln: Ein KI-Agent, der eigenständig Daten abruft, Prozesse anstößt, Tools orchestriert oder Entscheidungen mit operativer Wirkung trifft.

Sobald mehrere KI-Agenten miteinander interagieren und Aufgaben aneinander delegieren, entsteht ein schwer nachvollziehbares Netzwerk von Entscheidungen. Spätestens jetzt ist das Spielzeug kein Spielzeug mehr. Um KI-Agenten skalierbar einzusetzen, müssen Organisationen lernen, Autonomie zu steuern, bevor sie die Kontrolle verlieren.

In diesem Vortrag betrachten wir deshalb, wie Unternehmen die Komplexität von KI-Agenten systematisch handhaben, Governance und Compliance sicherstellen und gleichzeitig den Produktivitätsvorteil autonomer Agenten nutzen können.

Wir gehen u.a. diesen Fragen nach:

  • Welche Risiken entstehen, wenn mehrere KI-Agenten miteinander interagieren, und wie lassen sie sich minimieren?
  • Welche Mechanismen lassen sich implementieren, um autonome Aktionen in Echtzeit zu überwachen und bei Bedarf einzugreifen?
  • Welche Szenarien für Fehlentscheidungen oder unerwartete Kaskadeneffekte müssen Unternehmen besonders beachten?
  • Welche Aufgaben erfordern menschliche Aufsicht, welche können KI-Agenten gegenseitig überwachen, und wie lässt sich dies praktisch und ressourcenschonend organisieren?
  • Was schreibt die EU, insbesondere der AI Act, für den Einsatz von KI-Agenten vor?