Neuer Bericht von AXA XL und S-RM skizziert fünf Prioritäten für eine resiliente KI-Einführung

23. September 2026

AXA XL hat gemeinsam mit S-RM, einer global tätigen Unternehmensberatung für Corporate Intelligence und Cyber-Sicherheit, den Bericht „Building Resilient AI: Managing AI Risk through Governance, Security and Resilience“ veröffentlicht.

Der Bericht warnt davor, dass Künstliche Intelligenz (KI) deutlich schneller in kritische Geschäftsprozesse integriert wird, als viele Unternehmen ihre Governance-Strukturen, Sicherheitsmaßnahmen und Fähigkeiten zur Reaktion auf Vorfälle anpassen können. Unternehmen sollten KI-Risiken daher nicht isoliert als Technologie- oder Compliance-Thema betrachten, sondern als zentrale Herausforderung für die Resilienz.

Das Ausmaß der Herausforderung wächst rasant. Dem „State of AI Survey 2026“ von McKinsey & Company zufolge nutzen inzwischen 88 Prozent der Unternehmen KI in mindestens einer Geschäftsfunktion. Der neue Bericht kommt zu dem Schluss, dass KI zusätzliche potenzielle Einfallstore für Cyberbedrohungen schafft und gleichzeitig neue Formen operativer, regulatorischer sowie drittparteibezogener Risiken hervorbringt.

Da KI-Systeme zunehmend Zugriff auf sensible Daten, Geschäftsanwendungen und Entscheidungsprozesse erhalten, identifiziert der Bericht fünf zentrale Handlungsfelder für Unternehmensverantwortliche:

• Festlegung klarer Verantwortlichkeiten für KI im gesamten Unternehmen, einschließlich formell eingeführter Anwendungen, integrierter Softwarefunktionen und sogenannter Shadow AI (nicht autorisierte KI-Anwendungen, die von Mitarbeitenden genutzt werden)
• Schutz sensibler Daten und Stärkung des Identitäts- und Zugriffsmanagements, da KI-Systeme immer autonomer werden
• Management von KI-Risiken über den gesamten Lebenszyklus hinweg, von der Datenerfassung und Modellentwicklung über den Einsatz bis hin zu Überwachung und Reaktion auf Vorfälle
• Anwendung strenger Governance- und Sorgfaltspflichten auf KI-Anbieter und andere kritische Dienstleister
• Vorbereitung auf KI-bezogene Schadensszenarien im Zusammenhang mit Cyber-, Betrugs-, Haftpflicht- und Betriebsunterbrechungsrisiken sowie weiteren Versicherungssparten

„KI entwickelt sich von einer experimentellen Technologie zu einem festen Bestandteil der Systeme und Prozesse, auf die Unternehmen täglich angewiesen sind. Doch die Governance hält mit dieser Entwicklung nicht immer Schritt“, erklärt Jonathan Salter, Head of Risk Consulting bei AXA XL. „Den größten Mehrwert aus KI werden diejenigen Unternehmen erzielen, die Transparenz über deren Einsatz schaffen, die geschäftlichen Auswirkungen möglicher Ausfälle verstehen und Sicherheit sowie Resilienz von Anfang an berücksichtigen.“

„KI-Risiken entstehen nur selten isoliert“, ergänzt Rebiah Bardot-Girard, Head of Cyber Risk Consulting Services bei AXA XL. „Vielmehr verstärken sie bestehende Schwachstellen im Identitätsmanagement, in der Daten-Governance, bei der Steuerung von Dienstleistern und in der Vorbereitung auf Vorfälle. Resilienz setzt heute voraus, dass Unternehmen genau wissen, wo KI eingesetzt wird, auf welche Daten sie zugreifen kann und wo sie Entscheidungen trifft oder beeinflusst.“

Der Bericht untersucht unter anderem Risiken wie Datenabfluss, Manipulation von KI-Modellen, Prompt Injection (gezielte Eingaben zur Beeinflussung oder Umgehung von Sicherheitsmechanismen), fehlerhafte oder unzuverlässige Ergebnisse, Shadow AI sowie übermäßig autonome KI-Agenten. Darüber hinaus skizziert er fünf Prioritäten für den Aufbau einer sicheren KI von Anfang an (Secure AI by Design): bessere Daten-Governance, die Sicherheit von Modellen und Anwendungen, stärkere Identitäts- und Zugriffskontrollen, mehr Resilienz im gesamten KI-Ökosystem sowie kontinuierliche Überwachung und Anpassung.

Die Ergebnisse deuten zudem darauf hin, dass einige Unternehmen ihre Sicherheitsvorkehrungen verstärken: Nach Angaben des Weltwirtschaftsforums prüfen mittlerweile 64 % die Sicherheit von KI-Tools vor deren Einsatz – gegenüber 37 % im Vorjahr. Eine Bewertung vor dem Einsatz reicht jedoch nicht aus. Da KI zunehmend Zugang zu sensiblen Daten, Geschäftsanwendungen und Entscheidungsprozessen erhält, bleiben Unternehmen weiterhin gefährdet, sofern die Überwachung nicht während des gesamten Einsatzes und Betriebs fortgesetzt wird.

AXA XL und S-RM unterstützen Unternehmen dabei, Governance-Strukturen zu stärken, Vorfallszenarien zu testen und fundierte Entscheidungen über Risikominderungsmaßnahmen sowie den Risikotransfer durch Versicherungslösungen zu treffen.

Der vollständige Bericht, „Building Resilient AI: Managing AI risk through governance, security and resilience” ist hier verfügbar.

Folgen Sie AXA XL auf LinkedIn.

ÜBER AXA XL

AXA XL, der Unternehmensbereich für Sach-, Haftpflicht- und Spezialrisiken von AXA, bietet weltweit Versicherungs- und Risikomanagementlösungen für mittelständische bis hin zu großen multinationalen Unternehmen sowie Rückversicherungslösungen für Versicherungsgesellschaften. Wir sehen uns als Partner für alle, die die Welt voranbringen. Erfahren Sie mehr unter www.axaxl.de.