Eine fehlerhafte Prognose, eine versehentlich angestoßene Zahlung, eine automatisierte Entscheidung mit kostspieligen Konsequenzen: Wenn Künstliche Intelligenz Fehler macht, stellt sich für Unternehmen schnell eine unangenehme Frage – wer haftet eigentlich dafür? Antworten liefert ein neuer Leitfaden des Digitalverbands Bitkom, der am 16. Oktober 2026 in Berlin vorgestellt wurde und den Titel „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern“ trägt.
Der Hintergrund ist naheliegend. Je tiefer KI in betriebliche Abläufe vordringt, desto dringlicher wird die Frage nach der Begrenzung möglicher Schäden. Und die Technologie ist längst keine Randerscheinung mehr: 57 Prozent der Unternehmen in Deutschland setzen KI bereits ein, weitere 38 Prozent planen oder diskutieren den Schritt. Die Verbreitung wächst – und mit ihr die Verantwortung.
Lukas Spohr, beim Bitkom als Experte für Digital Insurance und InsurTech tätig, benennt die Ambivalenz klar. „KI kann vorhandene Prozesse deutlich schneller und effizienter machen, zugleich besteht aber die Gefahr, dass sie bestehende Risiken deutlich verstärkt: Fehler können sich schneller verbreiten, größere Auswirkungen haben und im Nachhinein schwieriger nachvollziehbar sein“, so Spohr. Wo Automatisierung Tempo gewinnt, kann sich eben auch ein Fehler mit hohem Tempo fortpflanzen.
Besonders brisant wird es bei sogenannten KI-Agenten, die eigenständig Aufgaben planen und Aktionen ausführen. „Mit wachsendem Handlungsspielraum steigen die Anforderungen an Zugriffsrechte, Freigabeprozesse, Monitoring und menschliche Kontrolle“, erklärt Spohr. Mehr Autonomie der Systeme bedeutet also auch strengere Kontrollmechanismen im Hintergrund.
Der Leitfaden wendet sich nicht allein an Unternehmen, sondern ausdrücklich auch an Versicherer, InsurTechs und Makler sowie an Fach- und Führungskräfte aus Underwriting, Risikomanagement und IT-Sicherheit. Er beschreibt die Voraussetzungen für einen kontrollierten Einsatz und legt den Schwerpunkt dabei auf Qualitätsfaktoren der KI-Governance und der KI-Security.
Darüber hinaus ordnet das Papier typische Schadensfälle ein. Dazu zählen Schäden im eigenen Betrieb, Schäden bei Dritten oder auch Reputationsschäden – etwa durch fehlerhaft eingesetzte KI oder durch das sogenannte AI-Washing, bei dem Unternehmen den KI-Einsatz übertrieben oder irreführend darstellen. Abschließend zeigt der Leitfaden auf, welche dieser Risiken sich heute bereits versichern lassen und an welchen Stellen noch Lücken im Versicherungsschutz klaffen.
