Britische Regulierer: Wer KI-Agenten einsetzt, haftet für ihre Fehler

Vier britische Aufsichtsbehörden haben am 6. November gemeinsam klargestellt, dass Unternehmen für Fehler ihrer KI-Agenten geradestehen. Das Gremium aus Kartellamt, Finanzaufsicht, Datenschutzaufsicht und Medienaufsicht erklärte, die Autonomie eines Agenten verringere die Verantwortung des Betreibers nicht. Damit ist die naheliegende Verteidigung, der Software sei schuld, vom Tisch.

Wer die Warnung ausspricht. Die Erklärung kommt vom Digital Regulation Cooperation Forum, kurz DRCF. Darin sitzen die Wettbewerbs- und Marktaufsicht CMA, die Finanzaufsicht FCA, die Datenschutzaufsicht ICO und der Kommunikationsregler Ofcom. Vier Behörden, die sonst getrennt prüfen, sagen hier dasselbe. Der Punkt ist praktisch: Ein Agent, der im Namen eines Kunden bestellt, storniert oder Auskünfte gibt, berührt oft alle vier Zuständigkeiten gleichzeitig.

Was konkret verlangt wird. Firmen sollen erklären können, wann ein Agent für einen Kunden handelt und wie er das erkennbar macht. Sie sollen belegen, wer ihm welche Vollmacht erteilt hat und wo diese endet. Und sie sollen darlegen, welche personenbezogenen Daten der Agent dabei verarbeitet. Das heißt konkret: Wer eine Bestellfunktion an einen Agenten delegiert, braucht Limits im System, ein Protokoll jeder Aktion und eine Stelle, die Vorfälle prüft.

Warum das über Großbritannien hinaus wirkt. Die EU hat eine eigene Haftungsrichtlinie für KI 2025 zurückgezogen, es bleibt bei nationalem Recht. Dafür greift ab 9. Dezember 2026 die überarbeitete Produkthaftungsrichtlinie, die Software und KI-Systeme ausdrücklich als Produkt behandelt. Sie erfasst auch Schäden, die erst durch Lernprozesse nach der Auslieferung entstehen. Für Hersteller und Händler heißt das: Ein Modell, das sich im Betrieb verändert, gilt nicht automatisch als fehlerfrei, nur weil es bei der Auslieferung funktionierte.

Was der Fall Tallinn zeigt. In Estland löste ein Lieferroboter von Starship im Oktober einen Busunfall mit neun Verletzten aus, weil er bei Rot auf die Fahrbahn fuhr. Dort gilt seit 2017: Wer einen solchen Roboter betreibt, wird wie ein Fahrer behandelt und braucht eine Haftpflicht. Das ist die praktische Antwort auf die Frage, die das DRCF juristisch formuliert: Der Betreiber haftet, nicht die Maschine.

Was Mittelständler jetzt tun sollten. Drei Punkte lassen sich ohne Anwalt vorbereiten: eine Liste aller Prozesse, in denen ein Agent selbständig Geld bewegt oder Zusagen macht; feste Betragsgrenzen und Freigabeschwellen je Agent; und die Zusicherung des Anbieters, dass jede Aktion mit Zeitstempel und Begründung protokolliert wird. Das heißt konkret: Wer diese drei Punkte nicht belegen kann, hat im Streitfall keine Verteidigung, sondern nur eine Behauptung.