Haftung für KI-Agenten: Was Firmen vorher klären sollten
Sphinx-Flashdesign Logo
Geschrieben von
Sphinx-Flashdesign
Developers Signature Designers Signature
Datum
17.11.2026
Lesezeit
7 Min.
Wörter
1399
Die Haftung für KI-Agenten wird konkret: In Kalifornien läuft eine Klage gegen OpenAI, in Deutschland gilt ab 9. Dezember ein neues Produkthaftungsgesetz, das Software erfasst.

Am 16. November 2026 hat Kaliforniens Generalstaatsanwalt Rob Bonta beim Superior Court in San Francisco Klage gegen OpenAI eingereicht[1]. Der Vorwurf: OpenAI habe bei Tests mindestens 80-mal die Kontrolle über autonome KI-Agenten verloren, also über KI-Programme, die selbstständig Aufgaben im Netz erledigen; dazu zählt ein Angriff auf die KI-Plattform Hugging Face im Juli 2026[1]. CNBC berichtete am selben Tag um 19:48 Uhr MEZ[2]. Am 17. November fragte ein Jurist in einem Beitrag auf HackerNoon, wer ins Gefängnis muss, wenn ein KI-Agent eine Cyberstraftat begeht, mit Blick auf US-Recht[3].

Für Firmen in Deutschland stellt sich dieselbe Frage nach anderem Recht: Wer haftet, wenn der eigene Agent einem Kunden etwas Falsches zusagt, Daten herausgibt oder fremde Systeme angreift?

Haftung für KI-Agenten: Produkthaftung, KI-Verordnung und Verträge im Überblick
Haftung für KI-Agenten: Worum es in der Klage gegen OpenAI geht

Die Klage stützt sich auf das kalifornische Wettbewerbsrecht (Unfair Competition Law) und auf die Rechtsfigur der öffentlichen Störung (Public Nuisance)[4]. Gefordert werden unter anderem eine Unterlassungsanordnung, die Rückerstattung erlangter Gelder und zivilrechtliche Strafzahlungen von 2.500 US-Dollar je Beklagtem und Verstoß[4].

Es ist eine Klage, kein Urteil. OpenAI verweist auf einen eigenen technischen Bericht und eine unabhängige Untersuchung; ein Sprecher sagte, die Klage scheine OpenAI für ein Problem herauszugreifen, das jedes große KI-Labor erkannt habe[2]. Und sie richtet sich gegen OpenAI als Entwickler, nicht gegen Firmen, die Agenten einsetzen.

US-Hintergrund in Kürze
Im August hob ein US-Berufungsgericht eine einstweilige Verfügung auf, die Amazon gegen das KI-Unternehmen Perplexity erwirkt hatte: Nach damaligem Sachstand greife der Nutzer mit Hilfe des Agenten auf Amazon zu, nicht Perplexity; andere Sachlagen ließ das Gericht ausdrücklich offen[5]. Laut Forschungsdienst des US-Kongresses ist der vorsätzliche Einsatz von Agenten für Straftaten nach US-Bundesrecht wohl schon strafbar; um Menschen für unvorhergesehene Agenten-Handlungen zu belangen, bräuchte es wohl neue Gesetze[6].
Neues Produkthaftungsgesetz: Was ab 9. Dezember gilt

Das neue Produkthaftungsgesetz (ProdHaftG) wurde am 27. Oktober 2026 verkündet und tritt am 9. Dezember 2026 in Kraft[7]. Software ist danach ein Produkt, ausgenommen freie und Open-Source-Software außerhalb einer Geschäftstätigkeit[7]. Die zugrunde liegende EU-Richtlinie nennt in ihren Erwägungsgründen Anbieter von KI-Systemen ausdrücklich als Hersteller[8]; laut Gesetzesbegründung spielt es keine Rolle, ob Software installiert oder als Cloud-Dienst genutzt wird[9].

Die Produkthaftung ist verschuldensunabhängig[8], die allgemeine Haftung nach §§ 823 ff. BGB setzt dagegen Verschulden voraus[9]. Neu für KI: Ob ein Produkt fehlerhaft ist, hängt auch davon ab, wie sich Weiterlernen nach dem Inverkehrbringen auswirkt[7]. Kann ein Produkt unerwartetes oder gefährliches Verhalten entwickeln, ist das laut Begründung zu berücksichtigen[9]. Für Produkte, die bis einschließlich 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen wurden, gilt das alte Gesetz weiter[7].

Der Haken für Firmen: Ersatz gibt es nur für Schäden natürlicher Personen[7]. Für ausschließlich beruflich genutzte Sachen und reine Vermögensschäden verweist die Begründung auf die Verschuldenshaftung[9].

SchadenNeues ProdHaftGSonst maßgeblich
Körper und Gesundheit, auch psychisch✓ erfasstzusätzlich §§ 823 ff. BGB
Privat genutzte Sachen✓ erfasstzusätzlich §§ 823 ff. BGB
Ausschließlich beruflich genutzte Sachen✗ nicht erfasst§§ 823 ff. BGB, Vertrag
Daten✓ nur nicht beruflich genutzteGeschäftsdaten: Vertrag, Versicherung
Reine Vermögensschäden, etwa Umsatzausfall✗ nicht erfasst§§ 823 ff. BGB, Vertrag
Eigener Agent, eigene Haftung? Was offen ist

Wird ein Unternehmen, das einen Agenten selbst baut oder ein Modell anpasst, selbst zum Hersteller? Hersteller ist, wer ein Produkt selbst entwickelt; zum Hersteller wird auch, wer es ohne Einverständnis des Herstellers wesentlich verändert und dann bereitstellt oder in Betrieb nimmt[7]. Inbetriebnahme ist die erstmalige Verwendung im Rahmen einer Geschäftstätigkeit, wenn das Produkt vorher nicht in Verkehr gebracht wurde[7]. Ob das auf intern genutzte, selbst gebaute oder angepasste Agenten passt, ist offen.

Für Zusagen gibt es einen Anhaltspunkt. Zu einem Online-Buchungssystem entschied der Bundesgerichtshof 2012: „Nicht das Computersystem, sondern die Person (oder das Unternehmen), die es als Kommunikationsmittel nutzt, gibt die Erklärung ab …“; maßgeblich sei, wie der menschliche Empfänger sie verstehen darf[10]. Das Urteil betraf kein KI-System; ob es sich auf Agenten übertragen lässt, die selbst formulieren, ist höchstrichterlich nicht entschieden. Offen ist auch, ob ein Agent wie ein Erfüllungsgehilfe nach § 278 BGB zu behandeln ist, für dessen Verschulden man im Vertrag wie für eigenes einsteht[11].

Außerhalb von Verträgen gilt § 823 BGB: Wer vorsätzlich oder fahrlässig Körper, Gesundheit, Eigentum oder ein sonstiges Recht eines anderen widerrechtlich verletzt, muss den Schaden ersetzen[12]. Aus unserer Sicht wird es deshalb darauf ankommen, wie sorgfältig ein Unternehmen seinen Agenten eingerichtet, begrenzt und überwacht hat.

KI-Verordnung und Bußgelder: Was gilt und ab wann

Die KI-Verordnung regelt in Art. 26 Pflichten für Betreiber, also Firmen, die ein KI-System in eigener Verantwortung einsetzen: Nutzung nach Betriebsanleitung, menschliche Aufsicht durch kompetente Personen, Überwachung, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren, Beschäftigte informieren[13]. Das gilt aber nur für Hochrisiko-Systeme, und erst ab 2. Dezember 2027 (Anhang III) beziehungsweise 2. August 2028 (Anhang I)[14]. Hochrisiko sind laut Anhang III etwa Systeme zur Personalauswahl oder zur Prüfung der Kreditwürdigkeit von Privatpersonen; Kundenservice- oder Vertriebsagenten stehen dort nicht[15]. Was für Chatbots zur Kennzeichnung gilt, haben wir hier erklärt.

Eine eigene EU-Haftungsrichtlinie für KI gibt es nicht: Die Kommission hat ihren Vorschlag im Oktober 2025 zurückgezogen[16].

Strafbar sind Unternehmen in Deutschland nicht. Straftaten aus dem Betrieb heraus können gegen sie nur mit Geldbußen nach dem Ordnungswidrigkeitengesetz (OWiG) geahndet werden, so beschrieb es die Bundesregierung 2020[17]. Begeht eine Leitungsperson eine Straftat, die Pflichten des Unternehmens verletzt oder es bereichert, drohen dem Unternehmen bis zu zehn Millionen Euro bei Vorsatz und bis zu fünf Millionen bei Fahrlässigkeit[18]. Inhaber, die nötige Aufsichtsmaßnahmen unterlassen, riskieren bis zu einer Million Euro, wenn im Betrieb strafbewehrte Pflichten des Inhabers verletzt werden und gehörige Aufsicht das verhindert oder wesentlich erschwert hätte[19].

Checkliste: Was Firmen vor dem Einsatz eines Agenten klären
Rolle festhalten
Nutzen Sie ein fertiges Produkt, passen Sie es an oder bauen Sie selbst? Davon hängt ab, ob Sie nur Betreiber sind oder womöglich als Hersteller gelten.
Rechte und Zugriffe begrenzen
Der Agent bekommt nur die Zugänge, die er für seine Aufgabe braucht. Die technischen Kontrollen stehen in KI-Agenten absichern.
Freigaben und Not-Aus
Zahlungen, Preiszusagen, Vertragsänderungen und Nachrichten an Kunden gibt ein Mensch frei. Legen Sie fest, wer den Agenten sofort stoppen darf.
Protokolle führen
Halten Sie fest, was der Agent wann mit welchen Daten getan hat. Für Hochrisiko-Systeme verlangt die KI-Verordnung künftig mindestens sechs Monate Aufbewahrung[13]; Speicherdauer und Inhalt gehören ins Datenschutzkonzept.
Vertrag mit dem Anbieter prüfen
Klären Sie Haftungsgrenzen, Rückgriff bei Fehlern des Modells, Zugang zu Protokollen, Auftragsverarbeitung und Speicherort der Daten.
Versicherung abklären
Fragen Sie schriftlich nach, ob Betriebshaftpflicht- und Cyber-Versicherung Schäden durch KI-Agenten abdecken.
Häufige Fragen zur Haftung für KI-Agenten
Wer haftet, wenn unser KI-Agent einem Kunden etwas Falsches zusagt oder einen Fehler macht – wir oder der KI-Anbieter?

Nach dem BGH gibt nicht das Computersystem die Erklärung ab, sondern das Unternehmen, das es nutzt[10]. Für KI-Agenten ist das nicht höchstrichterlich entschieden. Rechnen Sie damit, dass Kunden sich an Sie halten; ob Sie den Anbieter in Rückgriff nehmen können, regelt vor allem Ihr Vertrag.

Was ändert sich am 9. Dezember 2026 mit dem neuen Produkthaftungsgesetz für Software und KI?

Software einschließlich KI-Systemen gilt als Produkt, auch als Cloud-Dienst[9]. Hersteller haften ohne Verschulden[8], aber nur gegenüber natürlichen Personen[7].

Können wir den KI-Anbieter in Anspruch nehmen, wenn sein Modell bei uns Schaden anrichtet?

Über das Produkthaftungsgesetz kaum: Es schützt nur natürliche Personen; ausschließlich beruflich genutzte Sachen und beruflich genutzte Daten sind ausgenommen[7]. Es bleiben der Vertrag und die Verschuldenshaftung nach §§ 823 ff. BGB[9].

Kann ein Geschäftsführer bestraft werden, wenn ein KI-Agent fremde Systeme angreift?

Das hängt vom Einzelfall ab. Das Unternehmen selbst ist nicht strafbar[17]. Begeht aber eine Leitungsperson eine Straftat oder Ordnungswidrigkeit, etwa durch verletzte Aufsichtspflichten, ist eine Geldbuße gegen das Unternehmen möglich[18][19].

Welche Pflichten haben wir als Betreiber nach der KI-Verordnung, und gelten die schon?

Art. 26 betrifft nur Hochrisiko-Systeme[13] und gilt erst ab 2. Dezember 2027 beziehungsweise 2. August 2028[14]. Typische Service- und Vertriebsagenten stehen nicht in Anhang III[15].

Was sollten wir vertraglich und organisatorisch regeln, bevor ein Agent selbstständig handelt?

Rolle, knappe Rechte, Freigaben, Protokolle, Anbietervertrag und Versicherung – siehe Checkliste oben.

Quellen
  1. Office of the Attorney General, California: It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents (16.11.2026): oag.ca.gov
  2. CNBC: California sues OpenAI over Hugging Face, other AI model loss of control (16.11.2026): cnbc.com
  3. HackerNoon: If an AI Agent Commits a Cybercrime, Who Goes to Jail? (17.11.2026): hackernoon.com
  4. California Department of Justice: Complaint, The People of the State of California v. OpenAI Foundation, OpenAI Group PBC (16.11.2026): oag.ca.gov
  5. U.S. Court of Appeals for the Ninth Circuit: Amazon.com Services, LLC v. Perplexity AI, Inc., No. 26-1444, Opinion (04.08.2026): courthousenews.com
  6. Congressional Research Service: Artificial Intelligence and Federal Criminal Law: Considerations for Congress, LSB11487 (08.10.2026): everycrsreport.com
  7. Bundesgesetzblatt: Gesetz zur Modernisierung des Produkthaftungsrechts und zur Änderung weiterer Vorschriften, BGBl. 2026 I Nr. 321, §§ 1, 2, 3, 5, 6, 7, 23 ProdHaftG, Art. 17 (27.10.2026): recht.bund.de
  8. Amtsblatt der EU: Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, Erwägungsgründe 2 und 13 (18.11.2024): eur-lex.europa.eu
  9. Deutscher Bundestag: Gesetzentwurf der Bundesregierung zur Modernisierung des Produkthaftungsrechts, Drucksache 21/4297, Begründung S. 18, 26, 30 und 43 (25.02.2026): dserver.bundestag.de
  10. Bundesgerichtshof: Urteil X ZR 37/12, Rn. 17 (16.10.2012): bundesgerichtshof.de
  11. Bundesamt für Justiz: § 278 BGB – Verantwortlichkeit des Schuldners für Dritte (abgerufen 17.11.2026): gesetze-im-internet.de
  12. Bundesamt für Justiz: § 823 BGB – Schadensersatzpflicht (abgerufen 17.11.2026): gesetze-im-internet.de
  13. Europäische Kommission, AI Act Service Desk: KI-Verordnung Art. 26, konsolidierte Fassung vom 27.07.2026 (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
  14. Europäische Kommission, AI Act Service Desk: KI-Verordnung Art. 113, konsolidierte Fassung vom 27.07.2026 (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
  15. Europäische Kommission, AI Act Service Desk: KI-Verordnung Anhang III (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
  16. Amtsblatt der EU: Rücknahme von Kommissionsvorschlägen, C/2025/5423 (06.10.2025): eur-lex.europa.eu
  17. Deutscher Bundestag: Entwurf eines Gesetzes zur Stärkung der Integrität in der Wirtschaft, Drucksache 19/23568, A. Problem und Ziel (21.10.2020): dserver.bundestag.de
  18. Bundesamt für Justiz: § 30 OWiG – Geldbuße gegen juristische Personen und Personenvereinigungen (abgerufen 17.11.2026): gesetze-im-internet.de
  19. Bundesamt für Justiz: § 130 OWiG – Verletzung der Aufsichtspflicht in Betrieben und Unternehmen (abgerufen 17.11.2026): gesetze-im-internet.de
Sie wollen einen KI-Agenten einsetzen, ohne die Kontrolle abzugeben?
Wir bauen KI-Agenten mit knappen Rechten, Freigabestufen und Protokollen und dokumentieren, was sie dürfen. Mehr unter KI-Automatisierung.
Jetzt Kontakt mit uns aufnehmen
Tags:
Per WhatsApp schreiben