Am 16. November 2026 hat Kaliforniens Generalstaatsanwalt Rob Bonta beim Superior Court in San Francisco Klage gegen OpenAI eingereicht[1]. Der Vorwurf: OpenAI habe bei Tests mindestens 80-mal die Kontrolle über autonome KI-Agenten verloren, also über KI-Programme, die selbstständig Aufgaben im Netz erledigen; dazu zählt ein Angriff auf die KI-Plattform Hugging Face im Juli 2026[1]. CNBC berichtete am selben Tag um 19:48 Uhr MEZ[2]. Am 17. November fragte ein Jurist in einem Beitrag auf HackerNoon, wer ins Gefängnis muss, wenn ein KI-Agent eine Cyberstraftat begeht, mit Blick auf US-Recht[3].
Für Firmen in Deutschland stellt sich dieselbe Frage nach anderem Recht: Wer haftet, wenn der eigene Agent einem Kunden etwas Falsches zusagt, Daten herausgibt oder fremde Systeme angreift?

Die Klage stützt sich auf das kalifornische Wettbewerbsrecht (Unfair Competition Law) und auf die Rechtsfigur der öffentlichen Störung (Public Nuisance)[4]. Gefordert werden unter anderem eine Unterlassungsanordnung, die Rückerstattung erlangter Gelder und zivilrechtliche Strafzahlungen von 2.500 US-Dollar je Beklagtem und Verstoß[4].
Es ist eine Klage, kein Urteil. OpenAI verweist auf einen eigenen technischen Bericht und eine unabhängige Untersuchung; ein Sprecher sagte, die Klage scheine OpenAI für ein Problem herauszugreifen, das jedes große KI-Labor erkannt habe[2]. Und sie richtet sich gegen OpenAI als Entwickler, nicht gegen Firmen, die Agenten einsetzen.
Das neue Produkthaftungsgesetz (ProdHaftG) wurde am 27. Oktober 2026 verkündet und tritt am 9. Dezember 2026 in Kraft[7]. Software ist danach ein Produkt, ausgenommen freie und Open-Source-Software außerhalb einer Geschäftstätigkeit[7]. Die zugrunde liegende EU-Richtlinie nennt in ihren Erwägungsgründen Anbieter von KI-Systemen ausdrücklich als Hersteller[8]; laut Gesetzesbegründung spielt es keine Rolle, ob Software installiert oder als Cloud-Dienst genutzt wird[9].
Die Produkthaftung ist verschuldensunabhängig[8], die allgemeine Haftung nach §§ 823 ff. BGB setzt dagegen Verschulden voraus[9]. Neu für KI: Ob ein Produkt fehlerhaft ist, hängt auch davon ab, wie sich Weiterlernen nach dem Inverkehrbringen auswirkt[7]. Kann ein Produkt unerwartetes oder gefährliches Verhalten entwickeln, ist das laut Begründung zu berücksichtigen[9]. Für Produkte, die bis einschließlich 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen wurden, gilt das alte Gesetz weiter[7].
Der Haken für Firmen: Ersatz gibt es nur für Schäden natürlicher Personen[7]. Für ausschließlich beruflich genutzte Sachen und reine Vermögensschäden verweist die Begründung auf die Verschuldenshaftung[9].
| Schaden | Neues ProdHaftG | Sonst maßgeblich |
|---|---|---|
| Körper und Gesundheit, auch psychisch | ✓ erfasst | zusätzlich §§ 823 ff. BGB |
| Privat genutzte Sachen | ✓ erfasst | zusätzlich §§ 823 ff. BGB |
| Ausschließlich beruflich genutzte Sachen | ✗ nicht erfasst | §§ 823 ff. BGB, Vertrag |
| Daten | ✓ nur nicht beruflich genutzte | Geschäftsdaten: Vertrag, Versicherung |
| Reine Vermögensschäden, etwa Umsatzausfall | ✗ nicht erfasst | §§ 823 ff. BGB, Vertrag |
Wird ein Unternehmen, das einen Agenten selbst baut oder ein Modell anpasst, selbst zum Hersteller? Hersteller ist, wer ein Produkt selbst entwickelt; zum Hersteller wird auch, wer es ohne Einverständnis des Herstellers wesentlich verändert und dann bereitstellt oder in Betrieb nimmt[7]. Inbetriebnahme ist die erstmalige Verwendung im Rahmen einer Geschäftstätigkeit, wenn das Produkt vorher nicht in Verkehr gebracht wurde[7]. Ob das auf intern genutzte, selbst gebaute oder angepasste Agenten passt, ist offen.
Für Zusagen gibt es einen Anhaltspunkt. Zu einem Online-Buchungssystem entschied der Bundesgerichtshof 2012: „Nicht das Computersystem, sondern die Person (oder das Unternehmen), die es als Kommunikationsmittel nutzt, gibt die Erklärung ab …“; maßgeblich sei, wie der menschliche Empfänger sie verstehen darf[10]. Das Urteil betraf kein KI-System; ob es sich auf Agenten übertragen lässt, die selbst formulieren, ist höchstrichterlich nicht entschieden. Offen ist auch, ob ein Agent wie ein Erfüllungsgehilfe nach § 278 BGB zu behandeln ist, für dessen Verschulden man im Vertrag wie für eigenes einsteht[11].
Außerhalb von Verträgen gilt § 823 BGB: Wer vorsätzlich oder fahrlässig Körper, Gesundheit, Eigentum oder ein sonstiges Recht eines anderen widerrechtlich verletzt, muss den Schaden ersetzen[12]. Aus unserer Sicht wird es deshalb darauf ankommen, wie sorgfältig ein Unternehmen seinen Agenten eingerichtet, begrenzt und überwacht hat.
Die KI-Verordnung regelt in Art. 26 Pflichten für Betreiber, also Firmen, die ein KI-System in eigener Verantwortung einsetzen: Nutzung nach Betriebsanleitung, menschliche Aufsicht durch kompetente Personen, Überwachung, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren, Beschäftigte informieren[13]. Das gilt aber nur für Hochrisiko-Systeme, und erst ab 2. Dezember 2027 (Anhang III) beziehungsweise 2. August 2028 (Anhang I)[14]. Hochrisiko sind laut Anhang III etwa Systeme zur Personalauswahl oder zur Prüfung der Kreditwürdigkeit von Privatpersonen; Kundenservice- oder Vertriebsagenten stehen dort nicht[15]. Was für Chatbots zur Kennzeichnung gilt, haben wir hier erklärt.
Eine eigene EU-Haftungsrichtlinie für KI gibt es nicht: Die Kommission hat ihren Vorschlag im Oktober 2025 zurückgezogen[16].
Strafbar sind Unternehmen in Deutschland nicht. Straftaten aus dem Betrieb heraus können gegen sie nur mit Geldbußen nach dem Ordnungswidrigkeitengesetz (OWiG) geahndet werden, so beschrieb es die Bundesregierung 2020[17]. Begeht eine Leitungsperson eine Straftat, die Pflichten des Unternehmens verletzt oder es bereichert, drohen dem Unternehmen bis zu zehn Millionen Euro bei Vorsatz und bis zu fünf Millionen bei Fahrlässigkeit[18]. Inhaber, die nötige Aufsichtsmaßnahmen unterlassen, riskieren bis zu einer Million Euro, wenn im Betrieb strafbewehrte Pflichten des Inhabers verletzt werden und gehörige Aufsicht das verhindert oder wesentlich erschwert hätte[19].
Nach dem BGH gibt nicht das Computersystem die Erklärung ab, sondern das Unternehmen, das es nutzt[10]. Für KI-Agenten ist das nicht höchstrichterlich entschieden. Rechnen Sie damit, dass Kunden sich an Sie halten; ob Sie den Anbieter in Rückgriff nehmen können, regelt vor allem Ihr Vertrag.
Rolle, knappe Rechte, Freigaben, Protokolle, Anbietervertrag und Versicherung – siehe Checkliste oben.
- Office of the Attorney General, California: It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents (16.11.2026): oag.ca.gov
- CNBC: California sues OpenAI over Hugging Face, other AI model loss of control (16.11.2026): cnbc.com
- HackerNoon: If an AI Agent Commits a Cybercrime, Who Goes to Jail? (17.11.2026): hackernoon.com
- California Department of Justice: Complaint, The People of the State of California v. OpenAI Foundation, OpenAI Group PBC (16.11.2026): oag.ca.gov
- U.S. Court of Appeals for the Ninth Circuit: Amazon.com Services, LLC v. Perplexity AI, Inc., No. 26-1444, Opinion (04.08.2026): courthousenews.com
- Congressional Research Service: Artificial Intelligence and Federal Criminal Law: Considerations for Congress, LSB11487 (08.10.2026): everycrsreport.com
- Bundesgesetzblatt: Gesetz zur Modernisierung des Produkthaftungsrechts und zur Änderung weiterer Vorschriften, BGBl. 2026 I Nr. 321, §§ 1, 2, 3, 5, 6, 7, 23 ProdHaftG, Art. 17 (27.10.2026): recht.bund.de
- Amtsblatt der EU: Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, Erwägungsgründe 2 und 13 (18.11.2024): eur-lex.europa.eu
- Deutscher Bundestag: Gesetzentwurf der Bundesregierung zur Modernisierung des Produkthaftungsrechts, Drucksache 21/4297, Begründung S. 18, 26, 30 und 43 (25.02.2026): dserver.bundestag.de
- Bundesgerichtshof: Urteil X ZR 37/12, Rn. 17 (16.10.2012): bundesgerichtshof.de
- Bundesamt für Justiz: § 278 BGB – Verantwortlichkeit des Schuldners für Dritte (abgerufen 17.11.2026): gesetze-im-internet.de
- Bundesamt für Justiz: § 823 BGB – Schadensersatzpflicht (abgerufen 17.11.2026): gesetze-im-internet.de
- Europäische Kommission, AI Act Service Desk: KI-Verordnung Art. 26, konsolidierte Fassung vom 27.07.2026 (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
- Europäische Kommission, AI Act Service Desk: KI-Verordnung Art. 113, konsolidierte Fassung vom 27.07.2026 (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
- Europäische Kommission, AI Act Service Desk: KI-Verordnung Anhang III (abgerufen 17.11.2026): ai-act-service-desk.ec.europa.eu
- Amtsblatt der EU: Rücknahme von Kommissionsvorschlägen, C/2025/5423 (06.10.2025): eur-lex.europa.eu
- Deutscher Bundestag: Entwurf eines Gesetzes zur Stärkung der Integrität in der Wirtschaft, Drucksache 19/23568, A. Problem und Ziel (21.10.2020): dserver.bundestag.de
- Bundesamt für Justiz: § 30 OWiG – Geldbuße gegen juristische Personen und Personenvereinigungen (abgerufen 17.11.2026): gesetze-im-internet.de
- Bundesamt für Justiz: § 130 OWiG – Verletzung der Aufsichtspflicht in Betrieben und Unternehmen (abgerufen 17.11.2026): gesetze-im-internet.de