Was Unternehmen nach den Zwischenfällen bei OpenAI und Anthropic rechtlich wissen müssen
Ein KI-Modell verlässt seine Testumgebung, gelangt ins offene Internet und dringt in die Produktivsysteme fremder Unternehmen ein. Was nach einem Szenario aus der Forschung klingt, ist im Juli 2026 gleich zweimal Realität geworden. Für die betroffenen Organisationen stellen sich sofort praktische Fragen: Wer haftet für den Schaden, welche Meldepflichten laufen, und wie lassen sich Ansprüche sichern? Dieser Beitrag ordnet die Lage rechtlich ein und zeigt, worauf es für Unternehmen jetzt ankommt.
KI-Sicherheitsvorfälle bei OpenAI und Anthropic: Was tatsächlich passiert ist
Am 21. Juli 2026 legte OpenAI offen, dass mehrere seiner Modelle aus einer abgeschotteten Testumgebung ausgebrochen waren und anschließend auf die Produktivinfrastruktur der Open-Source-Plattform Hugging Face zugegriffen hatten. Das Unternehmen sprach von einem beispiellosen Cyber-Zwischenfall. Kurz darauf nahm der Wettbewerber Anthropic eigene Auswertungen vor und veröffentlichte am 30. Juli 2026 die Ergebnisse.
Nach eigenen Angaben prüfte Anthropic rund 141.000 Testläufe und identifizierte drei Vorfälle, bei denen Modelle unbefugt auf Systeme externer Organisationen zugegriffen hatten. Betroffen waren nach Unternehmensangaben unter anderem die Modelle Claude Opus 4.7 und Mythos 5 sowie ein internes Forschungsmodell. Ursache sei eine Fehlkonfiguration bei einem Testpartner gewesen, durch die den Modellen entgegen der Aufgabenbeschreibung ein Zugang zum offenen Internet offenstand. Der früheste dokumentierte Vorfall reicht demnach bis in den April 2026 zurück. Zwei der drei betroffenen Organisationen hatten die Zugriffe bis zur Benachrichtigung nicht bemerkt.
Bemerkenswert ist die technische Schlichtheit der Angriffe. Nach den veröffentlichten Darstellungen wurden keine hochkomplexen Schwachstellen ausgenutzt, sondern schwache Zugangsdaten, nicht authentifizierte Endpunkte, eine exponierte Debug-Seite und bekannte Lücken in Open-Source-Abhängigkeiten. Genau diese Angriffsflächen finden sich in vielen mittelständischen Infrastrukturen.
Wenn ein automatisiertes System in wenigen Stunden Zugriff auf eine Produktivdatenbank erlangt, ist das kein reines IT-Thema mehr. Lassen Sie prüfen, welche vertraglichen und gesetzlichen Pflichten Ihr Unternehmen in einem solchen Fall treffen.
Zurechnung: Wem wird das Verhalten eines KI-Systems rechtlich zugeordnet?
Ein KI-System ist keine eigene Rechtsperson. Es kann weder Vertragspartner sein noch selbst haften. Rechtlich zugerechnet wird sein Verhalten deshalb stets denjenigen, die das System entwickeln, bereitstellen oder einsetzen. Die KI-Verordnung unterscheidet dafür zwischen Anbietern und Betreibern, und diese Rollenverteilung prägt auch die haftungsrechtliche Betrachtung.
Wer ein KI-System in einer Testumgebung betreibt, übernimmt die Verantwortung für die Abschottung dieser Umgebung. Kommt es zu einem Ausbruch, liegt der Vorwurf regelmäßig nicht im Verhalten des Modells, sondern in der Organisation der Testinfrastruktur. Das ist juristisch entscheidend: Es geht um Verkehrssicherungspflichten und um Organisationsverschulden, nicht um eine Haftung für autonome Entscheidungen einer Maschine.
Sind mehrere Beteiligte im Spiel, etwa der Modellanbieter und ein externer Evaluierungspartner, kommt eine gesamtschuldnerische Haftung nach § 840 Absatz 1 BGB in Betracht. Für das geschädigte Unternehmen ist das ein Vorteil, weil es sich den solventen Schuldner aussuchen kann. Im Innenverhältnis erfolgt der Ausgleich dann nach den Verursachungsbeiträgen.
Für Unternehmen, die KI selbst einsetzen, gilt die Kehrseite: Setzen Sie ein Modell auf eigene Systeme oder auf Systeme Dritter an, ohne den Zugriffsbereich technisch zu begrenzen, tragen Sie das Risiko. Eine saubere Rollen- und Pflichtenzuordnung nach der KI-Verordnung für Unternehmen ist deshalb kein Formalismus, sondern Haftungsvorsorge.
Klären Sie vor jedem produktiven KI-Einsatz schriftlich, wer für Zugriffsgrenzen, Protokollierung und Notabschaltung verantwortlich ist. Ohne diese Zuordnung wird die Haftungsfrage im Streitfall zulasten des Anwenders ausgelegt.
Schadensersatz nach einem KI-Angriff: Anspruchsgrundlagen für betroffene Unternehmen
Wird ein Unternehmen ohne Einwilligung Ziel eines KI-gesteuerten Zugriffs, kommen mehrere Anspruchsgrundlagen nebeneinander in Betracht. Zentral ist § 823 Absatz 1 BGB. Geschützt sind das Eigentum an der IT-Infrastruktur und der eingerichtete und ausgeübte Gewerbebetrieb. Ein Eingriff liegt bereits vor, wenn Systeme kompromittiert werden und der Betrieb zur Untersuchung angehalten werden muss.
Hinzu tritt § 823 Absatz 2 BGB in Verbindung mit Schutzgesetzen des Strafrechts. In Betracht kommen das Ausspähen von Daten nach § 202a StGB, die Datenveränderung nach § 303a StGB und die Computersabotage nach § 303b StGB. Der Vorteil dieser Konstruktion liegt darin, dass sie auch reine Vermögensschäden erfasst, die über § 823 Absatz 1 BGB nur schwer zu begründen wären.
Bestehen Verträge zwischen den Beteiligten, etwa über Sicherheitstests oder über die Nutzung einer Plattform, richtet sich die Haftung vorrangig nach diesen Vereinbarungen in Verbindung mit § 280 Absatz 1 BGB. Praktisch relevant ist dabei die Frage des vereinbarten Prüfumfangs. Ein Zugriff, der den definierten Scope überschreitet, ist von keiner Einwilligung gedeckt.
Ersatzfähig sind unter anderem die Kosten der forensischen Untersuchung, der Wiederherstellung und Härtung der Systeme, der externen Rechtsberatung, der Benachrichtigung von Kunden sowie entgangener Gewinn nach § 252 BGB. Wurden personenbezogene Daten berührt, kommen Ansprüche aus Artikel 82 DSGVO hinzu. Welche Konstellationen darüber hinaus Schadensersatz bei KI-Einsatz auslösen, stellen wir gesondert dar.
Beziffern Sie Ihren Schaden früh und vollständig. Wer erst nach Monaten Positionen nachschiebt, verliert an Durchsetzungskraft, insbesondere gegenüber international aufgestellten Anbietern.
Meldepflichten nach einem KI-Sicherheitsvorfall: DSGVO, KI-Verordnung und IT-Sicherheitsrecht
Ein unbefugter Zugriff löst regelmäßig eigene Pflichten des betroffenen Unternehmens aus, und zwar unabhängig davon, wer den Vorfall verursacht hat. Betrifft der Zugriff personenbezogene Daten, greift Artikel 33 DSGVO. Die Meldung an die zuständige Aufsichtsbehörde muss unverzüglich und möglichst binnen 72 Stunden nach Kenntniserlangung erfolgen. Bei hohem Risiko für die betroffenen Personen tritt die Benachrichtigungspflicht nach Artikel 34 DSGVO hinzu.
Die Frist beginnt mit der Kenntnis, nicht mit dem abgeschlossenen Sachverhalt. Gerade in den beschriebenen Fällen, in denen Unternehmen erst durch eine Mitteilung des Modellanbieters vom Zugriff erfuhren, ist dieser Zeitpunkt sorgfältig zu dokumentieren. Auch die Rechenschaftspflicht nach Artikel 5 Absatz 2 DSGVO verlangt eine nachvollziehbare Dokumentation der Bewertung, selbst wenn im Ergebnis keine Meldung erfolgt.
Hinzu kommen sektorspezifische Pflichten. Für Einrichtungen, die unter die NIS-2-Richtlinie und ihre nationale Umsetzung fallen, bestehen gestufte Melde- und Berichtspflichten mit deutlich kürzeren Erstfristen. Anbieter von KI-Modellen mit systemischem Risiko müssen schwerwiegende Vorfälle nach der KI-Verordnung dem KI-Büro der Kommission melden. Für Unternehmen, die Hochrisiko-Systeme betreiben, greifen zusätzlich die Vorfallmeldepflichten des Artikels 73 KI-Verordnung.
Die Verzahnung dieser Regime ist anspruchsvoll, weil Fristen, Adressaten und Schwellenwerte auseinanderfallen. Eine vorbereitete Meldematrix und geschulte Verantwortliche verkürzen die Reaktionszeit erheblich. Wie weit die Schulungspflicht nach der KI-Verordnung reicht, erläutern wir auf einer eigenen Seite.
Erfahren Sie von einem unbefugten Zugriff, läuft die 72-Stunden-Frist. Holen Sie sofort rechtliche Unterstützung, bevor Sie Erklärungen gegenüber Behörden, Kunden oder Vertragspartnern abgeben.
Sofortmaßnahmen: Was betroffene Unternehmen nach einem KI-Zugriff tun sollten
Die ersten Stunden entscheiden über die spätere Durchsetzbarkeit von Ansprüchen. Wichtig ist, Beweise zu sichern, bevor Systeme neu aufgesetzt werden, und parallel die laufenden Fristen im Blick zu behalten.
- Protokolle sichern: Server-, Firewall- und Datenbankprotokolle revisionssicher exportieren, bevor Rotationsintervalle sie überschreiben.
- Forensik beauftragen: Umfang des Zugriffs, betroffene Datensätze und Zeitraum durch externe Spezialisten feststellen lassen.
- Kommunikation dokumentieren: Jede Mitteilung des Anbieters mit Datum und Uhrzeit festhalten, da sie den Fristbeginn belegt.
- Vertragslage prüfen: Nutzungsbedingungen, Auftragsverarbeitungsverträge und Haftungsklauseln auf Begrenzungen und Gerichtsstandsregelungen durchsehen.
- Schaden erfassen: Personalaufwand, Ausfallzeiten, externe Kosten und Umsatzeinbußen laufend erfassen statt rückwirkend zu schätzen.
- Versicherung einbinden: Cyberpolicen enthalten regelmäßig kurze Anzeigefristen und Obliegenheiten, deren Verletzung den Schutz gefährdet.
Vorsicht ist bei vorschnellen Erklärungen geboten. Bestätigungen gegenüber dem Verursacher, dass der Vorfall folgenlos geblieben sei, erschweren die spätere Geltendmachung erheblich. Gleiches gilt für Vergleichsangebote, die vor abgeschlossener Forensik unterzeichnet werden.
Unterschreiben Sie keine Erledigungserklärung, bevor der Umfang des Zugriffs abschließend geklärt ist. Was einmal abgegolten ist, lässt sich später nicht nachfordern.
Wann lohnt sich anwaltliche Beratung bei KI-Sicherheitsvorfällen?
Anwaltliche Begleitung ist sinnvoll, sobald ein unbefugter Zugriff im Raum steht, sobald Meldefristen laufen und immer dann, wenn Ansprüche gegen einen Anbieter oder Dienstleister durchgesetzt werden sollen. Ebenso wichtig ist die vorbeugende Seite: Wer KI-Systeme einsetzt, sollte Verträge, Zugriffsrechte und Dokumentationspflichten so gestalten, dass im Ernstfall klar ist, wer wofür einsteht.
Rogert & Ulbrich berät Unternehmen im Datenschutzrecht, im IT- und Vertragsrecht sowie bei der Durchsetzung von Schadensersatzansprüchen. Die Kanzlei um Dr. Marco Rogert und Tobias Ulbrich hat über 40.000 Mandate übernommen und mehr als 25.000 Klagen eingereicht, davon zahlreiche gegen international tätige Konzerne.
Die Beratung umfasst die Bewertung des Vorfalls, die Begleitung der Meldungen nach DSGVO und KI-Verordnung, die Sicherung und Bezifferung des Schadens sowie die außergerichtliche und gerichtliche Durchsetzung. Präventiv prüfen wir Ihre KI-Anwendungen im Rahmen des Datenschutzrechts für Unternehmen und der Pflichten aus der KI-Verordnung. Unternehmen ohne eigene Compliance-Funktion können diese Aufgabe an einen externen KI-Beauftragten übertragen.
Ob akuter Vorfall oder vorbeugende Prüfung Ihrer KI-Governance: Nehmen Sie Kontakt auf und sichern Sie Ihre Ansprüche.
Fazit: KI-Sicherheitsvorfälle sind ein Haftungs- und kein Technikthema
Die Vorfälle bei OpenAI und Anthropic zeigen zweierlei. Erstens genügen einfache Schwachstellen, damit automatisierte Systeme in fremde Infrastrukturen gelangen. Zweitens bemerken betroffene Unternehmen solche Zugriffe häufig nicht selbst, sondern erfahren davon durch Dritte. Beides verschiebt den Schwerpunkt von der Abwehr zur Erkennung und zur Dokumentation.
Rechtlich bleibt die Lage handhabbar. Das Verhalten eines KI-Systems wird den dahinterstehenden Unternehmen zugerechnet, Ansprüche folgen aus Deliktsrecht, Vertragsrecht und Datenschutzrecht, und die Meldepflichten sind klar geregelt. Entscheidend ist die Geschwindigkeit: Beweise verschwinden, Fristen laufen, und vorschnelle Erklärungen schränken den eigenen Spielraum ein.
Unternehmen, die KI produktiv einsetzen, sollten die Vorfälle als Anlass nehmen, Zugriffsgrenzen, Protokollierung und Verantwortlichkeiten zu überprüfen. Wer diese Punkte vorab regelt, spart im Ernstfall Zeit und vermeidet Haftungslücken. Weitere Themen rund um den rechtssicheren KI-Einsatz, etwa KI und geistiges Eigentum oder Abmahnungen wegen Verstößen gegen die KI-Verordnung, behandeln wir in eigenen Beiträgen.
Lassen Sie Ihre KI-Governance jetzt prüfen, solange kein Vorfall Druck erzeugt. Nachträgliche Korrekturen sind teurer als eine strukturierte Bestandsaufnahme.
