Ein Konzern, der auf dem Weg zur größten Börsennotierung aller Zeiten ist, warnt im eigenen Prospekt vor seinen Produkten. Anthropic legt offen, dass autonome KI-Agenten irreversible Schäden anrichten könnten – von gelöschten Daten bis zu Finanztransaktionen ohne Kontrolle. Wer haftet dafür, ist juristisch offen.
Rechtliches Neuland als Risikofaktor
Anthropics Claude-Modelle sollen künftig tagelang eigenständig arbeiten und tief in Kundensysteme eingreifen. Genau das bereitet dem Unternehmen selbst Sorgen. Im Prospekt für den geplanten Börsengang räumt Anthropic ein, dass Fehler, Fehlausrichtungen oder Sicherheitslücken bei solchen Agenten reale Konsequenzen haben können.
Wie belastbar vertragliche Haftungsbegrenzungen gegenüber Klagen von Kunden oder Nutzern sind, lässt das Unternehmen offen. Die Formulierung im Prospekt ist deutlich: Bestehende Gesetze seien auf diese Fälle nicht zugeschnitten, die Rechtslage „unsicher“ und könne zu „erheblichen und unvorhersehbaren“ Klagen führen.
Ob eine KI-Aktion überhaupt als Produkt, Dienstleistung oder etwas völlig anderes einzustufen ist, bleibt laut Anthropic eine offene Frage – ebenso, ob Handlungen eines Agenten rechtlich dem Nutzer zugerechnet werden können.
Hinzu kommt ein heikler Punkt: Anthropic bestätigt, dass seine Modelle bereits in Fällen genutzt wurden, die mit Selbstverletzung oder Gewalt gegen Dritte in Verbindung stehen – trotz bestehender Schutzmechanismen.
Konkrete öffentliche Klagen gegen das Unternehmen gibt es dazu bislang nicht, anders als bei OpenAI, das sich mehreren Klagen rund um ChatGPT und psychische Gesundheitsschäden stellen muss.
Der Fall zeigt aber, wie schnell sich das Blatt wenden kann: Meta und Google wurden in einem ähnlich gelagerten Verfahren wegen Instagram und YouTube zu Fahrlässigkeit verurteilt, Meta zahlt inzwischen milliardenschwere Vergleichssummen über eine Dekade verteilt.
Die Behördenperspektive bleibt uneindeutig
Die US-Kartellbehörde FTC positioniert sich bereits gegen die Vorstellung einer KI, die eigenständig „außer Kontrolle gerät“. Nach Ansicht des FTC-Vorsitzenden Andrew Ferguson sollten Entwickler oder Nutzer haftbar gemacht werden, nicht die Technologie selbst. Damit bleibt zentral ungeklärt, wer am Ende für Schäden geradesteht – der Werkzeugbauer oder derjenige, der das Werkzeug einsetzt.
Für ein Unternehmen, das laut Prospekt einen Betriebsverlust von über acht Milliarden Dollar bei gleichzeitig fast versechsfachtem Umsatz ausweist und auf eine Bewertung von über zwei Billionen Dollar zielt, ist diese Rechtsunsicherheit kein Randthema. Sie steht neben den bereits bekannten Risikohinweisen zu autonomen, potenziell existenzbedrohenden Modellverhalten im selben Kapitel des Prospekts.
Der Börsengang wird nach den US-Zwischenwahlen im November erwartet. Bis dahin bleibt offen, ob Investoren die juristische Grauzone rund um autonome Agenten als Randnotiz abtun oder als ernsthaftes Preisrisiko in ihre Bewertung einpreisen.
Stand heute, 30. September: Anthropic – Kaufen, halten oder verkaufen?
Wer in Anthropic investiert ist oder einen Einstieg prüft, sollte die Lage jetzt neu bewerten. Die Gratis-Analyse vom 30. September gibt die klare Antwort – und zeigt, warum Abwarten gerade jetzt riskanter sein kann, als es wirkt.
