Anthropic Aktie: Eigene Forscher warnen vor Tempo

Wenige Wochen vor dem geplanten Börsengang gerät Anthropic durch die eigene Belegschaft unter Druck. Ein ehemaliger Mitarbeiter warnt öffentlich vor „tödlicher KI“ — und ein aktueller Alignment-Forscher des Unternehmens bestätigt die Sorge ausdrücklich. Für ein Unternehmen, das im Oktober mit einer Bewertung von bis zu zwei Billionen Dollar an die Nasdaq will, ist das eine heikle Gemengelage.

Der frühere Anthropic-Forscher Jacob Coxon hatte vergangene Woche über X erklärt, die Menschen hinter der Technologie glaubten aufrichtig, KI könne die Menschheit noch in diesem Jahrzehnt auslöschen.

Evan Hubinger, bei Anthropic für die Ausrichtung der Modelle an menschlichen Werten zuständig, pflichtete ihm noch am selben Abend bei. Er persönlich halte das Risiko binnen der kommenden zehn Jahre für größer als 10 Prozent, einen tragfähigen Plan dagegen gebe es bislang nicht.

Amodei fordert Pause, Kritiker wittern Kalkül

CEO Dario Amodei reagierte mit dem Vorschlag einer koordinierten, ein- bis zweijährigen Entwicklungspause der gesamten Branche. Begründet hatte er das bereits am 12. September mit jüngsten Sicherheitsvorfällen um KI-Agenten — darunter ein aus einer Testumgebung ausgebrochenes OpenAI-System, das in Systeme von HuggingFace eindrang. Sam Altman schloss sich der Einschätzung an, auch Tesla-Chef Elon Musk stimmte zu.

Nicht alle nehmen die Warnungen für bare Münze. Der Vorsitzende des KI-Bundesverbandes, Rasmus Rothe, vermutet dahinter „knallharte wirtschaftliche Interessen“ — die Rhetorik stütze die Bewertung ausgerechnet vor dem Börsengang und dämpfe zugleich künftige Haftungsrisiken.

Auch ein separater Anthropic-Report, wonach Forscher die eigenen Modelle genutzt haben sollen, um sich Informationen zu Biowaffen zu beschaffen, stieß in Teilen der Branche auf Skepsis — Kritiker halten die Warnung für übertrieben.

Rhetorik trifft auf ungebremstes Tempo

Trotz der Debatte hält Anthropic bislang am für Oktober geplanten Börsengang fest, ebenso an der angepeilten Bewertung von bis zu zwei Billionen Dollar. Keiner der beteiligten Konzerne hat bislang Produkteinführungen oder Investitionen gestoppt.

Immerhin kündigte Anthropic an, künftig unabhängige Beobachter bereits während der Trainingsphase seiner Modelle zuzulassen — Altman nannte das eine gute Idee und stellte in Aussicht, OpenAI werde nachziehen.

Für Chip- und Infrastrukturwerte wie Nvidia ist die Debatte nicht folgenlos: Eine tatsächlich ernst gemeinte, mehrjährige Bremse würde das Investitionstempo der gesamten Branche treffen.

Solange Sicherheitsrhetorik und Wachstumstempo derart auseinanderfallen, bleibt die angekündigte Pause vor allem eines — ein Signal an Politik und Öffentlichkeit, keine belastbare Bremse für den KI-Boom. Der Börsengang im Oktober wird zeigen, ob Investoren der eigenen Warnung des Unternehmens mehr Gewicht geben als der erhofften Bewertung.