Anthropic und Accenture investieren Milliarden in KI-Sicherheit

Anthropic und Accenture stellen über fünf Jahre jeweils mindestens eine Milliarde Dollar für unabhängige Prüfungen fortgeschrittener KI-Modelle bereit.

Kapitalmarktexperten bei Google bevorzugenBei Google bevorzugen
KI-generiertes Symbolbild
KI-generiertes Symbolbild

Das Wichtigste in Kürze

  • Jeweils eine Milliarde Dollar zugesagt
  • Prüfer erhalten direkten Entwicklungszugang
  • Accentures Faculty leitet die Initiative
  • Weitere Sicherheitspartnerschaften angekündigt

Mit einem gemeinsamen Milliardenprojekt wollen der KI-Entwickler Anthropic und der Beratungskonzern Accenture unabhängige Kontrolleure direkt in die Entwicklungsabteilungen holen. Beide Partner verpflichten sich, über die nächsten fünf Jahre jeweils mindestens eine Milliarde Dollar bereitzustellen, um neuartige Prüfverfahren für führende KI-Modelle aufzubauen. Das Vorhaben reagiert auf die wachsende Sorge, dass hochentwickelte Systeme der menschlichen Kontrolle entgleiten könnten.

Kontrolleure mit Mitarbeiterrechten

Im Mittelpunkt steht der Ansatz sogenannter eingebetteter Prüfer. Anders als bei herkömmlichen Tests von außen arbeiten diese Experten direkt in den Unternehmen. Sie erhalten Zugriffsrechte wie eigene Angestellte, um Trainingsläufe, Entwicklungsentscheidungen und Sicherheitsprotokolle laufend zu überwachen. Geleitet wird die Initiative von Accentures spezialisierter Einheit Faculty, die Sicherheitsbarrieren testen und gezielte Angriffssimulationen durchführen soll.

Die Verantwortung für die Sicherheit der Modelle verbleibt allerdings bei den Entwicklern selbst. Bislang fehlen in der Branche verbindliche Standards für Zugriffsrechte, Berichterstattung und Finanzierungsmodelle unabhängiger Prüfungen. Anthropic setzt darauf, dass solche Kontrollen langfristig über Branchenpools oder staatliche Mechanismen finanziert werden. Bis dahin testen die Partner alternative Modelle und sprechen unter anderem mit gemeinnützigen Organisationen wie METR über Pilotprojekte.

Druck auf Entwickler nimmt zu

Hinter dem Schritt steht spürbarer Druck von Regulierern und Unternehmen. Zuletzt sorgten Vorfälle für Unruhe, bei denen autonome KI-Agenten aus gesicherten Testumgebungen ausbrachen. Marktbeobachter fürchten, dass künftige Systeme mit immer weniger menschlichem Zutun an ihrer eigenen Weiterentwicklung arbeiten und ihr Verhalten kaum noch nachvollziehbar wird.

Am Samstag forderte Anthropic-Chef Dario Amodei die Branche auf, das Entwicklungstempo bei neuen Spitzenmodellen zu drosseln und externen Prüfern weitreichenden Einblick zu gewähren. Auch Konkurrenten bewegen sich: OpenAI kündigte am Mittwoch an, regelmäßige Berichte über unerwartetes Modellverhalten zu veröffentlichen, und legte erste Dokumentationen zu solchen Vorfällen vor.

Die Vereinbarung zwischen Anthropic und Accenture ist nicht exklusiv angelegt, beide Seiten können mit weiteren Unternehmen und Prüforganisationen kooperieren. Anthropic kündigte an, in den kommenden Wochen weitere Partnerschaften zur Sicherheitsprüfung vorzustellen.

Felix Baarz

Redaktion

Felix Baarz arbeitet seit 2016 als Wirtschaftsjournalist und gehört zur Redaktion der YES Investmedia GmbH.

Vita und alle Artikel

Weitere Nachrichten

Analyse per E-Mail

Unsere ausführliche Einzelanalyse mit Bewertung, Chartbild und Szenarien. Kostenlos als PDF.

  • Für jede Aktie mit eigener Seite bei uns
  • Kostenfrei und unverbindlich
  • Abmeldung mit einem Klick

Im nächsten Schritt geben Sie Ihre E-Mail-Adresse ein.

Sie erhalten die Analyse per E-Mail und danach kostenlose Börsen-Informationen unserer Redaktion. In jeder E-Mail finden Sie einen Link, über den Sie sich wieder abmelden können. Hinweis zum Datenschutz

Wertpapiere handeln

Anzeige

Werbelinks: Eröffnen Sie über diese Links ein Depot oder Konto, erhalten wir eine Provision. Für Sie ändert sich am Preis nichts. Die Auswahl ist keine Empfehlung für eine Aktie oder einen Anbieter. ¹ Konditionen laut Anbieter.

Alle Broker im Vergleich
Anzeige