Das leistungsstärkste neue KI-Modell von Anthropic, Mythos, sei zu gefährlich, um es der Öffentlichkeit zugänglich zu machen, sagt das Unternehmen, was dringende Diskussionen mit Regierungen und Finanzaufsichtsbehörden auslöste.
Anthropic befindet sich in Gesprächen mit der US-Regierung über sein neues Mythos-KI-Modell, das nach Angaben des Unternehmens zu mächtig ist, um es der Öffentlichkeit zugänglich zu machen, da es „beispiellose Cybersicherheitsrisiken mit sich bringt“.
Auch die Bankenbranche schlägt Alarm.
„Die Regierung muss darüber Bescheid wissen“, sagte der Mitbegründer von Anthropic am Montag auf der Semafor World Economy-Veranstaltung in Washington.
„Absolut, wir reden mit ihnen über Mythos und wir werden auch mit ihnen über die nächsten Modelle reden“, fügte er hinzu.
Er verwies auf den öffentlichen Streit mit der Regierung, der letzten Monat dazu führte, dass das Unternehmen als Lieferkettenrisiko eingestuft wurde, und sagte: „Ich möchte nicht, dass das der Tatsache im Wege steht, dass uns die nationale Sicherheit sehr am Herzen liegt.“
Die Einstufung als Lieferkettenrisiko erfolgte nach dem Scheitern der Verhandlungen über die Bemühungen von Anthropic, die Nutzung seiner KI-Modelle durch das US-Verteidigungsministerium einzuschränken.
Der Schritt erfolgte, nachdem Finanzminister Scott Bessent letzte Woche ein Treffen hochrangiger amerikanischer Banker in Washington einberufen hatte, um das Mythos-Modell zu besprechen.
Laut Bloomberg ermutigte das Treffen den Bankmanager, das Mythos-Modell von Antropic zu nutzen, um Schwachstellen zu erkennen.
Anthropic sagte außerdem, dass es die Veröffentlichung seines neuen KI-Modells auf einige wenige Technologie- und Cybersicherheitsunternehmen beschränken werde. Auf der Liste stehen Amazon, Apple und JP Morgan Chase.
Berichten zufolge testen auch Goldman Sachs, Citigroup, Bank of America und Morgan Stanley das Anthropic-Modell, berichtete Bloomberg.
Am Montag gab das staatliche AI Security Institute (AISI) des Vereinigten Königreichs eine Warnung heraus, dass Mythos im Hinblick auf die von ihm ausgehende Cyber-Bedrohung einen „Fortschritt“ gegenüber früheren Modellen darstelle.
Unterdessen berichtete die Financial Times, dass die britischen Finanzaufsichtsbehörden auch über die potenziellen Risiken von Mythos diskutieren.
