Die Ankündigung erfolgt nur wenige Tage, nachdem der Konkurrent OpenAI bekannt gegeben hat, dass seine beliebte ChatGPT-Plattform während der Testphase seines leistungsstärksten KI-Modells abtrünnig geworden ist und dabei auch den Cyberspace anderer Organisationen infiltriert hat.
Die Modelle der künstlichen Intelligenz (KI) von Anthropic „verschafften sich während der Tests unbefugten Zugriff“ auf drei externe Organisationen, was sie von „realen“ Systemen fernhalten sollte, teilte das Unternehmen am Donnerstag mit.
Die Ankündigung erfolgt nur wenige Tage, nachdem der Konkurrent OpenAI erstmals bekannt gegeben hat, dass seine Modelle unsachgemäß auf das Internet zugegriffen haben und sich bei Sicherheitstests als böswillig erwiesen haben.
Anthropic hat mehr als 141.000 „Evaluierungsläufe“ ausgewertet und festgestellt, dass drei verschiedene Versionen seines Modells, bekannt als Claude, unrechtmäßig auf die Systeme von drei Organisationen zugegriffen haben, deren Namen sie nicht nannten.
Im Gegensatz zu dem Vorfall mit der Technologie von OpenAI hatten die Modelle von Anthropic „aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner“, genannt „Irregular“, Zugang zum Internet, sagte Anthropic in einem Beitrag.
Dennoch nutzte Claude „grundlegende Techniken, wie die Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte“, heißt es in dem Blog weiter.
Zu den beteiligten Modellen gehörte eines der leistungsstärksten Modelle namens Mythos 5, das nur einer begrenzten Anzahl zugelassener Partner zur Verfügung gestellt wurde.
Anthropic arbeite mit Irregulär zusammen, um die Situation zu beurteilen, und das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt aufzunehmen.
Systeme sind abtrünnig geworden
OpenAI und Anthropic haben dieses Jahr beide ihre leistungsstärksten Modelle veröffentlicht, die als Sol bzw. Mythos bekannt sind, was in der gesamten Branche Bedenken hinsichtlich Sicherheit und Schutz hervorruft.
Die Bedenken drehen sich auch um sogenannte KI-Agenten, also Softwareprodukte, die eigenständig Aufgaben erledigen sollen.
OpenAI gab letzte Woche zu, dass seine Modelle während des Tests aus ihrer engen Umgebung ausgebrochen sind, sich mit dem Internet verbunden haben und Hugging Face infiltriert haben, eine Website, auf der Entwickler ihren Code speichern und teilen.
Tage später gab OpenAI bekannt, drei weitere Vorfälle gefunden zu haben.
Sam Altman, CEO von OpenAI, sagte diese Woche in einem Podcast, dass das Unternehmen seine eigenen Tests nach dem Vorfall „pausiert“ habe, während es die Sicherheit rund um sein „Sandboxing“ verbessert habe, bei dem es sich um den Prozess der Isolierung von Software in einer kontrollierten Umgebung zum Testen handelt.
Der Vorfall löste auch eine Petition aus, die von über 1.000 Mitarbeitern hochmoderner KI-Unternehmen unterzeichnet wurde und die US-Regierung aufforderte, dabei zu helfen, die Veröffentlichung der fortschrittlichsten KI-Modelle zu verlangsamen. Anthropic-CEO Dario Amodei gehörte zu den Unterzeichnern der Petition.
Unter dem Titel „Pacing the Frontier“ wird in der Petition gefordert, „dass die US-Regierung eine internationale Anstrengung zur Entwicklung der technischen und Governance-Instrumente unterstützt, die erforderlich sind, um die Grenzen der automatisierten KI-Entwicklung gezielt voranzutreiben.“
Altman unterzeichnete die Petition nicht, deutete jedoch während des Podcasts an, dass die Technologiebranche die Entwicklung fortschrittlicher Modelle möglicherweise verlangsamen müsse.
„Möglicherweise müssen wir das Tempo der KI-Entwicklung beschleunigen, um der Gesellschaft genügend Zeit zu geben, sich an einige dieser neuen Leistungsniveaus zu gewöhnen“, sagte Altman.
Anfang des Jahres berief sich die Trump-Administration auf nationale Sicherheitsbedenken, um OpenAI und Anthropic an der Einführung ihrer neuesten Modelle zu hindern, gab aber letztlich zu verstehen, dass sie sich mit Zusicherungen über deren Sicherheit zufrieden gab, was zu deren Veröffentlichung führte.
Im Juni unterzeichnete Trump eine Durchführungsverordnung zur Schaffung eines freiwilligen Rahmens, nach dem KI-Entwickler fortschrittliche Modelle vor der Veröffentlichung mit der Regierung teilen werden.
Im Rahmen des Frameworks würden Entwickler wie OpenAI, Anthropic und Google der Regierung bis zu 30 Tage vor der geplanten Veröffentlichung Zugriff auf ihre leistungsstärksten Modelle gewähren.
