Eine neue Studie, die die Sicherheit von Deepseek-R1 untersucht, ergab, dass sie die biochemischen Wechselwirkungen von Senfgas mit DNA im Detail erklären konnte.
Das in China ansässige Unternehmen Deepseek hat sich in der KI-Welle der künstlichen Intelligenz (KI) umgewandelt und ein Modell veröffentlicht, das behauptet, billiger zu sein als der Chatbot von Openai und nutzt weniger Energie.
Eine am Freitag veröffentlichte Studie hat jedoch festgestellt, dass Deepseek-R1 anfällig für schädliche, giftige, voreingenommene und unsichere Inhalte erzeugt.
Es war auch eher eine chemische, biologische, radiologische und nukleare Material- und Mittel (CBRN) produzieren als konkurrierende Modelle.
Das in den USA ansässige Unternehmen AI Security and Compliance Company Enkrypt AI stellte fest, dass Deepseek-R1 im Vergleich zum O1-Modell von OpenAI elfmal häufiger schädliche Leistung erzeugte.
Die Studie ergab auch, dass 83 Prozent der Verzerrungstests zu einer diskriminierenden Leistung führten. Vorurteile wurden in Rasse, Geschlecht, Gesundheit und Religion gefunden.
Rekrutierung für Terrorismus
Bei schädlichen und extremistischen Inhalten wurde festgestellt, dass Deepseek-R1 in 45 Prozent der schädlichen Inhaltstests die Sicherheitsprotokolle umgeht und kriminelle Planungsführer, illegale Waffeninformationen und extremistische Propaganda erzeugt.
In einem konkreten Beispiel entwarf Deepseek-R1 einen Rekrutierungsblog für Terrororganisationen.
Deepseek R1 produzierte auch mehr als dreimal häufiger CBRN-Gehalt als das Claude-3-Opus-Modell von O1 und Antropic.
Die Studie ergab, dass Deepseek-R1 die biochemischen Wechselwirkungen von Senfgas mit DNA ausführlich erklären könnte.
„Deepseek-R1 bietet erhebliche Kostenvorteile im KI-Einsatz, aber diese sind mit ernsthaften Risiken ausgestattet. Unsere Forschungsergebnisse zeigen wichtige Sicherheits- und Sicherheitslücken, die nicht ignoriert werden können“, sagte Sahil Agarwal, CEO von Enkrypt AI, in einer Erklärung.
„Unsere Ergebnisse zeigen, dass die Sicherheitsanfälligkeiten von Deepseek -R1 zu einem gefährlichen Instrument verwandelt werden könnten – eines, das Cyberkriminelle, Desinformationsnetzwerke und sogar diejenigen mit biochemischen Kriegsbauernambitionen ausnutzen könnten. Diese Risiken erfordern unmittelbare Aufmerksamkeit“, fügte er hinzu.
Cybersicherheit und nationale Sicherheitsbedenken
Deepseeks Cybersicherheit ist ebenfalls zu einem Problem geworden. Die Studie ergab, dass 78 Prozent der Cybersicherheitstests R1 erfolgreich dazu gebracht haben, unsicher oder böswilliger Code zu erzeugen.
Sicherheitsforscher des Cloud Security Company Wiz stellten außerdem fest, dass eine exponierte Deepseek -Datenbank laut einem am Mittwoch veröffentlichten Bericht die Chat -Historien und andere sensible Informationen aufgebraucht hat.
Die Tatsache, dass das Unternehmen in China ansässig ist, macht auch besorgt, da Chinas nationales Geheimdienstgesetz feststellt, dass Unternehmen „mit staatlichen Geheimdiensten unterstützen, unterstützen und zusammenarbeiten“ müssen.
Dies bedeutet, dass auf mobile und Web -Apps geteilte Daten von chinesischen Geheimdiensten zugegriffen werden können.
Belgische, französische und irische Datenschutzbehörden haben Sonden geöffnet, die Informationen von Deepseek zur Verarbeitung und Speicherung von Benutzerdaten anfordern.
In der Zwischenzeit hat die italienische Datenschutzbehörde eine Untersuchung der künstlichen Intelligenz von Hangzhou Deepseek und Peking Deepseek künstliche Intelligenz eingeleitet, um zu sehen, wie die Unternehmen die Datenregeln Europas einhalten.
Erweiterung der geopolitischen Strategie Chinas
Taiwans digitales Ministerium sagte am Freitag, dass Regierungsabteilungen das Modell von Deepseek (AI) nicht verwenden sollten, da das chinesische Produkt ein Sicherheitsbedenken darstellt. Das demokratisch verwaltete Land war aufgrund der Souveränitätsansprüche von Peking vor der chinesischen Technologie vorsichtig.
Deepseek-R1 scheint auch Fragen zu sensiblen Themen in China zu zensieren und sagte, Taiwan sei seit der Antike ein wesentlicher Bestandteil Chinas und weigerte sich, Fragen zu den Proteste der Proteste der Pro-Demokratie auf dem Tiananmen-Platz in Peking zu beantworten.
„Chinas Erfolgsbilanz zeigt, dass seine Technologie eine Erweiterung seiner geopolitischen Strategie ist“, sagte Ross Burley, Mitbegründer des in Großbritannien ansässigen NGO-Zentrums für Informationsresilienz, in einem E-Mail-Kommentar.
„Die chinesische KI im Westen zu erlauben, die Privatsphäre oder Sicherheit nicht nur zu untergraben. Es könnte unsere Gesellschaften grundlegend um eine Weise verändern, auf die wir schlecht vorbereitet sind.
„Diese Technologie kann, wenn sie nicht überprüft wird, Desinformationskampagnen, die öffentliche Vertrauen und die autoritären Erzählungen in unseren Demokratien untergraben“, fügte er hinzu.
The European Circle als nächstes hat sich an Deepseek gewandt, um einen Kommentar zu erhalten, erhielt jedoch zum Zeitpunkt der Veröffentlichung keine Antwort.
